近日，商湯科技所提出「發(fā)展」的AI倫理觀，從人的角度出發(fā)。與早期的「AI倫理」不同，商湯所提出的發(fā)展AI倫理觀，不僅強(qiáng)調(diào)對(duì)技術(shù)負(fù)面影響的約束，還強(qiáng)調(diào)人工智能對(duì)社會(huì)與個(gè)人的正向價(jià)值。
更重要的是，商湯認(rèn)為，在發(fā)展與落地人工智能技術(shù)的過程中，「AI倫理」要考慮行業(yè)變革的飛快性，在技術(shù)發(fā)展的不同階段采取不同治理框架，實(shí)現(xiàn)社會(huì)的發(fā)展平衡。
簡(jiǎn)而言之，就是：緊跟時(shí)代，以人為本，既要「揚(yáng)善」，也要「除惡」。
01. AI治理的復(fù)雜性
近幾年，隨著人工智能在日常生活中的不斷滲入，這項(xiàng)神奇的技術(shù)也逐漸向世人展示了自己的正邪兩面。
先看「善」的一面。
這兩年，新冠疫情爆發(fā)，被廣泛使用的無(wú)感測(cè)溫、無(wú)感通行，便是基于感知識(shí)別的人工智能技術(shù)。嫁接于各個(gè)計(jì)算機(jī)軟硬件的AI技術(shù)，如智能圖像處理、便捷支付、對(duì)話機(jī)器人等等，也極大地便利了人們的日常生活。
舉個(gè)例子。此前商湯也研發(fā)智能避障眼鏡，幫助視力障礙者在戶外行走時(shí)獲得交通信號(hào)、環(huán)境障礙物等語(yǔ)音提示，改善視障人士的生活。
人工智能不僅在實(shí)際的應(yīng)用中帶來(lái)了極為直觀的價(jià)值，在學(xué)術(shù)研究上也產(chǎn)生了令人矚目的影響。比如，前段時(shí)間，DeepMind用機(jī)器學(xué)習(xí)證明了兩大困擾人類科學(xué)家數(shù)十年的數(shù)學(xué)猜想，登頂Nature。人工智能學(xué)家將AI與物理、生物、化學(xué)等基礎(chǔ)研究相結(jié)合、并取得卓越成果的例子亦不勝枚舉。
但與此同時(shí)，由于深度學(xué)習(xí)算法的「黑盒子」特征，以及人工智能系統(tǒng)在現(xiàn)實(shí)生活落地中所體現(xiàn)的不穩(wěn)定性、不可控性等，誤用、或?yàn)E用人工智能給人類社會(huì)帶來(lái)的傷害也不容小覷。
在這樣的背景下，建立AI的倫理體系實(shí)為大勢(shì)所趨。為了促進(jìn)AI技術(shù)的良性發(fā)展，各方力量承擔(dān)起了不同的角色。比方說(shuō)，據(jù)聯(lián)合國(guó)統(tǒng)計(jì)，全球目前一共出臺(tái)了超過150份有關(guān)AI治理的報(bào)告方案，學(xué)術(shù)界也掀起了「可信AI」、「負(fù)責(zé)任AI」與「AI向善」等多個(gè)新興話題的研究熱潮。
那么，科技公司應(yīng)該如何承擔(dān)起AI可持續(xù)發(fā)展的責(zé)任？作為AI產(chǎn)業(yè)的先行者，商湯有自己的思考。
首先，AI技術(shù)要不要發(fā)展？答案無(wú)疑是肯定的。正如商湯科技副總裁、商湯人工智能倫理委員會(huì)的主席楊帆所說(shuō)：
「解決技術(shù)倫理最簡(jiǎn)單直接的方法，看起來(lái)似乎是不搞技術(shù)創(chuàng)新，那么自然就不會(huì)存在數(shù)字科技的諸多問題。然而，國(guó)家要發(fā)展，社會(huì)要進(jìn)步，人們的生活質(zhì)量要改善。前沿科技的發(fā)展對(duì)家、國(guó)、天下都非常重要。如果有顧慮就放棄發(fā)展，就是因噎廢食。」
「技術(shù)發(fā)展與技術(shù)治理，本身就是制約與平衡的關(guān)系，韁繩勒得太早、勒得太死，會(huì)制約技術(shù)的發(fā)展；在技術(shù)演進(jìn)的過程中，適時(shí)地收一收繩子、收住技術(shù)的底線和邊界，才能讓技術(shù)發(fā)展與應(yīng)用，走得快、走得遠(yuǎn)。如今，AI已經(jīng)走出實(shí)驗(yàn)室，隨著AI通用大裝置的日漸發(fā)展，機(jī)器猜想將帶給我們更多的可能，倫理治理由此將更為重要?！?/p>
楊帆還表示：「沒有理論可以完美解釋技術(shù)，但我們要了解技術(shù)應(yīng)用的邊界。通過AI倫理治理，既是規(guī)避AI技術(shù)的負(fù)面影響，引導(dǎo)技術(shù)的正向發(fā)展，推動(dòng)公司與行業(yè)的可持續(xù)發(fā)展；同時(shí)，這也是業(yè)內(nèi)領(lǐng)先公司、以及所有AI從業(yè)者們所應(yīng)當(dāng)承擔(dān)的社會(huì)責(zé)任?！?/p>
從成立之初，商湯的使命便一直沒有改變：堅(jiān)持原創(chuàng)，讓AI引領(lǐng)人類進(jìn)步。也就是說(shuō)，在商湯將AI落地的過程中，AI的服務(wù)對(duì)象不應(yīng)該局限于一個(gè)特定的群體，而應(yīng)該面向整個(gè)人類社會(huì)。
楊帆提出，AI治理是一個(gè)多目標(biāo)、多維度的平衡過程。比如，防疫期間，保護(hù)集體利益的目標(biāo)與尊重個(gè)人行程隱私的目標(biāo)要權(quán)衡；健康碼快速人群分類進(jìn)行針對(duì)性防治與老年人數(shù)碼產(chǎn)品使用問題要權(quán)衡等等。
多維目標(biāo)的權(quán)衡，意味著AI治理的難度在增加。為此，商湯倫理委員會(huì)整理國(guó)際主流的治理觀點(diǎn)、以及產(chǎn)業(yè)一線的實(shí)踐經(jīng)驗(yàn)，提出了AI治理的三大核心：技術(shù)可控、以人為本與可持續(xù)發(fā)展。具體來(lái)說(shuō)，每個(gè)核心的表現(xiàn)大約如下：
可持續(xù)發(fā)展：保護(hù)環(huán)境、保護(hù)和平、包容共享、開放協(xié)作、社會(huì)認(rèn)知、敏捷治理……
以人為本：保護(hù)人權(quán)、保護(hù)隱私、人類可控、公平無(wú)歧視、造福人類……
技術(shù)可控：可驗(yàn)證、可審查、合法性、可信任、可解釋、安全可靠、公開透明、負(fù)責(zé)任……
制度式的「技術(shù)可控」
值得注意的是，商湯科技在「AI倫理」的參與過程中，不僅是停留在倡議或報(bào)告類的書面工作上。商湯的「關(guān)鍵行動(dòng)」，是率先將「AI倫理」的治理工作貫徹在產(chǎn)品與業(yè)務(wù)的運(yùn)營(yíng)過程中，使之成為商湯企業(yè)管理中的一環(huán)。
2020年1月，商湯成立了人工智能倫理委員會(huì)，從企業(yè)的組織架構(gòu)上滲透「AI治理」的觀念。
對(duì)內(nèi)，委員會(huì)審核商湯的所有落地產(chǎn)品線，對(duì)員工進(jìn)行倫理通識(shí)培訓(xùn)，提高員工在日常工作中的倫理意識(shí)；對(duì)外，與其他組織合作，共同開展AI倫理的研究工作。
為了保證委員會(huì)所作決策的客觀與中立，該倫理委員會(huì)有一條硬性規(guī)定，即外部委員不能少于1/3的席位。
今年上半年，該委員會(huì)上線了倫理審核系統(tǒng)，從實(shí)際的運(yùn)營(yíng)「把關(guān)」中踐行了「技術(shù)可控」的核心AI治理原則。
該線上系統(tǒng)的設(shè)置，結(jié)合參考了國(guó)內(nèi)外在技術(shù)倫理方面眾多的政策制度和研究成果。審核體系從數(shù)據(jù)風(fēng)險(xiǎn)、算法風(fēng)險(xiǎn)與社會(huì)風(fēng)險(xiǎn)三大維度出發(fā)，設(shè)置十余個(gè)板塊，近30道題目，從尊重人權(quán)、向善性、無(wú)偏性、隱私保護(hù)、可靠性、透明及可解釋性、問責(zé)性等等角度，對(duì)項(xiàng)目進(jìn)行詳細(xì)拆解，考察其倫理水平。
目前，倫理審核已經(jīng)嵌入商湯立項(xiàng)審核流程，進(jìn)行線上評(píng)審，并根據(jù)評(píng)分對(duì)被審核的產(chǎn)品進(jìn)行風(fēng)險(xiǎn)等級(jí)劃分。對(duì)于倫理風(fēng)險(xiǎn)較高的產(chǎn)品，該系統(tǒng)會(huì)予以駁回，提出中斷開發(fā)、下線或整改的要求。若無(wú)法通過整改，則不予以立項(xiàng)上市。
比如，曾經(jīng)有「AI算命」的客戶提出用計(jì)算機(jī)視覺技術(shù)識(shí)別人體特征、手掌掌紋等信息，自動(dòng)給出用戶的人生運(yùn)勢(shì)等預(yù)測(cè)。識(shí)別這些信息和特征，技術(shù)上來(lái)說(shuō)并不難，但這顯然不符合價(jià)值觀，即使預(yù)見可以有所收益，這樣的項(xiàng)目也無(wú)法立項(xiàng)成型。
楊帆的看法是：「技術(shù)有所不為，而后才能有所為?！闺m然一個(gè)高盈利的AI產(chǎn)品可能會(huì)因?yàn)轱L(fēng)險(xiǎn)問題被淘汰、從而對(duì)公司營(yíng)收會(huì)造成直接影響，但從長(zhǎng)遠(yuǎn)的角度來(lái)看，這是必要的。
目前，這套系統(tǒng)已經(jīng)全面覆蓋商湯存量產(chǎn)品與新增申請(qǐng)立項(xiàng)產(chǎn)品，形成了內(nèi)部的產(chǎn)品項(xiàng)目從立項(xiàng)、發(fā)布、運(yùn)營(yíng)全生命周期的倫理風(fēng)險(xiǎn)控制機(jī)制。倫理審核結(jié)果會(huì)伴隨產(chǎn)品研發(fā)和發(fā)布的全過程，若發(fā)布階段產(chǎn)品有重大變化，則需要重新審核說(shuō)明。
據(jù)商湯披露，從該系統(tǒng)上線至今，已有 10% 的產(chǎn)品被責(zé)令整改或下線；在對(duì)新增項(xiàng)目審核中，有 5% 的項(xiàng)目被打回整改，或駁回立項(xiàng)，累計(jì)放棄價(jià)值數(shù)百萬(wàn)的商業(yè)利益。
「光有概念、有想法是不夠的，AI倫理治理既需要高屋建瓴的指引原則，也需要具體而微的評(píng)估指標(biāo)。系統(tǒng)的建立就是根據(jù)這些指標(biāo)維度建構(gòu)人工智能倫理風(fēng)險(xiǎn)評(píng)估體系，將指標(biāo)具體化、操作化，為企業(yè)的技術(shù)治理與風(fēng)險(xiǎn)管控提供支持。」楊帆表示，
而在實(shí)踐中，AI倫理管理系統(tǒng)，通過系統(tǒng)的方式將風(fēng)險(xiǎn)識(shí)別、評(píng)估、處理、 監(jiān)控及匯報(bào)等各環(huán)節(jié)都進(jìn)行了覆蓋，明確各產(chǎn)品全生命周期中各個(gè)主體的風(fēng)險(xiǎn)管控責(zé)任，讓技術(shù)可控有章可循、有規(guī)可依、有據(jù)可查?！?/p>
今年11月，商湯因倫理方面前瞻性思考和實(shí)踐，獲得了《哈佛商業(yè)評(píng)論》2021年度拉姆·查蘭管理實(shí)踐獎(jiǎng)。這也是國(guó)內(nèi)首個(gè)因?yàn)樵诩夹g(shù)倫理與治理方面的實(shí)踐而獲得的頂尖商學(xué)院媒體授予的企業(yè)。
03. 「發(fā)展」的AI倫理觀
「技術(shù)可控」并非目的，而是手段。
說(shuō)到底，人工智能企業(yè)在技術(shù)創(chuàng)新中「有所不為」的最終目標(biāo)，不是為了停止人工智能技術(shù)的研究與創(chuàng)新，而是以一種良性的、可持續(xù)的方式在現(xiàn)實(shí)生活中發(fā)展人工智能，緊跟時(shí)代需求，使其為人類、為社會(huì)造福。
今年，在倫理審核之外，商湯也繼續(xù)保持其在人工智能技術(shù)上的創(chuàng)新，推出AI大裝置等人工智能基礎(chǔ)設(shè)施，「?jìng)惱碇卫怼古c「技術(shù)創(chuàng)新」雙管齊下，為行業(yè)做貢獻(xiàn)。
「無(wú)論是技術(shù)本身、還是技術(shù)治理上，商湯都是開放而堅(jiān)定的長(zhǎng)期主義者。AI倫理治理是一個(gè)需要持續(xù)關(guān)注與投入的話題。人工智能倫理的發(fā)展，需要多方合作、共同探索?！?/p>
據(jù)了解，目前，商湯科技已與清華大學(xué)人工智能國(guó)際治理研究院、上海交通大學(xué)、上海人工智能實(shí)驗(yàn)室、上?？茖W(xué)學(xué)所、數(shù)據(jù)法盟等共10家機(jī)構(gòu)展開合作，圍繞敏捷治理、數(shù)據(jù)安全、人工智能算法的可解釋性等方面開展聯(lián)合研究，平均每年推動(dòng)五個(gè)專項(xiàng)課題的研究，產(chǎn)出10+專項(xiàng)研究報(bào)告。
當(dāng)越來(lái)越多力量參與其中，「AI倫理」就不再只是一句口號(hào)，而會(huì)演化成實(shí)際的行動(dòng)，貫徹人工智能的發(fā)展始終，最終推動(dòng)人工智能在人類社會(huì)的全面落地。彼時(shí)，人類與AI才算得上是真正的「和諧共存」。而這，也正是「發(fā)展」AI倫理觀的愿景所在。
