人工智能企業(yè)該怎樣組建道德委員會

2019年7月24日下午，中央深改委召開第九次會議，審議通過《國家科技倫理委員會組建方案》。這表明國家對構(gòu)建科技倫理治理體系前所未有的高度重視，而人工智能倫理是科技倫理中重要的內(nèi)容。

在此背景下，我國人工智能企業(yè)成立倫理委員會正當其時。但人工智能企業(yè)怎么組建倫理委員會也成為一大現(xiàn)實難題。昨天我們發(fā)文討論了組建國家科技倫理委員會釋放了什么信號？今天，新京報智慧城市研究院特別刊登中國人民大學(xué)法學(xué)院副教授，未來法治研究院社會責(zé)任和治理研究中心主任郭銳、中國人民大學(xué)法學(xué)碩士李依及劉雅潔的深度長文，為企業(yè)和大眾進一步解答人工智能企業(yè)的倫理委員會應(yīng)當如何組成。

人工智能技術(shù)的開發(fā)和應(yīng)用深刻地改變著人類的生活，滲透交通出行、金融科技、教育培訓(xùn)、資訊平臺等方方面面。日益廣闊的應(yīng)用場景，讓一個共識逐漸明晰：人工智能對倫理秩序沖擊的深度和廣度，可能是任何現(xiàn)代科技都難以比擬的。而掌握最前沿技術(shù)、擔(dān)負著技術(shù)落地執(zhí)行者角色的科技公司們，尤其應(yīng)該有明確的倫理意識，并將對倫理的考量貫穿始終。這其中尤為重要的方式之一便是設(shè)立倫理委員會。

AI倫理委員會在實踐中有多種稱謂，常見的有“倫理道德委員會”“倫理審查委員會”“倫理風(fēng)險委員會”等。而設(shè)置倫理委員會的目的，從這些大同小異的名稱中也可見一斑：一是讓AI倫理“成為問題”：讓合倫理性在AI產(chǎn)品開發(fā)的諸多考量因素中占據(jù)一席之地；二是讓AI倫理的審查盡可能專業(yè)、獨立：與其讓一線研發(fā)人員在技術(shù)和倫理的不同標準中無所適從，不如將倫理部分剝離出來，交由專門機構(gòu)集中應(yīng)對。

許多科技公司面臨的一個困境是，盡管算法歧視等AI倫理風(fēng)險普遍存在，但程序員缺乏對倫理進行準確判斷的專業(yè)知識，也難以承擔(dān)諸如“自動駕駛汽車應(yīng)優(yōu)先保護車內(nèi)乘客還是車外行人”等關(guān)鍵倫理選擇的責(zé)任。因此，相對獨立集中且成員具備多元背景的倫理委員會，更適于對這些倫理問題進行判斷。

其實，這一嘗試在國外早已有之。目前、Google、Lucid AI、微軟等多家大型科技公司已經(jīng)設(shè)立了倫理審查委員會。審查委員會一般由具有不同知識背景和經(jīng)驗的專家組成，在審查時參考一定的行業(yè)標準，并最大限度地考慮安全和倫理問題。如微軟成立了“倫理道德委員會”，由產(chǎn)品開發(fā)、研究員、法律事務(wù)、人力資源等部門的負責(zé)人組成。［1］

倫理委員會應(yīng)當具備哪些職能？

從機構(gòu)定位上看，倫理風(fēng)險管理委員會應(yīng)當作為倫理風(fēng)險管理的領(lǐng)導(dǎo)機構(gòu)，組成人員可以包括主要人工智能研發(fā)部門的負責(zé)人、企業(yè)法務(wù)和/或合規(guī)部負責(zé)人以及處理倫理風(fēng)險問題的協(xié)調(diào)專員。主要職能可以包括制定企業(yè)內(nèi)部倫理風(fēng)險管理政策、對倫理風(fēng)險管理的相關(guān)問題做出決策、進行算法審計及質(zhì)量審查工作以及協(xié)調(diào)企業(yè)內(nèi)部各部門的倫理風(fēng)險應(yīng)對工作。

尤應(yīng)注意的是，倫理委員會并不是企業(yè)在構(gòu)建AI倫理風(fēng)險治理機制時唯一依賴的機構(gòu)，企業(yè)不能奢望將所有倫理問題委由倫理委員會一攬子解決，而不提供配套的執(zhí)行機制。從委員會的性質(zhì)上看，成員將主要負責(zé)評估和風(fēng)險決策的制定，但難以作為執(zhí)行機構(gòu)將具體決定落到實處。

因此，倫理委員會可領(lǐng)導(dǎo)整個風(fēng)險管理流程的實施及監(jiān)督，并交由各業(yè)務(wù)部門的具體倫理風(fēng)險管理小組具體實施相關(guān)決策，并定期將成果匯報至倫理委員會。

一般意義上的AI風(fēng)險管理流程（白底框）和人工智能倫理委員會職能（藍底框）的對應(yīng)關(guān)系大致如下圖所示：

具體而言，企業(yè)內(nèi)部設(shè)立的人工智能倫理委員會應(yīng)當具備如下職能：

1. 領(lǐng)導(dǎo)AI倫理風(fēng)險控制流程的實施及監(jiān)督。此外，為管理人工智能可能產(chǎn)生的倫理風(fēng)險，委員會可以建立相應(yīng)的內(nèi)部制度對風(fēng)險進行識別、評估、處理、監(jiān)控及匯報，以管理相關(guān)風(fēng)險。對于倫理風(fēng)險的管理應(yīng)從人工智能產(chǎn)品或服務(wù)的設(shè)計階段開始，并貫穿于產(chǎn)品或服務(wù)的整個生命周期。

2. 參與AI的倫理風(fēng)險評估。委員會可以定期進行倫理風(fēng)險評估，對企業(yè)總體可能涉及的倫理風(fēng)險進行識別，評估一段時間內(nèi)相關(guān)倫理風(fēng)險應(yīng)對措施是否適當且有效。委員會可以根據(jù)相關(guān)法律法規(guī)以及政府及行業(yè)標準的規(guī)定，具體評估本企業(yè)所面臨的風(fēng)險，并記錄評估內(nèi)容及結(jié)果。還可以視情況聘請外部專家參與評估，確保評估的有效性。

3. 審查倫理評價結(jié)果。對于某項具體的人工智能產(chǎn)品或服務(wù)而言，企業(yè)可采用相關(guān)手段識別可能涉及的倫理風(fēng)險，對該倫理風(fēng)險的性質(zhì)和特征進行分析并進行風(fēng)險評價，記錄評價結(jié)果并交由倫理風(fēng)險管理委員會進行審查。風(fēng)險分析的目的是理解包括風(fēng)險水平在內(nèi)的風(fēng)險性質(zhì)和特征。

此外，一項AI產(chǎn)品的倫理風(fēng)險不是不變的。在基于算法的深度學(xué)習(xí)過程中，算法模型會根據(jù)數(shù)據(jù)庫的樣本不斷更新，并可能帶來新的倫理問題或逐漸消除原有的倫理風(fēng)險。因此，常態(tài)化的委員會可以定期對以往的倫理評價進行二次審查，確保倫理評價結(jié)果的適時性。

4. 定期審查決策執(zhí)行情況。如前所述，在倫理委員會之下，還有承接決定執(zhí)行的倫理風(fēng)險管理小組。小組對委員會決策的執(zhí)行情況，自然也需要定期的審查和監(jiān)督。

有專家指出，對人工智能的倫理審查存在一個悖論：如何為自己尚未完全理解的問題設(shè)計解決方案？因此，委員會起初作出的決策并不一定實際可行，具體效果要通過實踐檢驗。而風(fēng)險管理小組便可承擔(dān)向委員會匯報并反饋實踐結(jié)果的職能。

谷歌倫理委員會的火速解散，留下了什么啟示？

繼2018年公布谷歌人工智能原則后，3月26日，Google全球事務(wù)高級副總裁Kent Walker在Google博客中發(fā)文宣布，為了貫徹落實Google AI七原則，完善相關(guān)的內(nèi)部治理結(jié)構(gòu)和流程，成立先進技術(shù)外部咨詢委員會（Advanced Technology External Advisory Council ， ATEAC）。

谷歌成立的這個人工智能委員會旨在檢查公司的決策，定期開會并制作有關(guān)該領(lǐng)域和谷歌技術(shù)進展的報告。Kent在博客中寫道：“該委員會不具有否決權(quán)，但意在為我們的工作提供多樣化視角?！?/p>

該委員會是幫助解決谷歌在其公布的引導(dǎo)其研究和產(chǎn)品的發(fā)展和使用的人工智能原則中出現(xiàn)的一些挑戰(zhàn)。比如像人臉識別，機器學(xué)習(xí)中一些令人不安的因素。一個值得注意的點是，委員會的設(shè)立是為了從多個角度分析與人工智能倫理相關(guān)的問題，而委員會的成員是非Google員工的具有多樣化背景的外部人員：

? Alessandro Acquisti，行為經(jīng)濟學(xué)家，隱私問題研究者，卡耐基梅隆大學(xué)信息技術(shù)與公共政策教授。

? Bubacarr Bah，應(yīng)用和計算數(shù)學(xué)家，高級研究員，南非非洲數(shù)學(xué)科學(xué)研究所（AIMS）數(shù)據(jù)科學(xué)專業(yè)的德國研究主席。

? 吳德愷，音樂技術(shù)和機器學(xué)習(xí)專家，港科大計算機科學(xué)與工程教授，伯克利國際計算機科學(xué)研究所杰出研究者。

? Dyan Gibbens，工業(yè)工程和無人系統(tǒng)專家，Trumbull Unmanned公司CEO，該公司專注于自動化、數(shù)據(jù)、能源和防御的環(huán)境恢復(fù)能力。

? Joanna Bryson，心理學(xué)和人工智能倫理學(xué)專家，巴斯大學(xué)計算機系副教授，多家人工智能公司的顧問。

? Kay Coles James，美國傳統(tǒng)基金會主席，曾在美國各級政府擔(dān)任公共政策專家。

? Luciano Floridi，哲學(xué)家，數(shù)字倫理專家，牛津大學(xué)哲學(xué)和信息倫理教授，指導(dǎo)牛津互聯(lián)網(wǎng)研究所的數(shù)字倫理實驗室，艾倫圖靈研究院數(shù)字倫理小組主席。

? William Joseph Burns，外交政策專家，美國前副國務(wù)卿，卡內(nèi)基國際和平基金會主席。

委員會的組成人員來自學(xué)界、企業(yè)、和政界的不同背景。谷歌原本的計劃是，第一屆的8位成員從4月開始舉行四次會議，直到2019年年底屆滿。但是早在2019年3月31日，Alessandro Acquisti在Twitter上公開表示退出ATEAC，認為討論AI倫理這種重大事項，這個機構(gòu)不合適。2019年4月4日，該委員會宣布解散。

谷歌成立倫理委員會到解散倫理委員會的經(jīng)歷雖然時間不長，但是其中仍然有幾點值得我們思考。首先，倫理委員會是否應(yīng)當由企業(yè)外部人員構(gòu)成？第二，倫理委員會的組成應(yīng)當怎樣選擇？第三，有哪些議題需要倫理委員會來討論？第四，倫理委員會做出的決定效力如何，企業(yè)是應(yīng)當直接落實還是加以借鑒？第五，如何保證倫理委員會討論的透明性？

谷歌倫理委員會的火速解散，也給后來者一個思考，企業(yè)成立這樣的倫理委員會是否能夠真的實現(xiàn)其設(shè)立的初衷？其將怎樣改變企業(yè)的行為模式？

從用戶到企業(yè)，倫理委員會意義幾何？

考慮到人工智能倫理問題的復(fù)雜性，中國人工智能企業(yè)，尤其是一些掌握大量個人數(shù)據(jù)的企業(yè)，可以考慮設(shè)置專門的人工智能倫理委員會，以協(xié)助企業(yè)在面對倫理問題時做出更加正確的選擇。設(shè)置人工智能企業(yè)的倫理委員會能夠更好地規(guī)范相關(guān)企業(yè)，促進良性發(fā)展。

目前，世界上確實很多企業(yè)和機構(gòu)都在著手制定相關(guān)的人工智能倫理政策，但從效果來看，很多政策操之過急，大部分的人工智能倫理原則都是宣誓性或者紙上談兵，缺乏在企業(yè)相應(yīng)制度框架下的思考，無法實際解決企業(yè)發(fā)展中遇到的問題，或是缺乏前瞻性的考慮，無法排除將來發(fā)展中可能遇到的障礙。

而設(shè)置人工智能倫理委員會，系統(tǒng)地從企業(yè)發(fā)展的角度對于倫理問題作出分析和安排，可以從制度的層面幫助相應(yīng)的人工智能倫理政策更好的落實，并幫助確定未來的發(fā)展方向。

從實踐的角度看，不僅是谷歌，很多國外企業(yè)都建立了相應(yīng)的人工智能委員會。谷歌旗下的人工智能公司Deep，ind設(shè)立了倫理和安全委員會，但是DeepMind沒有向外界透露委員會的組成成員、討論的議題，甚至是他們是否有過正式的見面等問題。［2］

微軟有自己的人工智能原則，并在2018年成立了人工智能倫理委員會Microsoft’sAI and Ethics in Engineering and Research （AETHER） Committee，［3］該委員會由公司內(nèi)部的高管組成，積極制定內(nèi)部政策，并決定怎樣負責(zé)任地處理出現(xiàn)的問題。［4］亞馬遜資助了美國國家科學(xué)基金會“人工智能中的公平”的研究，F(xiàn)acebook則與慕尼黑工業(yè)大學(xué)共同組建了人工智能倫理的研究中心。［5］

人工智能倫理委員會應(yīng)當包括科學(xué)家、企業(yè)領(lǐng)袖和倫理/法律界人士。實踐中與此最相近的做法是，今日頭條于2018年成立的“技術(shù)戰(zhàn)略委員會”［6］，這一委員會實質(zhì)上也包括了上述部分倫理委員會承擔(dān)的職能，其目的是“更好地讓今日頭條的人工智能技術(shù)最終造福人類，同時應(yīng)對人工智能技術(shù)發(fā)展帶來的挑戰(zhàn)”，首批委員包括，圖靈獎得主JohnE.Hopcroft教授，中國工程院院士、國家自然科學(xué)基金委員會副主任高文教授和中國科學(xué)院院士張鈸教授等。

從企業(yè)的角度來說，設(shè)置企業(yè)人工智能倫理委員會，可以協(xié)助企業(yè)對數(shù)據(jù)的收集、處理和使用作出規(guī)制，以此保護用戶權(quán)益，并降低合規(guī)風(fēng)險、保護企業(yè)利益。具體而言，對于信息從用戶傳輸?shù)较到y(tǒng)的過程中，應(yīng)當規(guī)范對于信息的收集，包括可以收集哪些信息，怎樣進行收集等。

對于在此過程中的對用戶權(quán)利義務(wù)的告知、同意以及是否能再次轉(zhuǎn)讓等問題。組成企業(yè)人工智能倫理委員會可以幫助改進隱私政策，包括規(guī)范彈窗及授權(quán)內(nèi)容，資助相應(yīng)研究，推出相應(yīng)的隱私保護白皮書等。

從用戶的角度來說，企業(yè)設(shè)置專門的人工智能倫理委員會，也是為了更好地保護用戶對于個人數(shù)據(jù)的知情權(quán)和自決權(quán)。用戶有理由擔(dān)心企業(yè)如何處理用戶數(shù)據(jù)，尤其是敏感信息與隱私數(shù)據(jù)。

而人工智能倫理委員會的設(shè)立能夠幫助企業(yè)進行人工智能倫理決策時多進行道德上的考慮，并符合與時俱進的法律法規(guī)，通過規(guī)范和約束企業(yè)的行為，加強個人數(shù)據(jù)的保護。