谷歌：我們拒絕AI武器化，但仍會堅持和軍方的AI合作

本周一的時候，我們曾報道過，谷歌員工對于Maven 項目的強烈抵制已經(jīng)引發(fā)了公司高層的關(guān)注，對此谷歌回應(yīng)將盡快制定指導(dǎo)其參與軍事項目的道德政策，并明確禁止 AI 武器化?，F(xiàn)在，谷歌終于正式發(fā)布了新的 AI 準(zhǔn)則。

今日，谷歌 CEO Sundar Pichai 公開發(fā)布了題為《AI at Google: our principles》的文章，明確了谷歌使用 AI 的七項原則。其中包括不會將 AI 技術(shù)應(yīng)用于開發(fā)武器，不會違反人權(quán)準(zhǔn)則將 AI 用于監(jiān)視和收集信息，避免 AI 造成或加劇社會不公等等?！斑@些不是理論概念，而是具體的標(biāo)準(zhǔn)，將積極主導(dǎo)我們的研究和產(chǎn)品開發(fā)，并會影響我們的業(yè)務(wù)決策”。

但同時，谷歌也表示，仍會繼續(xù)與政府和軍方展開 AI 合作，例如網(wǎng)絡(luò)安全、培訓(xùn)以及征兵等領(lǐng)域。

▌五角大樓合同為何會引發(fā)谷歌員工的強烈抵制？

谷歌的這份妥協(xié)要從去年的 9 月份說起。

李飛飛是新興人工智能領(lǐng)域中最耀眼的明星之一，同時承擔(dān)著兩項艱巨的工作：斯坦福大學(xué)人工智能實驗室的領(lǐng)導(dǎo)，和谷歌云服務(wù)人工智能的首席科學(xué)家。谷歌云服務(wù)是這家搜索巨頭最有前途的企業(yè)之一。

而現(xiàn)在，公司通過云服務(wù)進行的下一步業(yè)務(wù)增長，已經(jīng)讓公司開始涉足武器行業(yè)。但是谷歌此前迅速增長的廣告模型已經(jīng)引發(fā)了業(yè)界對于谷歌的諸多批評，包括侵犯了用戶的隱私權(quán)、支持可疑網(wǎng)站等等。

所以，去年 9 月公司高層緊張地討論如何公開谷歌與五角大樓簽訂的第一個人工智能合約時，李博士就強烈建議避開這份合約。

她在給紐約時報的郵件中寫道：“我們應(yīng)該不惜一切代價避免所有涉及人工智能的協(xié)議。武器化的人工智能即便不是最敏感的話題，那也是數(shù)一數(shù)二的。這會給媒體機會讓他們想盡辦法破壞谷歌的名聲?！?/p>

李博士對谷歌軍事合同影響的擔(dān)憂非常有先見之明。根據(jù)泰晤士報審閱的郵件、文件以及十幾位前谷歌員工的訪談表明，自從谷歌拿下了 Maven 計劃合約（該計劃利用人工智能來破解視頻圖像，并用于提高無人機的攻擊目標(biāo)）以來，谷歌與國防部的“親密”關(guān)系已經(jīng)引發(fā)了一場生存危機。

關(guān)于 Maven 的內(nèi)部討論，支持者和反對者都知道這是未來和國防部達成更多、更大合同的敲門磚。但是很多員工認(rèn)為，Maven 項目的成果可能會被用于殺人無人機，使得谷歌人工智能技術(shù)在戰(zhàn)爭中扮演越來越重要的角色。因此，約有 4000 名谷歌員工簽名請愿，要求公司給出“明確的策略，保障谷歌及其合作者永遠(yuǎn)不涉及戰(zhàn)爭科技?！边@場危機導(dǎo)致谷歌工作小組解散，對內(nèi)部會議和信息交流的影響更是火上澆油，甚至還迫使一些員工辭職了。

位于倫敦的 AI 先行者 DeepMind（谷歌于 2014 年所收購）高層也表示，他們完全反對軍事和監(jiān)視項目，而且實驗室的員工們已經(jīng)對此表示了強烈抗議。DeepMind 與谷歌之間最初的收購合同即表明，DeepMind 的技術(shù)永遠(yuǎn)不允許被用于軍事或監(jiān)視用途。

此外，谷歌及其母公司 Alphabet 雇傭了許多世界頂尖的人工智能研究者。一些研究者加州 Mountain View 的一個名為 Google Brain 的 AI 實驗室工作，其他研究者則分布在各個小組，包括 Alphabet 董事會成員 Greene 女士領(lǐng)導(dǎo)的云計算小組。

許多研究者都是來自于學(xué)術(shù)界，一些人還是教授。其中包括 Geoff Hinton，他曾經(jīng)負(fù)責(zé) Google Brain 在多倫多的實驗室，但由于他不愿意為美國政府工作，現(xiàn)已辭去了職位。在上世紀(jì)八十年代末，Hinton 離開了美國回到了加拿大，部分原因就是他不愿意接受美國國防部的資助。

Jeff Dean 是谷歌最有資歷的員工之一，他現(xiàn)在負(fù)責(zé)公司的所有人工智能工作。此前他曾表示，他已經(jīng)簽署了一封信，反對在自動武器中使用人工智能，這些武器能自動識別目標(biāo)并在沒有人類干預(yù)的情況下發(fā)射。

所以這些因為谷歌對于善意和無私的追求才加入公司的技術(shù)專家們，很有可能會“弄巧成拙”地幫助雇主研究如何更有效地殺人——這對于他們來說實在太震驚了，所以，如果谷歌堅持己見，AI 人才的流失幾乎是不可避免的。

對于包括李博士在內(nèi)的一些公司高層來說，這場危機讓他們十分沮喪，因為他們既要面對道德高尚的科學(xué)家們，也要和極力推行國防部合同的銷售人員溝通，這齊間的沖突難以調(diào)和。履行國防部合同會趕走人工智能方面最聰明的專家，而拒絕這個合同，則可能會帶來巨大的商業(yè)損失。

但是，各種反對五角大樓合同的員工們分享出來的郵件和內(nèi)部文檔已經(jīng)表明，一些可預(yù)見的異議和負(fù)面公關(guān)影響是無法避免的。不過也有支持者認(rèn)為，像微軟和亞馬遜等競爭對手都在狂熱地追逐利潤豐厚的五角大樓合同，因為這些項目對于公司利益的增長至關(guān)重要，沒有什么值得羞愧的。

事實上，在 Maven 項目是否應(yīng)該公開這一點上，許多員工都發(fā)表了意見，但基本上他們都同意李博士的意見。李博士出生在中國，在 16 歲時同父母移民到了新澤西，在非英語的環(huán)境下成長并成為了科技界的領(lǐng)軍人物。

李博士說，最終決定將由她的上司——谷歌云的首席執(zhí)行官 Diane Greene 做出。但李博士認(rèn)為公司應(yīng)該公開它在 Maven 合同中的占有率，并將其作為 Google Cloud Platform 的“巨大勝利”來宣傳。她還建議，在給項目定性時要“極其謹(jǐn)慎”，“如果媒體認(rèn)為谷歌在秘密地制造 AI 武器，或研究能用于國防工業(yè)的武器的 AI 科技，我不知道會發(fā)生什么事情?！彼卩]件中寫到。

被問及 9 月份的郵件，李博士說：“我相信以人為中心的 AI 會以正面、善意的方式給人類帶來好處。而任何將 AI 武器化的項目都違反了我的原則?！?/p>

事實證明，公司并沒有公開 Maven。只有當(dāng)員工開始抗議時，谷歌接受五角大樓合同的事情才被公布出來。顯然，谷歌不可能在不引起公眾注意的情況下悄悄地與國防部合作。李博士所希望的不涉及 AI 被證明不現(xiàn)實。谷歌在華盛頓的一名管理者 Aileen Black 說，“但我們可以把方向轉(zhuǎn)變至云計算上來，我們需要在業(yè)界給我們定性之前做出轉(zhuǎn)變。”

針對員工們的強烈抗議，谷歌向員工保證，會出臺一系列原則，以在國防和智能方面的合同上就道德問題做出指導(dǎo)。上周四時，CEO Sundar Pichai 就表示，谷歌會出臺一系列“經(jīng)得起時間考驗”的指導(dǎo)原則。

▌谷歌 AI 使用七原則

來自谷歌官方博客今日發(fā)布的這份聲明表示，人工智能的應(yīng)用將會對未來社會產(chǎn)生深遠(yuǎn)影響，作為人工智能領(lǐng)域的領(lǐng)導(dǎo)者，谷歌深感重任。因此，谷歌正式宣布了七項原則來指導(dǎo)公司今后的 AI 工作——Pichai 表示，這些具體的標(biāo)準(zhǔn)將積極主導(dǎo)谷歌的研究和產(chǎn)品開發(fā)，并會影響公司的業(yè)務(wù)決策。

以下為谷歌 CEO Sundar Pichai 所署名文章的部分摘選：

AI 的核心是可以學(xué)習(xí)和適應(yīng)的計算機編程，它不能解決所有的問題，但擁有巨大的潛力改善我們生活。在谷歌，我們使用 AI 讓產(chǎn)品更有用，從沒有垃圾郵件并且更容易撰寫的電子郵件，到可以自然對話的數(shù)字助理，再到突出有趣內(nèi)容供你欣賞的照片。

我們認(rèn)識到，人工智能如何開發(fā)和使用，將對未來多年的社會產(chǎn)生重大的影響。我們也意識到，這個領(lǐng)域是不斷變化和不斷發(fā)展的，我們將以謙遜態(tài)度對待我們的工作，我們也愿意隨時間的推移調(diào)整我們的方法。

我們將根據(jù)以下目標(biāo)評估 AI 應(yīng)用。我們認(rèn)為 AI 應(yīng)該：

對社會有益。人工智能的進步將對包括醫(yī)療保健、安全、能源、運輸、制造和娛樂在內(nèi)的各種領(lǐng)域產(chǎn)生變革性的影響。我們將努力使用 AI 來隨時提供高質(zhì)量和準(zhǔn)確的信息，同時繼續(xù)尊重所在國家的文化、社會和法律準(zhǔn)則。

避免制造或加強不公平的偏見。人工智能算法和數(shù)據(jù)集可以反映、加強或減少不公平的偏見。我們將努力避免造成不公正的影響，特別是與種族、民族、性別、國籍、收入、性取向、能力及政治或宗教信仰等有關(guān)的人。

建立并測試安全性。我們在設(shè)計人工智能系統(tǒng)時會保持適當(dāng)謹(jǐn)慎，并根據(jù)人工智能安全研究的最佳實踐尋求開發(fā)它們。在適當(dāng)?shù)那闆r下，我們將在受限環(huán)境中測試AI技術(shù)，并在部署后監(jiān)控其操作。

對人負(fù)責(zé)。我們將設(shè)計能夠提供反饋、相關(guān)解釋和說明的 AI 系統(tǒng)。我們的 AI 技術(shù)將接受適當(dāng)?shù)娜祟愔笇?dǎo)和控制。

納入隱私設(shè)計原則。在開發(fā)和使用 AI 時將融入隱私原則，提供通知和同意，鼓勵具有隱私保護措施的架構(gòu)，對數(shù)據(jù)使用提供適當(dāng)?shù)耐该鞫群涂刂啤?/p>

堅持科學(xué)卓越的高標(biāo)準(zhǔn)。人工智能工具有可能在生物學(xué)、化學(xué)、醫(yī)學(xué)和環(huán)境科學(xué)等關(guān)鍵領(lǐng)域開拓科學(xué)研究和知識的新領(lǐng)域。我們將與一系列利益相關(guān)者合作，以科學(xué)嚴(yán)謹(jǐn)和多學(xué)科的方式來全面引領(lǐng)領(lǐng)域發(fā)展。

為符合這些原則的用途提供。我們在開發(fā)和部署 AI 技術(shù)時，將根據(jù)以下因素評估可能的用途：主要目的和用途、性質(zhì)和唯一性、規(guī)模、谷歌參與的性質(zhì)這四個方面。

除了上述目標(biāo)之外，我們不會在以下應(yīng)用領(lǐng)域設(shè)計或部署 AI：

已造成或可能造成整體性傷害的技術(shù)。存在重大傷害風(fēng)險的情況下，我們只會在好處遠(yuǎn)遠(yuǎn)超過風(fēng)險的情況下繼續(xù)進行，并納入適當(dāng)?shù)陌踩拗啤?/p>

武器或其他主要目的是導(dǎo)致或直接造成人身傷害的技術(shù)。

收集或使用信息的技術(shù)違反國際公認(rèn)的規(guī)范。

其目的與國際法和人權(quán)普遍接受的原則相違背的技術(shù)。

我們希望明確的是，雖然我們沒有在開發(fā)用于武器的 AI，但我們將繼續(xù)在其他許多領(lǐng)域與政府和軍方合作，包括網(wǎng)絡(luò)安全、培訓(xùn)、軍人招募、退伍軍人醫(yī)療、搜索和救援。這些合作是很重要的，我們將積極尋找更多方法來加強這些組織的關(guān)鍵工作，并確保服役人員和平民的安全。

長期的人工智能

隨著人工智能技術(shù)的進步，我們將與一系列利益相關(guān)者合作，采用科學(xué)嚴(yán)謹(jǐn)、多學(xué)科方法提升這一領(lǐng)域的領(lǐng)導(dǎo)力。

我們將繼續(xù)分享我們在改進 AI 技術(shù)和實踐方面的經(jīng)驗。

對于谷歌的這份聲明，外媒們也發(fā)表了不同的看法。

The Verge 評價稱：

“多年來，群眾們對于人工智能發(fā)展的批評一直都有?，F(xiàn)在，硅谷公司已投入了更多的人工智能安全研究資源。然而，正如谷歌的新道德原則所表明的那樣，制定足夠廣泛的規(guī)則以涵蓋各種各樣的場景是很困難的。所以，公共監(jiān)督對確保人工智能的公平部署仍是十分必要的?！?/p>

The Washington Post 報道稱：

“一位不愿透露姓名的谷歌代表提到，公司這幾個月來一直在制定道德原則，并將聘請外部顧問進行內(nèi)部審查，以確保 AI 準(zhǔn)則得到執(zhí)行?！?/p>

BI 評價稱：

“此舉力在解決谷歌正面臨的平衡問題，一方面是想在云業(yè)務(wù)上與亞馬遜、甲骨文和微軟展開政府合同競爭，同時在尋求擺脫'不作惡'的公司信條。”

▌寫在最后

但是一個不爭的事實是，即使谷歌拒絕了，國防部也不可能放棄對人工智能的追逐。而且軍事專家說，中國和其他發(fā)達國家已經(jīng)在研究 AI 在國防中的應(yīng)用了。利用人工智能，國防部可以對無人機成像進行更細(xì)致的分析，可以增加尋找并識別恐怖分子的能力，而且可以減少平民上網(wǎng)頻率。

也許這也是此次谷歌仍不放棄與軍方合作的一大原因。

谷歌聯(lián)合創(chuàng)始人 Sergey Brin 就谷歌參與 Maven 項目一事曾回應(yīng)，他理解這些反對的聲音，他也和 Sundar Pichai 等內(nèi)部高層就這個問題進行過深入的討論。他認(rèn)為，如果世界的軍事力量能與谷歌這種國際性組織合作，而不是獨立與那些國家主義的公司合作，反而對世界和平更有好處。