谷歌公布新的AI道德使用七原則，但仍與美國防部合作

今天，谷歌CEO Sundar Pichai發(fā)表了署名題為《AI at Google: our principles》的文章，列出7大指導原則，闡述谷歌在研發(fā)和使用AI時將遵循的目標。Pichai還明確列出了谷歌“不會追求的AI應用”，包括可能造成危害的技術、武器等。但是，谷歌并不會終止與美軍的合作。

上周五，谷歌宣布與國防部Maven合同在明年到期后不再續(xù)約，并表示將發(fā)布關于使用AI的新道德準則。

今天，谷歌CEO Sundar Pichai 發(fā)表了署名題為《AI at Google: our principles》的文章，列出7大指導原則，闡述谷歌在研發(fā)和使用AI時將遵循的目標。

不僅如此，Pichai 還明確列出了谷歌“不會追求的AI應用”，包括可能造成危害的技術、武器或其他以人身傷害為主要目的的技術、違反國際公約收集或使用信息的技術，以及違反人權和國際法的技術。

Pichai在文中寫道，“這些不是理論概念，而是具體的標準，將積極主導我們的研究和產品開發(fā)，并會影響我們的業(yè)務決策”。

Pichai還表示，這些原則是谷歌和人工智能未來發(fā)展的正確基礎。這種做法與2004年谷歌成立之初“創(chuàng)始人的信”中所提出的價值觀一致。

谷歌云CEO Diane Greene也發(fā)表了題為《Incorporating Google’s AI Principles into Google Cloud》的文章，響應新的準則。

“作惡的”Project Maven

這篇谷歌AI新準則的文章，是為了回應之前谷歌內部員工以及隨后公眾對谷歌與美國防部的合作項目Project Maven。

該項目旨在建立一個類似“谷歌地球”的監(jiān)測系統(tǒng)，讓五角大樓的分析師能“點擊建筑，查看與之相關的一切”，并為“整個城市”建立車輛、人員、土地特性和大量人群的圖像。

谷歌在2017年9月底獲得了Maven項目的合同，此后合作一直處于保密狀態(tài)，直到今年有員工在谷歌公司內部溝通平臺將這件事曝光出來。部分谷歌員工幾乎是立即就站出來表示反對。之后，更有數(shù)千名員工簽署請愿書，要求谷歌取消該項目的合同，數(shù)十名員工辭職以示抗議。

事件不斷發(fā)酵，關于Project Maven是否有違谷歌成立之初立下的“不作惡”原則，討論越來越多，越來越激烈。

根據(jù)新智元此前的報道，谷歌的高層曾非常支持Maven項目，因為這將讓谷歌云在贏得更大的五角大樓合同的道路上走得更遠，但他們同時也對外界如何評判谷歌參與軍事項目十分擔憂。

最終，谷歌云CEO Diane Greene 在上周五谷歌員工早會上宣布，Project Maven合同將于2019年到期，此后不再續(xù)簽。

谷歌已經為Maven做了大量工作，并且取得不錯的成果。根據(jù)Gizmodo獲取的消息，谷歌已經構建了一個系統(tǒng)，檢測專業(yè)圖像標簽所遺漏的車輛；谷歌的高級工程項目經理Reza Ghanadan在一封郵件中寫道，幾個案例表明，模型對專業(yè)標簽錯過的車輛檢測率準確率能達到90%。

谷歌仍將與美軍合作，新的探索不會減速

不過，谷歌將繼續(xù)與美國政府和軍方開展在網絡安全、培訓、退伍軍人醫(yī)療保健、搜救和軍事招聘方面合作。這家網絡巨頭正在爭取兩項數(shù)十億美元的國防部門辦公和云服務合同。

這些原則對公司將如何遵守規(guī)則提供了有限的細節(jié)。Pichai概述了谷歌應用AI的7個核心原則，包括要對社會有益，可以構建并測試安全性，避免產生或加強不公平的偏見等。Pichai表示，谷歌還將評估其在人工智能領域的工作，考察其技術“適應有害使用”的程度。

谷歌一名要求匿名的代表坦率地表示，該公司數(shù)月來一直在制定道德準則，并將聘請外部顧問進行內部審查，以確保人工智能準則得到執(zhí)行。

AI是谷歌網絡工具的重要組成部分，包括圖像搜索和識別，以及自動語言翻譯。但這也是其未來雄心的關鍵，很多都涉及到自己的道德領域，包括自動駕駛部門Waymo和谷歌Duplex系統(tǒng)，這個系統(tǒng)可以通過模仿人的聲音完成預定晚餐的任務。

但谷歌的新限制似乎并沒有減緩五角大樓的技術研究人員和工程師的速度，他們認為其他承包商仍然會競相幫助開發(fā)軍事和國防技術。美國國防部高級研究計劃局副局長Peter Highnam表示，沒有經營Maven項目，但因幫助發(fā)明互聯(lián)網而獲評的五角大樓代理機構稱，DARPA的“有數(shù)百家（如果不是數(shù)千家）積極出價的學校和公司” AI等技術研究項目。

“我們的目標，我們的目標是創(chuàng)造和防止技術突襲。所以我們正在考慮什么是可能的，“DARPA信息創(chuàng)新辦公室副主任約翰埃弗里特周三接受采訪時說。 “任何組織都可以自由參與這個正在進行的探索?！?/p>

Pichai 署名文章：谷歌AI使用原則

以下為谷歌CEO Sundar Pichai今天發(fā)布的署名文章：

AI的核心是可以學習和適應的計算機編程，它不能解決所有的問題，但擁有巨大的潛力改善我們生活。在谷歌，我們使用AI讓產品更有用，從沒有垃圾郵件并且更容易撰寫的電子郵件，到可以自然對話的數(shù)字助理，再到突出有趣內容供你欣賞的照片。

除了我們的產品，我們正在使用AI來幫助人們解決緊急問題。一對高中生正在構建AI驅動的傳感器來預測野外火災的風險。農民正在使用AI監(jiān)測牛群的健康狀況。醫(yī)生也開始用AI來幫助診斷癌癥并預防失明。這些顯而易見的好處是Google大力投入人工智能研發(fā)，并通過我們的工具和開源代碼使其他人也能普遍使用人工智能技術的原因。

我們認識到，這種強大的技術對其使用也提出了同等重要的問題。人工智能如何開發(fā)和使用，將對未來多年的社會產生重大的影響。作為人工智能領域的領導者，我們深感重任。所以今天，我們宣布了七項原則來指導我們今后的工作。這些不是理論概念，而是具體的標準，將積極主導我們的研究和產品開發(fā)，并會影響我們的業(yè)務決策。

我們也意識到，這個領域是不斷變化和不斷發(fā)展的，我們將以謙遜態(tài)度對待我們的工作，對內對外都是如此，我們也愿意隨時間的推移調整我們的方法。

AI應用的目標

我們將根據(jù)以下目標評估AI應用。我們認為AI應該：

1、對社會有益

新技術的應用范圍越來越廣，社會滲透率越來越高。人工智能的進步將對包括醫(yī)療保健、安全、能源、運輸、制造和娛樂在內的各種領域產生變革性的影響。當我們考慮AI技術的潛在發(fā)展和應用時，我們將考慮各種社會和經濟因素，并將在我們認為整體可能的收益大大超過可預見的風險和缺點的情況下繼續(xù)進行。

人工智能還增強了我們理解大規(guī)模內容含義的能力。我們將努力使用AI來隨時提供高質量和準確的信息，同時繼續(xù)尊重所在國家的文化、社會和法律準則。我們將繼續(xù)深入評估何時將我們的技術用于非商業(yè)情況。

2、避免制造或加強不公平的偏見

人工智能算法和數(shù)據(jù)集可以反映、加強或減少不公平的偏見。我們認識到，區(qū)分公平和不公平的偏見并不總是很簡單，并且在不同的文化和社會中是不同的。我們將努力避免對人們造成不公正的影響，特別是與種族、民族、性別、國籍、收入、性取向，能力以及政治或宗教信仰等敏感特征有關的人。

3、建立并測試安全性

我們將繼續(xù)開發(fā)和應用強大的安全措施，避免造成危害的意外結果。我們在設計人工智能系統(tǒng)時會保持適當謹慎，并根據(jù)人工智能安全研究的最佳實踐尋求開發(fā)它們。在適當?shù)那闆r下，我們將在受限環(huán)境中測試AI技術，并在部署后監(jiān)控其操作。

4、對人負責

我們將設計能夠提供反饋、相關解釋和說明的AI系統(tǒng)。我們的AI技術將接受適當?shù)娜祟愔笇Ш涂刂啤?/p>

5、納入隱私設計原則

在開發(fā)和使用AI技術時我們將融入隱私原則。我們將提供通知和同意，鼓勵具有隱私保護措施的架構，并對數(shù)據(jù)的使用提供適當?shù)耐该鞫群涂刂啤?/p>

6、堅持科學卓越的高標準

技術創(chuàng)新的根本在于科學方法和對開放式調查的努力，學術嚴謹、誠信和合作。人工智能工具有可能在生物學、化學、醫(yī)學和環(huán)境科學等關鍵領域開拓科學研究和知識的新領域。我們致力于促進人工智能的發(fā)展，我們也追求高標準的科學卓越。

我們將與一系列利益相關者合作，以科學嚴謹和多學科的方式來全面引領領域發(fā)展。我們將通過發(fā)布教育材料，最佳實踐和研究，負責任地分享人工智能知識，使更多人能夠開發(fā)有用的人工智能應用。

7、為符合這些原則的用途提供

許多技術都有多種用途。我們將努力限制可能有害或濫用的應用程序。在開發(fā)和部署AI技術時，我們將根據(jù)以下因素評估可能的用途：

主要目的和用途：技術和應用的主要目的和可能的用途，包括解決方案與有害用途的相關度或適用程度

性質和唯一性：我們的技術是獨一無二的還是更普遍可用的

規(guī)模：這項技術的使用是否會產生大規(guī)模的影響

Google參與的性質：我們是提供通用的工具，為客戶集成工具，還是開發(fā)定制的解決方案

我們不會追求的AI應用

除了上述目標之外，我們不會在以下應用領域設計或部署AI：

已造成或可能造成整體性傷害的技術。在存在重大傷害風險的情況下，我們只會在我們認為好處遠遠超過風險的情況下繼續(xù)進行，并且會納入適當?shù)陌踩拗啤?/p>

武器或其他主要目的是導致或直接造成人身傷害的技術。

收集或使用信息的技術違反國際公認的規(guī)范。

其目的與國際法和人權普遍接受的原則相違背的技術。

我們希望明確的是，雖然我們沒有在開發(fā)用于武器的AI，但我們將繼續(xù)在其他許多領域與政府和軍方合作，包括網絡安全、培訓、軍人招募、退伍軍人醫(yī)療、搜索和救援。這些合作是很重要的，我們將積極尋找更多方法來加強這些組織的關鍵工作，并確保服役人員和平民的安全。

長期的人工智能

雖然這是我們選擇的應用人工智能的方式，但我們明白，在這場討論中還有許多觀點存在空間。隨著人工智能技術的進步，我們將與一系列利益相關者合作，采用科學嚴謹、多學科方法提升這一領域的領導力。我們將繼續(xù)分享我們在改進AI技術和實踐方面的經驗。

我們相信這些原則是我們公司和人工智能未來發(fā)展的正確基礎。這種做法與2004年我們最初的“創(chuàng)始人的信”中提出的價值觀是一致的。在那封信中，我們明確表示，我們打算從長遠的角度出發(fā)，即使這意味著要做出短期的權衡。這一理念我們當時說過，現(xiàn)在我們確信了。