電子發(fā)燒友App
據(jù)外媒報(bào)道，美國(guó)軍方正不顧一切地試圖在人工智能（AI）領(lǐng)域占據(jù)一席之地，美國(guó)國(guó)防部官員相信，AI將在未來(lái)的戰(zhàn)爭(zhēng)中幫助美國(guó)取得勝利。
但國(guó)防部的內(nèi)部文件和對(duì)高級(jí)官員的采訪清楚地表明，美國(guó)國(guó)防部的AI努力正因被一家科技巨頭拋棄而陷入舉步維艱的境地。為擺脫這種困境，美國(guó)國(guó)防部正制定新的戰(zhàn)略，以便在一場(chǎng)新的戰(zhàn)斗中搶占先機(jī)，即爭(zhēng)奪硅谷AI人才的大戰(zhàn)。
這場(chǎng)戰(zhàn)斗以出人意料的失敗開(kāi)始。今年6月份，谷歌宣布退出美國(guó)國(guó)防部的Project Maven，該項(xiàng)目使用了這家科技巨頭的AI軟件。這一努力旨在創(chuàng)建算法，幫助情報(bào)分析人員從視頻片段中識(shí)別出軍事目標(biāo)。
兩個(gè)月前，數(shù)千名谷歌員工簽署了一份請(qǐng)?jiān)笗?，呼?a target="_blank">公司停止與美國(guó)國(guó)防部就該項(xiàng)目的合作。
據(jù)五位熟悉有關(guān)Project Maven內(nèi)部討論的消息人士透露，在美國(guó)國(guó)防部?jī)?nèi)部，谷歌的退出帶來(lái)了挫折和沮喪，甚至是憤怒情緒。Project Maven是美國(guó)軍方首次在戰(zhàn)爭(zhēng)中使用AI的重大努力。
6月28日，美國(guó)國(guó)防部向大約50名官員分發(fā)了一份內(nèi)部備忘錄，并稱：“我們?cè)诤翢o(wú)準(zhǔn)備的情況下陷入了有關(guān)戰(zhàn)略態(tài)勢(shì)的爭(zhēng)論中。”備忘錄中顯示，谷歌的退出讓美國(guó)國(guó)防部感覺(jué)措手不及，這個(gè)部門最近面臨對(duì)軍方AI發(fā)展計(jì)劃至關(guān)重要的專家疏遠(yuǎn)它的風(fēng)險(xiǎn)。
備忘錄警告說(shuō)：“如果我們不贏得關(guān)鍵支持者的‘民心’，我們就無(wú)法有效地與我們的對(duì)手競(jìng)爭(zhēng)?！?/p>
事實(shí)上，Project Maven還遠(yuǎn)未完成，2017年的開(kāi)支成本僅為7000萬(wàn)美元左右，這是五角大樓當(dāng)年6000億美元海量預(yù)算中的一小部分。但谷歌的聲明表明，美國(guó)國(guó)防部仍在努力應(yīng)對(duì)更大的公共關(guān)系和科學(xué)挑戰(zhàn)。
迄今為止，谷歌的回應(yīng)是試圖為其AI工作樹立新的公眾形象，并尋求由科技公司高管組成的咨詢委員會(huì)對(duì)國(guó)防部的AI政策進(jìn)行審查。
美國(guó)國(guó)防部感到焦慮的原因很明顯：它想要一條在未來(lái)武器裝備中集成AI的平穩(wěn)道路，這一愿望已經(jīng)得到了數(shù)十億美元承諾的支持，以努力確保這些系統(tǒng)得到軍事指揮官的信任和接受，此外還需要在技術(shù)本身上增加數(shù)十億美元的研發(fā)支出。
AI在戰(zhàn)爭(zhēng)中所發(fā)揮的確切作用還不清楚。許多集成有AI技術(shù)支持的武器不涉及機(jī)器算法的決策，但它們存在這樣做的潛力。正如美國(guó)國(guó)防部在8月份的一份戰(zhàn)略文件中所說(shuō)的那樣：“支持無(wú)人駕駛系統(tǒng)的技術(shù)將使開(kāi)發(fā)和部署自主系統(tǒng)成為可能，這些系統(tǒng)可以獨(dú)立選擇目標(biāo)，并以致命武器發(fā)動(dòng)攻擊?！?/p>
美國(guó)國(guó)防官員稱，開(kāi)發(fā)AI技術(shù)與創(chuàng)造其他軍事技術(shù)不同。盡管軍方很容易就能從大型國(guó)防承包商那里獲得最先進(jìn)的戰(zhàn)斗機(jī)和炸彈，但AI和機(jī)器學(xué)習(xí)的創(chuàng)新核心卻屬于硅谷的非國(guó)防科技巨頭。
官員們擔(dān)心，如果沒(méi)有他們的幫助，美國(guó)軍方可能會(huì)輸?shù)粢粓?chǎng)不斷升級(jí)的全球軍備競(jìng)賽。在這場(chǎng)競(jìng)賽中，AI將扮演越來(lái)越重要的角色。
前科技創(chuàng)業(yè)家、美國(guó)國(guó)防部下屬國(guó)防數(shù)字服務(wù)（DDS）部門主管克里斯·林奇(Chris Lynch)在接受采訪時(shí)表示：“如果你決定不參與Project Maven，實(shí)際上你也未能參與討論是否將AI或機(jī)器學(xué)習(xí)用于軍事行動(dòng)?！绷制姹硎?，AI已經(jīng)開(kāi)始被用于戰(zhàn)爭(zhēng)，所以現(xiàn)在的問(wèn)題是，哪些美國(guó)技術(shù)專家將會(huì)設(shè)計(jì)它？
林奇聘用了多名技術(shù)專家，并花了幾年時(shí)間研究美國(guó)國(guó)防部面臨的問(wèn)題。林奇表示，AI技術(shù)太重要了，即使該機(jī)構(gòu)不得不依賴不那么專業(yè)的專家，它也要繼續(xù)這方面的研發(fā)。
但是，林奇補(bǔ)充說(shuō)：“如果沒(méi)有業(yè)內(nèi)精英的幫助，我們將雇傭能力遠(yuǎn)遠(yuǎn)不如他們的人去開(kāi)發(fā)能力更差的產(chǎn)品，這種產(chǎn)品可能會(huì)讓年輕的男女陷入危險(xiǎn)的境地，而且可能會(huì)因此而出現(xiàn)錯(cuò)誤?！?/p>
谷歌不太可能很快改弦更張。今年6月份，谷歌宣布不會(huì)尋求續(xù)簽Maven合同不到一周后，隨即發(fā)布了一套AI指導(dǎo)原則，規(guī)定該公司不會(huì)將AI用于“幫助開(kāi)發(fā)武器或其他用于直接傷害人類的產(chǎn)品”。
自那以來(lái)，美國(guó)國(guó)防部許多官員抱怨谷歌不愛(ài)國(guó)，并指責(zé)該公司仍在與中國(guó)政府合作。中國(guó)政府是美國(guó)在AI技術(shù)領(lǐng)域最大的競(jìng)爭(zhēng)對(duì)手。
據(jù)知情人士透露，Project Maven的目的是通過(guò)在無(wú)人機(jī)和其他平臺(tái)的視頻片段中標(biāo)記對(duì)象類型，簡(jiǎn)化情報(bào)分析人員的工作，幫助分析人員收集信息，并縮小對(duì)潛在目標(biāo)的關(guān)注范圍。但算法并沒(méi)有選擇目標(biāo)或命令發(fā)動(dòng)打擊，對(duì)于那些擔(dān)心先進(jìn)計(jì)算和新形式致命暴力相結(jié)合的人來(lái)說(shuō)，這是一種長(zhǎng)期恐懼。
盡管如此，谷歌的許多人還是以令人擔(dān)憂的方式看待這項(xiàng)計(jì)劃。
一位熟悉內(nèi)部討論的前谷歌員工表示：“他們立即想到了無(wú)人機(jī)，然后他們又想到了機(jī)器學(xué)習(xí)和自動(dòng)目標(biāo)識(shí)別。我認(rèn)為這個(gè)項(xiàng)目開(kāi)發(fā)的AI很快就會(huì)升級(jí)，讓它們能夠進(jìn)行有針對(duì)性的殺戮，發(fā)動(dòng)有針對(duì)性的戰(zhàn)爭(zhēng)?！?/p>
谷歌只是美國(guó)國(guó)防部試圖將AI技術(shù)集成到現(xiàn)代戰(zhàn)爭(zhēng)中的科技巨頭之一，微軟和亞馬遜也參與了其相關(guān)努力。據(jù)美國(guó)國(guó)防部現(xiàn)任和前任官員稱，在谷歌6月份宣布退出消息后，十多家大型國(guó)防公司與美國(guó)國(guó)防官員接洽，表示愿意接手這項(xiàng)工作。
但硅谷活動(dòng)人士也表示，該行業(yè)不能輕易忽視科技從業(yè)者的道德疑慮。上述前谷歌員工表示：“那些要對(duì)股東負(fù)責(zé)的人以及想要獲得價(jià)值數(shù)百萬(wàn)美元國(guó)防部合同的人，與那些必須建造這些東西、并在道義上不愿意成為同謀的普通員工之間，存在著明顯的分歧?！?/p>
為了彌合這一鴻溝，緩解AI工程師的強(qiáng)烈反對(duì)，美國(guó)國(guó)防部迄今采取了兩項(xiàng)舉措。
第一項(xiàng)舉措于6月底正式啟動(dòng)，旨在創(chuàng)建一個(gè)聯(lián)合AI中心，旨在監(jiān)督和管理軍方的所有AI工作，最初的重點(diǎn)是對(duì)公關(guān)友好的人道主義任務(wù)。它將由杰克·沙納漢中將（Jack Shanahan）負(fù)責(zé)，他此前的主要任務(wù)是管理Project Maven。
這是個(gè)政治上十分精明的決定，它的第一個(gè)重大舉措是找出一種利用AI幫助軍隊(duì)在自然災(zāi)害中組織搜索和救援的方法。
美國(guó)國(guó)防部AI戰(zhàn)略首席設(shè)計(jì)師布倫丹·麥考德(Brendan McCord)在10月份的一次技術(shù)會(huì)議上說(shuō)：“我們的目標(biāo)是拯救生命。我們軍隊(duì)的根本任務(wù)是維持和平。這是為了阻止戰(zhàn)爭(zhēng)和保護(hù)我們的國(guó)家。這是為了提高全球穩(wěn)定，也是為了最終保護(hù)啟蒙運(yùn)動(dòng)產(chǎn)生的一系列價(jià)值觀?！?/p>
第二項(xiàng)舉措是要求一個(gè)由技術(shù)專家組成的咨詢小組——國(guó)防創(chuàng)新委員會(huì)(Defense Innovation Board)對(duì)AI道德進(jìn)行新的審查，該委員會(huì)包括谷歌前首席執(zhí)行官埃里克·施密特(Eric Schmidt)和職業(yè)社交網(wǎng)站LinkedIn聯(lián)合創(chuàng)始人里德·霍夫曼(Reid Hoffman)。
這項(xiàng)審查旨在制定軍隊(duì)使用AI的指導(dǎo)原則，國(guó)防創(chuàng)新委員會(huì)目前由前國(guó)防部長(zhǎng)創(chuàng)新問(wèn)題顧問(wèn)約書亞·馬爾庫(kù)塞(Joshua Marcuse)管理，他現(xiàn)在是該委員會(huì)的執(zhí)行董事。
這個(gè)咨詢團(tuán)隊(duì)將花費(fèi)大約9個(gè)月的時(shí)間，與AI專家舉行公開(kāi)會(huì)議，同時(shí)美國(guó)國(guó)防部的一個(gè)內(nèi)部小組也將審議問(wèn)題。然后，該委員會(huì)將向國(guó)防部長(zhǎng)詹姆斯·馬蒂斯(James Mattis)提出建議，說(shuō)明AI應(yīng)該或不應(yīng)該被集成到武器項(xiàng)目中。
馬爾庫(kù)塞在接受采訪時(shí)說(shuō)：“這必須是真正意義上的審查，并愿意對(duì)我們將要做的事情、我們不會(huì)去做的事施加一些限制，明確界限所在?！?/p>
為了確保辯論的公正性，馬爾庫(kù)塞說(shuō)，國(guó)防創(chuàng)新委員會(huì)正在尋找對(duì)軍方在AI領(lǐng)域中所扮演角色持批評(píng)態(tài)度的人士。
他說(shuō)：“對(duì)于國(guó)防部將如何應(yīng)用這些技術(shù)，他們有各種各樣的擔(dān)憂，我認(rèn)為這些擔(dān)憂是合理的，因?yàn)槲覀儞碛性谀承┣闆r下侵犯公民隱私的合法權(quán)力，有實(shí)施暴力的合法權(quán)力，同時(shí)還有發(fā)動(dòng)戰(zhàn)爭(zhēng)的合法權(quán)力?！?/p>
美國(guó)國(guó)防部的官員們表示，解決這些問(wèn)題至關(guān)重要，因?yàn)槊绹?guó)管理AI人才的方式不同，它要想法設(shè)法吸引外界的專家。
馬爾庫(kù)塞說(shuō)：“這些專家必須選擇與我們合作，而我們我們需要向他們提供一個(gè)有意義、可驗(yàn)證的承諾，讓他們有與我們合作的真正機(jī)會(huì)，讓他們相信自己是好人?！?/p>
馬爾庫(kù)塞表示，盡管他愿意討論未來(lái)對(duì)AI使用的潛在限制，但他認(rèn)為國(guó)防創(chuàng)新委員會(huì)不會(huì)試圖改變美國(guó)國(guó)防部依賴AI自動(dòng)武器的現(xiàn)有政策。2012年，奧巴馬政府出臺(tái)了這一政策。
2017年5月，特朗普政府對(duì)這項(xiàng)政策進(jìn)行了小幅度的技術(shù)修訂，但并不妨礙軍方在其任何武器系統(tǒng)中使用AI。美國(guó)國(guó)防部的多名官員表示，該政策規(guī)定，指揮官對(duì)任何集成AI的武器系統(tǒng)都有“適當(dāng)程度的人類判斷水平”。
然而，這項(xiàng)政策也要求，在計(jì)算機(jī)被編程啟動(dòng)致命行動(dòng)之前，包含它的武器系統(tǒng)必須經(jīng)過(guò)美國(guó)國(guó)防部三位高級(jí)官員的特別審查。但到目前為止，還沒(méi)有進(jìn)行過(guò)這類特別審查。
據(jù)一位熟悉細(xì)節(jié)的前國(guó)防官員透露，2016年末，在奧巴馬政府任期結(jié)束的時(shí)候，美國(guó)國(guó)防部曾對(duì)這項(xiàng)2012年頒布的政策進(jìn)行了新的審視，并在一份機(jī)密報(bào)告中決定，不需要做出重大改變。
不過(guò)，特朗普政府在內(nèi)部討論過(guò)，并讓軍方的武器工程師更清楚地認(rèn)識(shí)到，這項(xiàng)政策并不禁止在武器系統(tǒng)中使用AI。特朗普擔(dān)心，軍方工程師一直不愿將AI集成到他們的設(shè)計(jì)中。
硅谷有關(guān)Project Maven的爭(zhēng)論至少暫時(shí)阻止了這一討論，促使美國(guó)國(guó)防部高層首先試圖贏得國(guó)防創(chuàng)新委員會(huì)的支持。
但不管怎樣，五角大樓打算將更多AI整合到其武器中。馬爾庫(kù)塞說(shuō)：“當(dāng)一項(xiàng)新技術(shù)正在徹底改變戰(zhàn)爭(zhēng)模式時(shí)，我們不會(huì)袖手旁觀。這對(duì)美國(guó)民眾、對(duì)被派往危險(xiǎn)戰(zhàn)場(chǎng)的軍人以及依賴我們的盟友來(lái)說(shuō)都不公平?！?/p>
工商網(wǎng)監(jiān)
評(píng)論