人工智能，五角大樓的“大考”？

“顛覆性技術(shù)”和“高度關(guān)注”依然是2019年評(píng)價(jià)AI的兩個(gè)關(guān)鍵詞。雖然工業(yè)界落地艱難，但是，軍事界熱情不減。作為軍事大國(guó)，美國(guó)的目標(biāo)非常清晰。推動(dòng)美國(guó)頂尖人工智能研究走向新的技術(shù)突破，促進(jìn)科學(xué)新成果的發(fā)現(xiàn)、增強(qiáng)經(jīng)濟(jì)競(jìng)爭(zhēng)力、鞏固國(guó)家安全。

僅憑12個(gè)月的角力難分勝負(fù)，但是年度評(píng)估非常必要。花了美國(guó)納稅人這么錢，坐落在美國(guó)華盛頓波托馬克河畔的五角大樓，2019年工作做的怎么樣？

《國(guó)防授權(quán)法（2019）》（National Defense Authorization Act for Fiscal Year 2019）有細(xì)則特別提到，對(duì)人工智能進(jìn)行專項(xiàng)研究，確定美國(guó)國(guó)防部在人工智能、機(jī)器學(xué)習(xí)等技術(shù)方面的競(jìng)爭(zhēng)力。因此，第三方咨詢機(jī)構(gòu)蘭德公司（RAND Corp.）受命于此。在2019年年末，他們對(duì)五角大樓的人工智能態(tài)勢(shì)進(jìn)行了獨(dú)立、審慎的評(píng)估，出具一份重量級(jí)的報(bào)告《蘭德咨詢：美國(guó)國(guó)防部人工智能態(tài)勢(shì)分析》。

一、人工智能是五角大樓的機(jī)會(huì)

報(bào)告開篇聚焦三個(gè)本質(zhì)性問題。五角大樓目前在人工智能中的現(xiàn)狀如何？五角大樓相關(guān)的人工智能處于什么狀態(tài)？哪些內(nèi)部行動(dòng)，外部參與以及潛在的立法或監(jiān)管行動(dòng)可能會(huì)增強(qiáng)五角大樓在人工智能中的地位？這三個(gè)問題拷問五角大樓的靈魂報(bào)告對(duì)于五角大樓目前態(tài)勢(shì)的判斷，成為一面鏡子，意在推動(dòng)該機(jī)構(gòu)深刻反思。

《報(bào)告》的分析框架分為“六大”維度，從六個(gè)不同的角度“照進(jìn)”五角大樓要面對(duì)的現(xiàn)實(shí)。

組織，從五角大樓的執(zhí)行層的視角提出，包括遠(yuǎn)景、戰(zhàn)略、組織結(jié)構(gòu)和承諾的資源。

進(jìn)展，技術(shù)的研究、開發(fā)、原型、驗(yàn)證、確認(rèn)、測(cè)試和評(píng)估。

應(yīng)用，技術(shù)采購(gòu)、部署和生命周期管理，重新設(shè)計(jì)概念和流程，以充分利用技術(shù)。

創(chuàng)新，內(nèi)部創(chuàng)新文化和引進(jìn)外部創(chuàng)新或創(chuàng)新者的機(jī)制。

數(shù)據(jù)，數(shù)據(jù)作為資源、數(shù)據(jù)治理和支持基礎(chǔ)設(shè)施，數(shù)據(jù)的利用。

人才，五角大樓需要和培養(yǎng)和增長(zhǎng)人才的機(jī)制。

眾所周知，企業(yè)界的算法生而用于商業(yè)用途，比如谷歌廣告推薦，優(yōu)步打車路徑規(guī)劃。這些不是五角大樓所直接期望的用途，再加之目前算法存在一定的“手工打磨的性質(zhì)”。簡(jiǎn)而言之就是模型的質(zhì)量需要高質(zhì)量的數(shù)據(jù)，而數(shù)據(jù)標(biāo)注需要花費(fèi)大量的人力物力。

此前也有百度公司的AI科學(xué)家在論壇中戲稱“需要有多少智能，就需要配套多少人工?！彼?，直接擴(kuò)展企業(yè)AI的用途到軍事上，并不是一件容易的事情?！秷?bào)告》觀點(diǎn)與業(yè)界觀點(diǎn)一致，并做出提示，需要謹(jǐn)慎的策略和執(zhí)行，同時(shí)在基礎(chǔ)設(shè)施和支持方面進(jìn)行大量投資。

盡管不可缺少謹(jǐn)慎的態(tài)度，但是，在《報(bào)告》看來，人工智能的技術(shù)進(jìn)展，對(duì)美方，尤其是五角大樓這樣的機(jī)構(gòu)意味著機(jī)會(huì)。

《報(bào)告》站在積極的視角，鼓勵(lì)五角大樓應(yīng)該探索、尋求機(jī)會(huì)，特別強(qiáng)調(diào)利用好企業(yè)級(jí)人工智能、任務(wù)支持類人工智能和操作類人工智能（enterprise AI， operational AI and mission-support AI）這三類技術(shù)的新進(jìn)展，尤其關(guān)注“驗(yàn)證、確認(rèn)、測(cè)試和評(píng)估（verification， validation， testing， and evaluation，VVT&E）”的應(yīng)用。

《報(bào)告》進(jìn)行深入的調(diào)研，自然也充分理解了人工智能現(xiàn)在面臨的短板，算法在很多應(yīng)用中缺乏魯棒性，不可能一蹴而就地找到大規(guī)模應(yīng)用的爆發(fā)點(diǎn)，并給出戒驕戒躁的風(fēng)險(xiǎn)提示，也就是要對(duì)人工智能技術(shù)的性能提升不要心急，要付出耐心。

——“對(duì)于五角大樓來說，在從演示到大規(guī)模部署的過程中，保持對(duì)性能和時(shí)間表的現(xiàn)實(shí)預(yù)期是很重要的?！?/p>

不僅如此，除了保持對(duì)人工智能這一新興技術(shù)正確的認(rèn)知與態(tài)度，《報(bào)告》也做出了預(yù)判，明確指出了繼續(xù)投資的方向?！盀榱舜_保成功，還需要對(duì)基礎(chǔ)設(shè)施和設(shè)備以及識(shí)別、驗(yàn)證、測(cè)試和評(píng)估進(jìn)行持續(xù)的配套投資。盡管離確保人工智能應(yīng)用程序的性能和安全還差得很遠(yuǎn)，特別是在涉及安全關(guān)鍵系統(tǒng)方面。盡管這不是只有美國(guó)國(guó)防部一家機(jī)構(gòu)面對(duì)的獨(dú)特問題，但它是對(duì)美國(guó)國(guó)防部產(chǎn)生重大影響的關(guān)鍵性問題?！?/p>

二、像對(duì)待核武器技術(shù)一樣對(duì)待人工智能

《報(bào)告》對(duì)于人工智能技術(shù)高度的評(píng)價(jià)，以今天的人工智能技術(shù)比作五十年前的核武器技術(shù)。并建議，“建立美國(guó)五角大樓研究人工智能和機(jī)器學(xué)習(xí)的中心，整合該領(lǐng)域?qū)I(yè)知識(shí)和能力。就像過去確保五角大樓在核武器方面的技術(shù)優(yōu)勢(shì)一樣。

眾所周知，人工智能是屬于貴族的游戲。科技巨頭亞馬遜公司，在2018年末股東信中已經(jīng)將這一結(jié)論表達(dá)得非常清楚——“強(qiáng)化學(xué)習(xí)（機(jī)器學(xué)習(xí)重要分支之一）具有陡峭的學(xué)習(xí)曲線和眾多的發(fā)展方向，這在很大程度上決定了它的效果，到目前為止，除了資金最充足和技術(shù)最先進(jìn)的機(jī)構(gòu)外，其他所有機(jī)構(gòu)都無能為力。只有具有好奇文化和強(qiáng)烈愿意為客戶嘗試全新事物的企業(yè)才能達(dá)成……”

眾所周知，人工智能是屬于實(shí)力派玩家的游戲，上桌需要大籌碼。只有最具實(shí)力的國(guó)家、企業(yè)、組織、機(jī)構(gòu)才有資格。五角大樓擁有人工智能應(yīng)用的天然場(chǎng)景當(dāng)然不能例外，是人工智能“重點(diǎn)實(shí)施單位”。

例如，《國(guó)家安全戰(zhàn)略》（NSS）有史以來第一次將人工智能列為優(yōu)先事項(xiàng)，以及2020年研發(fā)預(yù)算的優(yōu)先事項(xiàng)，并推動(dòng)國(guó)防部成立人工智能中心（JAIC），設(shè)立人工智能國(guó)家安全委員會(huì)，加大美國(guó)國(guó)防高級(jí)研究計(jì)劃局（DARPA）對(duì)人工智能的投資力度。

毫無疑問，這是“美國(guó)政府”的意思，盡一切努力讓人工智能的地位在美國(guó)五角大樓不斷地增強(qiáng)，沒有人會(huì)對(duì)此視若罔聞。

蘭德公司高級(jí)信息科學(xué)家丹妮爾·塔拉夫（Danielle Tarraf）表示，深度學(xué)習(xí)的成功目前是建立在海量、有標(biāo)簽的數(shù)據(jù)集能夠使用的基礎(chǔ)之上。在五角大樓整個(gè)機(jī)構(gòu)范圍內(nèi)追求人工智能的發(fā)展，將要求五角大樓從根本上將其現(xiàn)有文化，轉(zhuǎn)變?yōu)閿?shù)據(jù)驅(qū)動(dòng)的文化。

文化至關(guān)重要，戰(zhàn)略也只是文化的早餐。這一在企業(yè)界通行的理論，在軍事管理機(jī)構(gòu)也同樣適用?！秷?bào)告》敦促五角大樓進(jìn)行文化層面的轉(zhuǎn)變，可以說是從根本上要將五角大樓扭轉(zhuǎn)為“數(shù)字化”的思維方式。

另外，《報(bào)告》強(qiáng)調(diào)，美國(guó)五角大樓需要一個(gè)集中、專注、資源豐富的組織來推動(dòng)人工智能和機(jī)器學(xué)習(xí)的應(yīng)用研究中心。該中心應(yīng)協(xié)調(diào)各部門的研究，并與企業(yè)和高效實(shí)驗(yàn)室保持聯(lián)系，向通報(bào)這些進(jìn)展對(duì)國(guó)防企業(yè)的影響?！?/p>

可以看出，一個(gè)名為“某某人工智能中心”的機(jī)構(gòu)的存在，就是要做全美人工智能的研究信息中樞。這又是從組織結(jié)構(gòu)層面要求五角大樓進(jìn)行轉(zhuǎn)變。面對(duì)變革，越是龐大、紀(jì)律性強(qiáng)的機(jī)構(gòu)越是滯后。一個(gè)靈活、優(yōu)秀的先遣部隊(duì)對(duì)于機(jī)構(gòu)整體變革會(huì)有良好的示范帶頭作用，可以被視為創(chuàng)新的發(fā)動(dòng)機(jī)。一般這類機(jī)構(gòu)的建立一開始就會(huì)給予高度的授權(quán)，以及豐沛的資源。因?yàn)樗麄儗?chuàng)造“明天”。

三、人工智能，五角大樓的“大考”？

2019年，美國(guó)國(guó)防部在人工智能方面獲得了諸多政策與資源支持。五角大樓究竟是“地主家的傻兒子”還是“江山代有才人出”，人工智能無疑是五角大樓的一場(chǎng)大考。

首先，曾任美國(guó)五角大樓副部長(zhǎng)帕特里克·沙納漢（Patrick Shanahan）在一份備忘錄中宣布成立聯(lián)合人工智能中心（JAIC）后，五角大樓要求國(guó)防創(chuàng)新委員會(huì)（DIB）科學(xué)和技術(shù)小組委員會(huì)安排在2019年1月、3月和4月舉辦系列圓桌會(huì)議和公眾聆聽會(huì)議。

2019年伊始，美國(guó)國(guó)防部發(fā)布人工智能發(fā)展細(xì)則，確定將把人工智能引入軍隊(duì)訓(xùn)練等多個(gè)領(lǐng)域。

2019年1月16日，位于美國(guó)華盛頓特區(qū)的國(guó)家情報(bào)總監(jiān)辦公室發(fā)布了《使用機(jī)器增強(qiáng)智能的策略計(jì)劃》（Augmenting Intelligence using Machines）。該計(jì)劃使情報(bào)機(jī)構(gòu)能夠從根本上改變其產(chǎn)生情報(bào)的方式，軍事情報(bào)理所當(dāng)然包括在內(nèi)。

2月，特朗普簽署行人工智能總統(tǒng)行政命令，又稱《美國(guó)人工智能倡議》，強(qiáng)調(diào)繼續(xù)在對(duì)美國(guó)經(jīng)濟(jì)和國(guó)家安全方面，人工智能發(fā)揮領(lǐng)導(dǎo)力，將人工智能全球進(jìn)化（global evolution）的方式塑造為符合美國(guó)價(jià)值觀、原則。這是影響人工智能在美國(guó)發(fā)展的里程碑事件。

在總統(tǒng)簽署行政命令的同時(shí)，五角大樓發(fā)布了人工智能戰(zhàn)略的非機(jī)密摘要。該戰(zhàn)略概述了提高人工智能能力、擴(kuò)大人工智能影響、培養(yǎng)人工智能勞動(dòng)力、積極與盟友和合作伙伴進(jìn)行接觸以及在軍事、倫理和人工智能安全上發(fā)揮領(lǐng)導(dǎo)作用的五個(gè)方面的戰(zhàn)略方法。

該戰(zhàn)略還將聯(lián)合人工智能中心指定為“五角大樓人工智能戰(zhàn)略的重點(diǎn)”，以“加速交付人工智能能力，擴(kuò)大人工智能的全局性影響，同步五角大樓人工智能活動(dòng)，擴(kuò)大聯(lián)合部隊(duì)優(yōu)勢(shì)”。

2019年3月，美國(guó)國(guó)家安全委員會(huì)（NSC）舉行了首次全體會(huì)議。

2019年5月3日，美國(guó)國(guó)防創(chuàng)新委員會(huì)發(fā)布了軟件采購(gòu)和實(shí)踐（SWAP）研究報(bào)告。

2019年6月，美國(guó)國(guó)家人工智能研發(fā)戰(zhàn)略計(jì)劃更新。

2019年7月12日，美國(guó)五角大樓于發(fā)布了其數(shù)字現(xiàn)代化戰(zhàn)略。其目標(biāo)是通過云計(jì)算、人工智能、命令、控制和通信和網(wǎng)絡(luò)安全的優(yōu)先計(jì)劃來支持美國(guó)國(guó)防戰(zhàn)略的實(shí)施。

2019年8月9日，美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）發(fā)布了人工智能計(jì)劃，作為對(duì)特朗普的回應(yīng)。

2019年9月6日，美國(guó)能源部宣布成立能源部人工智能與技術(shù)辦公室。

2019年10月最后一天，美國(guó)國(guó)防創(chuàng)新委員會(huì)提出了人工智能原則，并在季度公開會(huì)議上投票批準(zhǔn)了該原則。

2019年11月4日，美國(guó)國(guó)家安全委員會(huì)發(fā)布了關(guān)于人工智能的臨時(shí)報(bào)告。

2019年美國(guó)國(guó)防授權(quán)法案簽署成為法律。該法案包含兩項(xiàng)關(guān)于人工智能的立法，第238條和第1051條，立法成立人工智能國(guó)家安全委員會(huì)。

回顧過去三年，美國(guó)五角大樓對(duì)自主能力產(chǎn)生了濃厚的興趣。這種興趣體現(xiàn)在美國(guó)國(guó)防科學(xué)委員會(huì)（DSB）的反制自主任務(wù)小組、現(xiàn)已解散的美國(guó)海軍研究咨詢委員會(huì)（NRAC）、美國(guó)陸軍科學(xué)委員會(huì)（ASB）多個(gè)機(jī)構(gòu)目前正在開展的研究項(xiàng)目上，比如“人工智能在戰(zhàn)場(chǎng)上的應(yīng)用”。同時(shí)，人工智能也滲透到美國(guó)空軍科學(xué)顧問委員會(huì)（SAB）諸多研究中。

回望更久遠(yuǎn)的歷史，美國(guó)五角大樓結(jié)緣人工智能并非始于過去幾年。五十多年前，DARPA就一直支持人工智能研究。美國(guó)海軍研究辦公室，美國(guó)空軍科學(xué)研究辦公室和美國(guó)陸軍研究實(shí)驗(yàn)室也在支持人工智能研究方面有著悠久的歷史。

四、“六大槽點(diǎn)”，差評(píng)實(shí)至名歸

人工智能受到五角大樓自上而下的重視，但是面對(duì)一種新技術(shù)，美國(guó)人也是在摸索中前進(jìn)。在尚且無法判斷之時(shí)，勤奮的工作未必能取得優(yōu)異的成績(jī)。

《報(bào)告》結(jié)論認(rèn)為，美國(guó)五角大樓的人工智能態(tài)勢(shì)在各個(gè)方面都受到了重大挑戰(zhàn)，并嚴(yán)苛地指出工作中存在的“六大槽點(diǎn)”。

一、五角大樓沒有人工智能愿景，并缺乏相關(guān)的基準(zhǔn)和指標(biāo)，并且內(nèi)部溝通不暢。二、五角大樓內(nèi)部對(duì)人工智能投資缺乏共識(shí)，五角大樓的收購(gòu)戰(zhàn)略在多大程度上支持人工智能發(fā)展仍不清楚。三、五角大樓牽頭發(fā)展AI的部門權(quán)責(zé)受限，缺乏長(zhǎng)期預(yù)算承諾，缺乏五年戰(zhàn)略路線圖，沒有明確的目標(biāo)，沒有制定路線圖。四、五角大樓內(nèi)部的創(chuàng)新可能會(huì)受到現(xiàn)有實(shí)踐和流程的阻礙，而現(xiàn)有管理及流程限制五角大樓引入外部創(chuàng)新。五、整個(gè)美國(guó)國(guó)防部?jī)?nèi)部系統(tǒng)缺乏互用性（interoperability）帶來諸多問題。不能收集和存儲(chǔ)好數(shù)據(jù)、數(shù)據(jù)的訪問受限、有的數(shù)據(jù)不能追溯，涉及外部供應(yīng)商的數(shù)據(jù)所有權(quán)含糊不清。六、在人才方面，五角大樓缺乏定義和跟蹤AI人才的明確機(jī)制，難以發(fā)展和培養(yǎng)AI人才。

《報(bào)告》繼續(xù)它的批評(píng)，特別指名點(diǎn)姓地評(píng)價(jià)了牽頭部門——聯(lián)合人工智能中心（JAIC），強(qiáng)調(diào)五角大樓需要一個(gè)集中、專注、資源豐富的應(yīng)用研究中心來推動(dòng)人工智能和機(jī)器學(xué)習(xí)的發(fā)展，而目前的牽頭部門難堪當(dāng)重任。

該中心曾在《國(guó)防部人工智能戰(zhàn)略總結(jié)》中被指定為執(zhí)行美國(guó)國(guó)防部戰(zhàn)略的重點(diǎn)部門，并有望吸引和培養(yǎng)一支世界級(jí)的人工智能團(tuán)隊(duì)。然而，聯(lián)合人工智能中心2019年表現(xiàn)平平，毫無亮點(diǎn)。

《報(bào)告》坦誠(chéng)地討論了研究人員評(píng)估工作的局限，“我們（蘭德咨詢的研究人員）沒有采訪美國(guó)國(guó)家級(jí)實(shí)驗(yàn)室和情報(bào)機(jī)構(gòu)。也沒有采訪美國(guó)政府資助的研究和發(fā)展中心，以及美國(guó)大學(xué)附屬的研究中心。

盡管根據(jù)研究的既定目標(biāo)對(duì)受訪者進(jìn)行了系統(tǒng)的選擇和接觸，但仍存在樣本偏差的可能性。例如美國(guó)國(guó)防工業(yè)基地，我們（蘭德咨詢的研究人員）本想在那里撒一張更大的網(wǎng)，但由于能力所限，無法采訪?！?/p>

言下之意，如果評(píng)估工作做得再?gòu)氐滓恍?，五角大樓槽點(diǎn)會(huì)更多。

另外，蘭德咨詢公司對(duì)五角大樓目前在人工智能領(lǐng)域的投資項(xiàng)目進(jìn)行了定量的評(píng)估工作，但這部分資料并不允許公開。

最后，《報(bào)告》毫不留情面給出的決定性結(jié)論是，“盡管我們（蘭德咨詢的研究人員）看到了一些積極的跡象，但是，評(píng)估結(jié)果是，國(guó)防部在人工智能中的態(tài)勢(shì)，在被評(píng)估的所有方面都受到了顯著的挑戰(zhàn)?！?/p>

除了批評(píng)與否定，《報(bào)告》提出了一系列建議，包括內(nèi)部行動(dòng)、外部參與以及潛在的立法，以及監(jiān)管行動(dòng)提出了11項(xiàng)戰(zhàn)略建議。要求五角大樓明確使命，促進(jìn)人工智能的應(yīng)用，制定一項(xiàng)五年戰(zhàn)略路線圖以實(shí)現(xiàn)擴(kuò)展人工智能用途，并要求五角大樓推進(jìn)人工智能平臺(tái)的測(cè)試和驗(yàn)證實(shí)踐，擴(kuò)展與學(xué)術(shù)界和工業(yè)界的合作。

綜上所述，《蘭德咨詢：美國(guó)國(guó)防部人工智能態(tài)勢(shì)分析》全面和徹底的，對(duì)五角大樓進(jìn)行了不留情面地批評(píng)，從領(lǐng)導(dǎo)層到執(zhí)行層，從文化到管理，以“差評(píng)”為美國(guó)國(guó)防部2019年人工智能的工作畫上句號(hào)，但是，人工智能是一場(chǎng)全球性的技術(shù)變革，風(fēng)起云涌之中，這場(chǎng)沒有硝煙的戰(zhàn)斗并不會(huì)因?yàn)樾履甑溺娐曧懫鸲Ｖ埂?/p>