美國(guó)國(guó)防部應(yīng)對(duì)人工智能機(jī)遇與挑戰(zhàn)的分析

2021年1月，美國(guó)蘭德公司發(fā)布相關(guān)報(bào)告，以回應(yīng)美國(guó)2019年度國(guó)防授權(quán)法案（NDAA）和美國(guó)國(guó)防部聯(lián)合人工智能中心（JAIC）對(duì)美國(guó)國(guó)防部（DOD）如何應(yīng)對(duì)人工智能（AI）機(jī)遇與挑戰(zhàn)的相關(guān)提問(wèn)，包括：（1）美國(guó)DOD是否已經(jīng)準(zhǔn)備好利用AI技術(shù)，（2）美國(guó)DOD是否需要重新定位以便更有效、更安全地使用AI技術(shù)并擴(kuò)大應(yīng)用規(guī)模。

預(yù)研人工智能、量子信息等先進(jìn)技術(shù)在未來(lái)國(guó)防領(lǐng)域的應(yīng)用，加強(qiáng)技術(shù)評(píng)估研究，也是我國(guó)軍事科技研發(fā)應(yīng)用的重點(diǎn)。

一

美國(guó)國(guó)防部與人工智能

AI一詞首次出現(xiàn)于1956年，自20世紀(jì)50年代以來(lái)，AI及其分支學(xué)科如機(jī)器學(xué)習(xí)得到了很大的發(fā)展，但目前尚無(wú)AI的統(tǒng)一定義。為保持研究的靈活性，蘭德公司此次也沒(méi)有明確定義AI而是提出問(wèn)題：在構(gòu)建（或獲取）、測(cè)試、轉(zhuǎn)化和維持AI范疇內(nèi)的廣泛技術(shù)方面，美國(guó)DOD如何定位？如果這些AI技術(shù)不夠完善，美國(guó)DOD應(yīng)該如何做？

蘭德公司研究小組將待回答的問(wèn)題分解為3個(gè)指導(dǎo)性問(wèn)題：（1）與美國(guó)DOD相關(guān)的AI現(xiàn)狀是什么？（2）美國(guó)DOD目前的AI立場(chǎng)是什么？（3）什么樣的內(nèi)部行動(dòng)、外部合作和潛在的立法或監(jiān)管行動(dòng)可以堅(jiān)定美國(guó)DOD的AI立場(chǎng)？

蘭德公司研究小組針對(duì)第一個(gè)問(wèn)題評(píng)估了美國(guó)DOD決策層所需的AI認(rèn)知，針對(duì)第二問(wèn)題從AI的組織、進(jìn)展、采用、創(chuàng)新、數(shù)據(jù)、人才等六個(gè)維度進(jìn)行評(píng)估。

二美國(guó)DOD決策層所需的AI認(rèn)知

為了研究AI對(duì)美國(guó)DOD和戰(zhàn)略決策的影響，需要全局考慮：（1）技術(shù)和能力范圍，（2）美國(guó)DOD的AI應(yīng)用范圍，（3）投資范圍及時(shí)間等三個(gè)關(guān)鍵因素及其相互作用。

在技術(shù)和能力范圍方面，包括支撐當(dāng)前AI解決方案的方法，如算法等。雖然AI相關(guān)的技術(shù)很多，但驅(qū)動(dòng)進(jìn)步的研究集中在少數(shù)領(lǐng)域，如深度學(xué)習(xí)。深度學(xué)習(xí)需要大量的數(shù)據(jù)集，深度學(xué)習(xí)算法具有專用性，當(dāng)前應(yīng)用主要是商用。此外，驗(yàn)證、確認(rèn)、測(cè)試和評(píng)估（VVT&E）仍然是AI廣泛應(yīng)用面臨的挑戰(zhàn)，包括安全為首的軍事應(yīng)用。

美國(guó)DOD的AI應(yīng)用范圍可以通過(guò)4個(gè)獨(dú)立的因素來(lái)描述：作業(yè)環(huán)境可控性、資源可獲取性、響應(yīng)速度和故障影響。圖2以這4個(gè)因素描述了企業(yè)型AI、任務(wù)支持型AI、作戰(zhàn)型AI三類應(yīng)用環(huán)境。企業(yè)型AI包括軍隊(duì)醫(yī)院健康記錄管理等應(yīng)用，此類應(yīng)用可控性高、資源可獲取性高、響應(yīng)速度要求不高、數(shù)據(jù)可恢復(fù)因而故障影響可忽略。任務(wù)支持型AI包括算法的軍事應(yīng)用，如使用機(jī)器學(xué)習(xí)來(lái)輔助分析戰(zhàn)區(qū)全動(dòng)態(tài)視頻等，應(yīng)用環(huán)境在4個(gè)因素方面表現(xiàn)居中。作戰(zhàn)型AI包括將AI集成到武器系統(tǒng)中，此類應(yīng)用必須適應(yīng)動(dòng)態(tài)及對(duì)抗性環(huán)境，達(dá)到快速響應(yīng)，然而此類應(yīng)用的計(jì)算和通信資源（可能還包括數(shù)據(jù)）稀缺，故障影響重大，一旦發(fā)生故障將帶來(lái)戰(zhàn)略目標(biāo)風(fēng)險(xiǎn)和重大傷亡。

圖2美國(guó)國(guó)防部AI應(yīng)用環(huán)境分析

投資范圍及時(shí)間方面，除了AI應(yīng)用范圍內(nèi)的技術(shù)投資，還需要以下三方面投資：（1）其他技術(shù)和促進(jìn)因素如支持?jǐn)?shù)據(jù)收集和管理的基礎(chǔ)設(shè)施；（2）用于技術(shù)制衡的VVT&E基礎(chǔ)和實(shí)踐；（3）通用技術(shù)基礎(chǔ)研究，以保持長(zhǎng)期技術(shù)優(yōu)勢(shì)。

為了進(jìn)行預(yù)期管理并確保持續(xù)的支持，制定從AI設(shè)計(jì)到全面實(shí)施的具體目標(biāo)十分重要。蘭德公司研究小組分析美國(guó)DOD的持續(xù)投資有望在短、中、長(zhǎng)期，分階段實(shí)現(xiàn)AI的大規(guī)模部署：（1）短期（最長(zhǎng)五年）實(shí)現(xiàn)企業(yè)型AI應(yīng)用，（2）中期（五年到十年）實(shí)現(xiàn)任務(wù)支持型AI應(yīng)用，（3）長(zhǎng)期（十年以上）實(shí)現(xiàn)作戰(zhàn)型AI應(yīng)用。

三美國(guó)DoD的AI立場(chǎng)

蘭德公司從AI的組織、進(jìn)展、采用、創(chuàng)新、數(shù)據(jù)、人才等六個(gè)維度對(duì)美國(guó)DOD的AI立場(chǎng)進(jìn)行了評(píng)估。蘭德公司認(rèn)為，美國(guó)DOD在六個(gè)方面均面臨重大挑戰(zhàn)。（1）組織上，當(dāng)前美國(guó)DOD的AI戰(zhàn)略缺乏過(guò)程評(píng)估的基準(zhǔn)和指標(biāo)。目前，JAIC尚未被賦予規(guī)?；疉I應(yīng)用所需的權(quán)力、資源、可見(jiàn)性。類似的挑戰(zhàn)也存在于個(gè)別服務(wù)層面。（2）缺乏數(shù)據(jù)或者數(shù)據(jù)缺乏可追溯性、可理解性、可獲取性和互操作性。（3）目前AI技術(shù)的驗(yàn)證、確認(rèn)、測(cè)試和評(píng)估方案尚不能確保AI系統(tǒng)的性能和安全，尤其對(duì)于安全為首的系統(tǒng)。（4）美國(guó)DOD缺乏明確的機(jī)制來(lái)發(fā)展、追蹤和培養(yǎng)AI人才，而這一挑戰(zhàn)將隨著美國(guó)DOD與學(xué)術(shù)界、工業(yè)界以及其工作領(lǐng)域的人才爭(zhēng)奪而嚴(yán)峻。（5）美國(guó)DOD內(nèi)缺乏AI建設(shè)者和使用者之間溝通渠道。（6）目前美國(guó)DOD的做法和流程（或?qū)嵤┛赡茏璧KDOD內(nèi)部創(chuàng)新進(jìn)程以及外部創(chuàng)新引入。

四建議

雖然，美國(guó)DOD在AI方面表現(xiàn)出積極態(tài)度，但從AI的有效利用和規(guī)?；矫鎭?lái)看，整體表現(xiàn)并不理想。為此，蘭德公司提出了一系列戰(zhàn)略和戰(zhàn)術(shù)建議，以推進(jìn)AI的國(guó)防應(yīng)用。

（1）美國(guó)DOD應(yīng)該調(diào)整AI治理結(jié)構(gòu)，為實(shí)現(xiàn)AI的規(guī)模化應(yīng)用匹配相應(yīng)的權(quán)限和資源。

（2）JAIC應(yīng)該制定一個(gè)五年戰(zhàn)略路線圖，明確評(píng)估基準(zhǔn)和指標(biāo)。

（3）采用集中式AI服務(wù)架構(gòu)的組織都應(yīng)該制定一個(gè)有基準(zhǔn)和指標(biāo)的五年戰(zhàn)略路線圖。

（4）每年或每?jī)赡陮?duì)整個(gè)美國(guó)DOD范圍內(nèi)的AI投資進(jìn)行一次審查，并由JAIC牽頭，國(guó)防部研究和工程副部長(zhǎng)（USD-R&E）、國(guó)防部采購(gòu)和維持副部長(zhǎng)（USD-A&S）、參謀長(zhǎng)聯(lián)席會(huì)議主席和AI服務(wù)代表共同參與。

（5）每年或每?jī)赡闖AIC應(yīng)該組織一次技術(shù)研討會(huì)以展示美國(guó)DOD范圍內(nèi)的AI項(xiàng)目。

（6）美國(guó)DOD應(yīng)與工業(yè)界和學(xué)術(shù)界合作共同推進(jìn)AI系統(tǒng)VVT&E的科學(xué)和實(shí)踐。JAIC應(yīng)該牽頭協(xié)調(diào)這項(xiàng)工作，與USD-R&E、USD-A&S、美國(guó)DOD作戰(zhàn)試驗(yàn)和評(píng)估部緊密合作，加強(qiáng)美國(guó)DOD內(nèi)外合作伙伴關(guān)系。

（7）所有受資助的AI活動(dòng)都應(yīng)該包括VVT&E方面的預(yù)算。

（8）美國(guó)DOD的所有機(jī)構(gòu)都應(yīng)建立或者加強(qiáng)開(kāi)發(fā)者和使用者之間溝通機(jī)制，使AI研究人員、技術(shù)開(kāi)發(fā)人員和最終的操作人員可以有效連接和溝通。

（9）美國(guó)DOD應(yīng)該認(rèn)識(shí)到數(shù)據(jù)是關(guān)鍵的資源，繼續(xù)加強(qiáng)數(shù)據(jù)收集和管理的實(shí)踐方法，擴(kuò)大數(shù)據(jù)共享同時(shí)保護(hù)數(shù)據(jù)安全。

（10）為了激發(fā)美國(guó)DOD的創(chuàng)新活力并加強(qiáng)外部合作，首席數(shù)據(jù)官應(yīng)該向AI社區(qū)開(kāi)放美國(guó)DOD的一些數(shù)據(jù)集。

（11）美國(guó)DOD應(yīng)該保持適度的包容和開(kāi)放，以促進(jìn)AI人才獲取。

原文標(biāo)題：蘭德公司分析美國(guó)國(guó)防部應(yīng)該如何應(yīng)對(duì)人工智能機(jī)遇與挑戰(zhàn)

文章出處：【微信公眾號(hào)：集成電路研發(fā)競(jìng)爭(zhēng)情報(bào)】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。

責(zé)任編輯：haq