美國防部生成式人工智能先期發(fā)展動向分析

導讀：生成式人工智能的應用，在過去一年中呈爆炸性增長，它們利用大量的歷史數(shù)據(jù)進行學習，可以根據(jù)簡單的引導提示快速生成文本、圖像或視頻等內(nèi)容。自出現(xiàn)以來，美國國防部對生成式人工智能的發(fā)展迅速列入關(guān)注并采取了一些舉措。

生成式人工智能（AI）能力，如大型語言模型（LLM）在全球的受歡迎程度、能力和影響力都在不斷增長。這些能力是在大規(guī)模數(shù)據(jù)集上訓練的，以便生成細節(jié)和明顯連貫的內(nèi)容，這在以前需要人類創(chuàng)作。這些能力帶來了新的機遇，同時也帶來了新的重大風險。國防部門迫切需要探索這種技術(shù)的應用以及這些模型的規(guī)模、速度和交互能力的潛力，以提高任務效率，同時確定適當?shù)谋Ｗo措施并減輕各種相關(guān)風險。

成立“利馬”工作組

美國國防部于2023年8月10日宣布成立了一個人工智能技術(shù)特別工作組——“利馬”（Task Force Lima），以集中研究并部署大型語言模型等生成式人工智能工具。“利馬”工作組由五角大樓首席數(shù)字和人工智能辦公室（CDAO）領(lǐng)導，將開發(fā)、評估、推薦和監(jiān)控整個國防部的生成人工智能技術(shù)的實施，以確保國防部能夠負責任和安全地設(shè)計、部署和使用生成人工智能技術(shù)，確保CDAO在維護國家安全的同時保持尖端技術(shù)的最前沿?！袄R”工作組將提供指導并提出建議，供有關(guān)決策機構(gòu)處理。

綜合目標

為了能夠負責任的、統(tǒng)一的采用這種尖端技術(shù)，“利馬”工作組的將為國防部提供框架和倡議，以實現(xiàn)以下綜合目標：

l加速有前景的生成式人工智能倡議和聯(lián)合解決方案；

l將不同的開發(fā)和研究工作聯(lián)合成國防部的實踐社區(qū)，以加速創(chuàng)新和實施；

l評估原則、組織、訓練、物資、領(lǐng)導、人員、設(shè)施和政策方面的解決方案；

l推動技術(shù)教育，建立負責任的實施和使用文化；確保國防部與跨部門、國際、教育、公民社會和工業(yè)合作伙伴在負責任地開發(fā)和使用生成式人工智能方面的合作。

前期工作

2023年9月18日，“利馬”工作組表示將在未來18個月內(nèi)充分了解軍方和國防部對于生成式人工智能的需求，以加快對該技術(shù)的理解、評估、部署及監(jiān)測，大規(guī)模整合具備任務適應性的相關(guān)技術(shù)。此期間“利馬”工作組的工作包括：

l全面了解人工智能的工作原理和外部數(shù)據(jù)應用過程，并聚焦軍事用例與作戰(zhàn)過程的聯(lián)系，與其他部門合作，訓練多個種類的大語言模型；

l為美國國防部制定基于生成式人工智能的臨時指南、框架和工作流程，參與國防部對大語言模型的實際研究和部署；

l建立周期會議機制，讓內(nèi)部各級人員及時了解“利馬”工作組正在制定的計劃和方法；

l向業(yè)界發(fā)布信息征詢書，了解和探索創(chuàng)新型人工智能的開發(fā)與集成風險和收益。

小結(jié)

“利馬”工作組的任務實際上是為整個美國國防部開發(fā)、評估、推薦和監(jiān)控生成人工智能能力，并負責任地確保國防部可控地大規(guī)模集成這些技術(shù)?！袄R”工作組把總體的任務分成幾個階段，目前的第一階段是盡可能多地學習外面的一切，邀請公眾和工業(yè)界幫助國防部“進一步了解和探索開發(fā)、獲取和集成生成人工智能的風險和好處”，以快速瀏覽生成人工智能在國防領(lǐng)域呈現(xiàn)的不確定和變革性的力量，另一項短期任務是為五角大樓提供關(guān)于生成人工智能的臨時指南。

這些先期工作最基礎(chǔ)的好處在于，當尋求收購低風險商業(yè)軟件時，“利馬”工作組現(xiàn)在可以建立許多業(yè)內(nèi)公認的標準和安全措施。根據(jù)白宮10月30日發(fā)布的政令，對于政府來說，國防部是一個完美的試驗臺，可以在封閉的環(huán)境中以負責任的方式推進和現(xiàn)實地培訓生成人工智能技術(shù)。無論利馬工作組編纂了什么樣的指導方針、最佳實踐或標準，都必須在聯(lián)邦政府內(nèi)共享，以便為其他部門和機構(gòu)的工作提供信息。

對于生成式人工智能技術(shù)能否廣泛應用，美軍希望解決的關(guān)鍵問題包括：如何規(guī)避機器幻覺問題、如何衡量模型的性能、如何制定可信賴的人工智能的度量標準、如何管理訓練模型所用的數(shù)據(jù)等，美軍也正在與工業(yè)界合作來共同解決上述問題。關(guān)于美國國防部最終是否會以何種方式、出于何種目的大規(guī)模部署生成式人工智能，仍有許多未知因素。