DARPA在ChatGPT出現(xiàn)的背景下尋找實現(xiàn)可信賴AI的道路

美國防高級研究計劃局（DARPA）最近發(fā)起了“人工智能前沿”（AI Forward）計劃，用于發(fā)現(xiàn)和探索新的研究方向，以構建和部署與國家安全相關的、可信賴的人工智能（AI）和機器學習應用程序。

DARPA希望通過“人工智能前沿”計劃與專家們通力合作，致力于近期內(nèi)使可信賴的人工智能技術成為現(xiàn)實，同時為DARPA相關的信息技術戰(zhàn)略投資提供意見。

自從2022年11月ChatGPT公開供公眾使用之后，其廣受歡迎。這種交互式聊天機器人可以在一定程度上準確地完成各種不同的任務，可以在人類的提示下生成音頻、代碼、圖像、文本、視頻和其他內(nèi)容，并能以對話的方式與人們進行令人信服的互動，這標志著生成式人工智能的一種具體應用。

盡管目前ChatGPT等生成式人工智能系統(tǒng)能力非常引人注目，但美國防部（DoD）認為，它們尚未達到DoD所需要的可靠性水平。

一、ChatGPT帶來的新興能力

DARPA專家認為，人工智能技術的發(fā)展將經(jīng)歷三波浪潮。第一波是基礎性的，包括基于規(guī)則的人工智能系統(tǒng)。這些人工智能系統(tǒng)遵循人類定義的規(guī)則。第二波人工智能系統(tǒng)引入了統(tǒng)計方法，可以對外來信息進行聚類和分類，然后根據(jù)數(shù)據(jù)預測任何下一步行動。當?shù)谌ㄈ斯ぶ悄芾顺蓖耆珜崿F(xiàn)時，人工智能系統(tǒng)將基本上具備識別和響應物理世界的能力，并可就其決策提供準確的情境解釋。

DARPA專家認為，ChatGPT這樣的大型語言模型屬于第二波人工智能技術范疇，目前還沒有看到任何第三波人工智能的成功例子。雖然現(xiàn)在人們建立了ChatGPT這樣規(guī)模巨大的人工智能模型，但并沒有全面了解它們知道什么、不知道什么、它們有什么能力，而這是一個超級艱巨的問題。要真正理解這些模型及其功能，將需要付出大量的、專門的努力，這正是AI Forward計劃的全部內(nèi)容。

近期，超過1000名技術領袖和科學家寫了一封公開信，呼吁至少在接下來的六個月內(nèi)立即暫停生產(chǎn)比GPT-4（或最新版本的病毒文本生成引擎）更強大的人工智能模型。

其實，早在ChatGPT上市之前，DARPA就已經(jīng)提出了AI Forward計劃，因為與商業(yè)行業(yè)相比，美國國防部對人工智能潛在的破壞和風險有著更深層次的理解和關注。

二、推進AI Forward技術

為了啟動AI Forward計劃，DARPA將在2023年6月舉辦一個虛擬研討會，并于7月下旬開始在波士頓舉辦一次現(xiàn)場研討會，屆時參與者將就“引人注目的新方向”進行頭腦風暴，以設計高度可信的AI。隨著這些活動的結束，DARPA將邀請參與者編寫白皮書，為快速探索DARPA可能資助的特定主題提供決策信息。DARPA認為，在可能對創(chuàng)建可信的人工智能系統(tǒng)至關重要的高級別類別中，最重要的兩個領域涉及人類理解的人工智能及此類系統(tǒng)在多個方面的基礎理論，以及如何開發(fā)這些技術。

盡管當前出現(xiàn)了類似GPT-4這樣的大型多模態(tài)人工智能模型，DARPA也沒有據(jù)此來構建所需要的人工智能系統(tǒng)。因為，如果這樣做可能為濫用和難以控制的意外打開大門。

此外，DARPA還在AI Forward計劃中尋求與合作者進行人和人工智能的合作。DARPA希望機器能夠成為不同背景的人的隊友，為人提供流暢、直觀、值得信賴的服務。

目前，DARPA官員對AI Forward計劃可能實現(xiàn)的所有目標持開放態(tài)度，而不僅僅考慮一種解決方案。因為人工智能的功能和運作方式與人類不同，至少對當前一代和可預見的近期人工智能來說是這樣。這需要人們用不同的方式來衡量和評估它們。

審核編輯 ：李倩