ChatGPT的潛在軍事應(yīng)用分析

1前言

OpenAI于2022年11月30日開放測試ChatGPT聊天機器人，此后ChatGPT風(fēng)靡全球。兩個月后，ChatGPT用戶達(dá)到1億，在1月份的訪問量約為5.9億。瑞銀銀行分析師在報告中寫道，這是互聯(lián)網(wǎng)領(lǐng)域發(fā)展20年來，增長速度最快的消費類應(yīng)用程序。在以ChatGPT為代表的生成式人工智能（Generative AI）技術(shù)迅速風(fēng)靡互聯(lián)網(wǎng)后，其在軍事及情報領(lǐng)域可能具有的巨大潛在價值，也開始引起相關(guān)領(lǐng)域?qū)I(yè)用戶們的關(guān)注——負(fù)責(zé)美國軍事網(wǎng)絡(luò)基礎(chǔ)設(shè)施建設(shè)及運維的國防信息系統(tǒng)局（DISA）已在考慮將生成式人工智能納入其新一財年的“關(guān)注技術(shù)清單”（tech watch list）。

ChatGPT與以往公開提供服務(wù)的對話機器人相比，性能有了顯著提高，這得益于Transformer和GPT等相關(guān)技術(shù)的發(fā)展，Transformer是一種用于序列到序列任務(wù)的神經(jīng)網(wǎng)絡(luò)模型，使用了注意力機制來計算輸入序列和輸出序列之間的關(guān)系，GPT技術(shù)提出了自然語言的一種新的訓(xùn)練范式，可通過對海量數(shù)據(jù)的無監(jiān)督學(xué)習(xí)來訓(xùn)練一個語言模型。

2ChatGPT具備的能力

ChatGPT是一種專注于對話生成的語言模型，它能夠根據(jù)用戶的文本輸入，產(chǎn)生相應(yīng)的智能回答，這個回答可以是簡短的詞語，也可以是長篇大論。通過學(xué)習(xí)大量現(xiàn)成文本和對話集合（例如Wiki），ChatGPT能夠像人類那樣即時對話，流暢地回答各種問題，支持包括英文在內(nèi)的多種語言（例如中文、韓語等），從回答歷史問題，到寫故事，甚至是撰寫商業(yè)計劃書和行業(yè)分析，“幾乎”無所不能，ChatGPT具備以下能力：

（1）回答問題和撰寫文章：ChatGPT能通過與人做文字對話的方式，針對人輸入的提示文字，提供相應(yīng)的文字回答，且回答的內(nèi)容形式上合理。此外，ChatGPT還可以寫腳本、寫作業(yè)、寫論文、創(chuàng)作詩歌、故事等。

（2）總結(jié)提煉。ChatGPT能對輸入的材料進(jìn)行總結(jié)提煉，用戶可以給它輸入一篇文章，讓它概括文章大意；或者給它輸入一段討論，讓它總結(jié)主要觀點和論證。

（3）生成代碼。ChatGPT的代碼能力非常強，當(dāng)用戶提一個要求，比如“如何實現(xiàn)XX效果？”，ChatGPT 會生成幾種可行的方案，并提供這些方案的主要函數(shù)和算法；當(dāng)用戶向它提問，比如“在XX情況下出現(xiàn)了一個bug，為什么？”，ChatGPT會分析幾種可能的原因，并告知用戶如何處理每一種可能性。

3ChatGPT存在的不足

盡管ChatGPT表現(xiàn)出出色的上下文對話能力甚至編程能力，完成了大眾對人機對話機器人（ChatBot）從“人工智障”到“有趣”的印象改觀，但是ChatGPT技術(shù)仍然有一些局限性，還需不斷進(jìn)步。

1）ChatGPT在其未經(jīng)大量語料訓(xùn)練的領(lǐng)域缺乏“人類常識”和引申能力，甚至?xí)槐菊?jīng)的“胡說八道”。ChatGPT在很多領(lǐng)域可以“創(chuàng)造答案”，但當(dāng)用戶尋求正確答案時，ChatGPT也有可能給出有誤導(dǎo)的回答。例如讓ChatGPT做一道小學(xué)應(yīng)用題，盡管它可以寫出一長串計算過程，但最后答案卻是錯誤的。因此，ChatGPT在某些領(lǐng)域的問題回答方面雖然讀起來邏輯通順，但是一些常識性錯誤可能只有專業(yè)人士才能發(fā)現(xiàn)。

2） ChatGPT無法處理復(fù)雜冗長或者特別專業(yè)的語言結(jié)構(gòu)。對于來自金融、自然科學(xué)或醫(yī)學(xué)等非常專業(yè)領(lǐng)域的問題，如果沒有進(jìn)行足夠的語料“喂食”，ChatGPT可能無法生成適當(dāng)?shù)幕卮稹?/p>

3） ChatGPT需要非常大量的算力（芯片）來支持其訓(xùn)練和部署，目前ChatGPT在應(yīng)用時仍然需要大算力的服務(wù)器支持，而這些服務(wù)器的成本是普通用戶無法承受的，即便數(shù)十億個參數(shù)的模型也需要驚人數(shù)量的計算資源才能運行和訓(xùn)練，如果面向真實搜索引擎的數(shù)以億計的用戶請求，如采取目前通行的免費策略，任何企業(yè)都難以承受這一成本。

4） ChatGPT還沒法在線的把新知識納入其中，而出現(xiàn)一些新知識就去重新預(yù)訓(xùn)練GPT模型也是不現(xiàn)實的，無論是訓(xùn)練時間或訓(xùn)練成本，都是普通訓(xùn)練者難以接受的。如果對于新知識采取在線訓(xùn)練的模式，看上去可行且語料成本相對較低，但是很容易由于新數(shù)據(jù)的引入而導(dǎo)致對原有知識的災(zāi)難性遺忘的問題。

5） ChatGPT仍然是黑盒模型。目前還未能對ChatGPT的內(nèi)在算法邏輯進(jìn)行分解，因此并不能保證ChatGPT不會產(chǎn)生攻擊甚至傷害用戶的表述。

4ChatGPT的潛在軍事應(yīng)用

ChatGPT使用了自然語言處理技術(shù)，這類技術(shù)是美軍聯(lián)合全域指揮控制（JADC2）概念中重點研發(fā)的技術(shù)。2020年7月1日，美國蘭德公司空軍項目組發(fā)布《現(xiàn)代戰(zhàn)爭中的聯(lián)合全域指揮控制——識別和開發(fā)人工智能應(yīng)用的分析框架》報告，報告指出，人工智能技術(shù)可以分為6類，自然語言處理類技術(shù)作為其中之一在JADC2中都有明確的應(yīng)用——可用于從語音和文本中提取情報，還可以監(jiān)視友軍的聊天，以將相關(guān)信息發(fā)送給個人，提醒他們潛在的沖突或機會。

此外，美國空軍也曾探索過利用自然語言處理技術(shù)開發(fā)類似ChatGPT的智能問答系統(tǒng)。2018 年1 月，美空軍發(fā)布數(shù)字企業(yè)多源開發(fā)助手（MEADE）項目的廣泛機構(gòu)公告，尋求研發(fā)一種交互式問題解答系統(tǒng)，作為虛擬助手幫助分析人員開展數(shù)據(jù)分析。MEADE 項目將基于多情報源搜索/檢索、自然語言處理、推薦引擎、應(yīng)用分析等人工智能技術(shù)構(gòu)建一種在云端或分布式計算環(huán)境中運行的會話式問答系統(tǒng)，提供交互式搜索、信息檢索并分析能力。同時開發(fā)情境融合和預(yù)測分析服務(wù)，利用人工智能技術(shù)進(jìn)行多源情報的數(shù)據(jù)分析、跨多平臺或多傳感器的情境融合以及實體行為分析，最終為給定態(tài)勢生成最優(yōu)的行動方案，以此提高作戰(zhàn)人員在快節(jié)奏戰(zhàn)場中的海量數(shù)據(jù)分析和方案籌劃能力。

ChatGPT可以進(jìn)行自然語言處理和語義理解，其生成式人工智能技術(shù)并具有強大的文本生成能力，其文本生成能力取得了革命性突破，這類技術(shù)能夠有效改進(jìn)戰(zhàn)場上的人機交互過程，具有以下應(yīng)用潛力：

（1） 任務(wù)分析能力

在任務(wù)分析階段，分析人員需要處理和融合信息以生成一張通用作戰(zhàn)圖（COP）。為完成該任務(wù)，分析人員需要對接收的信息進(jìn)行分類并確定當(dāng)前態(tài)勢以構(gòu)建動態(tài)更新的COP，此外，還需要檢測己方系統(tǒng)是否被欺騙。在生成式人工智能技術(shù)的輔助下，戰(zhàn)術(shù)級系統(tǒng)可根據(jù)接收到的情報報告的自動生成態(tài)勢分析報告。

（2）簡化參謀工作流程

在計劃執(zhí)行過程中，生成式人工智能技術(shù)可用于自動生成報告總結(jié)。在層級指揮結(jié)構(gòu)中，上級需要接收下級的信息，如果沒有報告總結(jié)上級將接收過量的信息。傳統(tǒng)的總結(jié)報告需要從原始文檔中復(fù)制和粘貼相關(guān)內(nèi)容，目前可利用ChatGPT的摘要生成式方法來總結(jié)報告，從而加快報告的上報速度。

（3）加速情報信息共享

ChatGPT聊天機器人能夠快速處理大量的情報信息，為部隊信息共享提供支持，這種聊天機器人已經(jīng)在俄烏沖突中得到了應(yīng)用，烏克蘭副總理米哈伊洛?費多羅夫迅速主導(dǎo)烏克蘭數(shù)字改革部開發(fā)了一款基于聊天機器人Telegram的“電子敵人（e-Enemy）”情報眾籌應(yīng)用程序（eVororog），并號召烏克蘭民眾大量下載，從而可將手機拍攝到俄軍的即時動態(tài)和定位情報上傳匯集，供烏克蘭軍方發(fā)現(xiàn)、打擊俄軍。

（4）開展信息戰(zhàn)行動

在一個數(shù)字化程度不斷提高的國家，一個新的聊天機器人被介紹給公眾。這個聊天機器人能被宣傳為人工智能驅(qū)動的虛擬助手，被數(shù)百萬人用來交流，獲取新聞和信息，并參與政治討論。但是這個聊天機器人可能是由一個敵對的外國行為者設(shè)計和編程的，目的是操縱公眾輿論，破壞國家的政治格局。隨著選舉季節(jié)的開始，該聊天機器人開始傳播虛假信息，使用微妙而復(fù)雜的戰(zhàn)術(shù)來操縱公眾輿論。這些虛假信息旨在分化民眾，破壞對政治機構(gòu)的信任，并散布關(guān)于主要候選人的虛假說法。自推出以來，已經(jīng)有許多ChatGPT傳播虛假信息的例子，這可能進(jìn)一步分化社會，造成分裂和不信任。一項研究用 “Minsinformation Fingerprints ”目錄中的100條錯誤敘述來引誘ChatGPT，發(fā)現(xiàn)80%的提示中，聊天機器人上當(dāng)了，并提供了關(guān)于實質(zhì)性話題的虛假和誤導(dǎo)性聲明，如COVID-19、烏克蘭戰(zhàn)爭和校園槍擊事件等。

雖然ChatGPT所用的生成式人工智能技術(shù)能夠大幅提升戰(zhàn)場上的人機交互能力，加快信息處理速度，但是由于這類技術(shù)目前的可解釋性較低，在用戶信任方面仍有一定差距。此外，訓(xùn)練和部署ChatGPT模型在計算上要求很高，并且需要能夠處理大量數(shù)據(jù)和處理復(fù)雜算法的強大計算平臺，因此這種模型難以應(yīng)用到戰(zhàn)術(shù)邊緣。

審核編輯 ：李倩