胡曉峰：ChatGPT，我們該怎么看

近一段時間，ChatGPT火遍全網。雖然其只是人工智能公司推出的一個測試程序，但一經發(fā)布便迅速“出圈”，引發(fā)各領域廣泛關注。ChatGPT是什么？為什么它會這么火？對軍事領域會帶來哪些影響？帶著疑問與思考，我們專門約請了相關領域的技術專家，對讀者關心的話題進行研討，以期拓寬大家的視野，更加關注智能化發(fā)展對未來戰(zhàn)爭的影響。

大模型技術的出現(xiàn)，一改過去我們僅關注專業(yè)領域智能技術突破的做法，通過引入巨量參數對基礎知識關系進行復雜表達，從量變到質變，最終使我們朝解決通用智能問題又邁進了一大步。

在未來的信息化智能化戰(zhàn)爭中，ChatGPT可以用于數據分析與決策支持、自然語言處理等基礎工作，海量的戰(zhàn)場信息經其處理，將會給指揮員的決策能力帶來質的飛躍。

關于聊天工具，其實我們已經見過很多。然而，ChatGPT和那些可以與人類進行簡單對話的機器程序相比卻有很大不同，其對話流暢，回答巧妙。我們可以在網上找到許多網友跟它對話的例子，很多對話令人拍案叫絕。

ChatGPT名字的核心是“GPT”這三個英文縮寫字母，翻譯過來的意思是“生成式預訓練轉化器”，即采用大量數據訓練出一個巨大的神經元網絡轉化器，生成與人類交互的內容。因為其最核心的智能技術是“生成”，所以這種技術就被稱為“生成式人工智能”或者“人工智能生成內容”。這個技術根據模型轉換器的不同，可以被用于生成各種各樣不同的內容。如果生成的內容是與人類之間的對話，比如回答問題、寫一個報告或文檔等，這就是我們現(xiàn)在看到的ChatGPT，也就是可以進行“會話的GPT”了。

從計算機科學的角度來看，ChatGPT的技術路線起源于自然語言處理，目的是要讓計算機理解人類使用的語言。為了能夠應對復雜的情況，其往往采用超大型的語言模型，依靠不斷增加模型參數來提升性能，通過越來越多的人類現(xiàn)有語言文本數據樣本進行學習訓練。而且，為了使ChatGPT會話更符合社會道德準則和生活實際，開發(fā)者還給它增加了“基于真人反饋的增強學習”過程，以及大量的標注過的準確數據，使得它組織起來的答案更能為人們所普遍接受。

相比于以往的人工智能程序，ChatGPT能做很多事情。ChatGPT的訓練閱讀了大量邏輯嚴謹、寫作規(guī)范的各學科學術文獻，這是任何一個人畢其一生都難以達到的。因此它非常適合于針對具體研究主題，根據所提問題進行分解、歸納或總結，并在此基礎上列出所要的研究提綱或模板。此外，ChatGPT還可以充當“萬能+”。語言是人類交互的工具，也是人類知識的載體，還可以是人類智能的體現(xiàn)。將人類常識引入到智能決策中，過去是個很大難題，但現(xiàn)在就變得有可能了。再比如，人機交互過去只能局限在感知智能層面，而現(xiàn)在通過ChatGPT就可以達到內容理解層面。所以，讓ChatGPT充當其他系統(tǒng)的“基座”，與其他系統(tǒng)配合就可以得到更好的智能系統(tǒng)，比如它與兵棋推演系統(tǒng)的結合，與分布式會議系統(tǒng)的結合，都可能帶來驚喜。

上述所說只是ChatGPT功能的一部分，并不是全部。ChatGPT目前雖然只是生成流暢的會話，但在背后支撐它的大模型技術和內容生成技術，卻代表了人工智能技術發(fā)展的一個重要里程碑。大模型技術的出現(xiàn)，一改過去我們僅關注專業(yè)領域智能技術突破的做法，通過引入巨量參數對基礎知識關系進行復雜表達，從量變到質變，最終使我們朝解決通用智能問題又邁進了一大步。

恩格斯說過：“一旦技術上的進步可以用于軍事目的并且已經用于軍事目的，它們便立刻幾乎強制地，而且往往是違反指揮官的意志而引起作戰(zhàn)方式上的改變甚至變革?！焙翢o疑問，以ChatGPT為代表的人工智能前沿技術必然會應用于軍事領域。近年來，外軍不斷發(fā)展人工智能等顛覆性技術，力求形成技術代差優(yōu)勢。早在2017年，美軍就提出了“算法戰(zhàn)”概念。隨后，美軍設立“算法戰(zhàn)跨職能小組”，啟動“碼文工程”項目，并吸收谷歌、亞馬遜、微軟等商業(yè)巨頭參與，積極推動人工智能、大數據、機器學習等先進技術快速融入美軍作戰(zhàn)體系，試圖打一場“讓對手看不懂的戰(zhàn)爭”。

就直接運用ChatGPT而言，其對軍事領域的作用和影響不容忽視。在未來的信息化智能化戰(zhàn)爭中，作戰(zhàn)人員在戰(zhàn)場上具有強大的情報收集能力和近乎實時的信息感知能力，ChatGPT可以用于數據分析與決策支持、自然語言處理等基礎工作，海量的戰(zhàn)場信息經其處理，將會給指揮員的決策能力帶來質的飛躍。在此基礎上，可能會導致部分傳統(tǒng)業(yè)務崗位發(fā)生改變，從而引發(fā)軍隊編制體制變革。如果再將其進行專業(yè)訓練后與其他系統(tǒng)配合，可以用于訓練想定編寫、作戰(zhàn)方案生成、作戰(zhàn)計劃安排、行動規(guī)劃擬制、演習結果講評等較為復雜的工作，這將會帶來許多指揮決策機構業(yè)務調整，甚至將重塑指揮決策流程。如果今后其繼續(xù)迭代升級，還有可能參與完成戰(zhàn)爭計劃分析、危機處置方案評估等更高階的工作。此外，在認知域作戰(zhàn)中，ChatGPT技術還有可能被用于生產假新聞、假郵件，甚至模仿人的語言風格實施信息誘騙，或被用于網絡攻擊之中。

在筆者看來，就ChatGPT的核心技術即大模型技術而言，其對軍事領域的影響既不可低估，也不宜高估。大模型技術作為“基座”，很可能會引發(fā)智能技術批量突變，使許多當前徘徊不前的智能技術獲得突破。尤其是結合以“阿爾法狗”為代表的深度學習技術后，還可能導致指揮決策控制系統(tǒng)升級換代，從而大幅度提升體系作戰(zhàn)能力。然而，軍事智能領域的固有難題比如戰(zhàn)爭的“強對抗”“高實時”“過復雜”“不確定”等特性，當前的技術手段在解決途徑上仍存在“缺樣本”“沒數據”“不開放”“難共享”等問題。2016年，“阿爾法狗”在圍棋的人機大戰(zhàn)中戰(zhàn)勝人類選手，很多人認為解決作戰(zhàn)指揮智能決策問題已指日可待，但之后相關議題卻躑躅不前。今天，ChatGPT的出現(xiàn)又讓很多人心生期待，但按照技術的演進趨勢來看結局仍然不得而知。與其他領域相比，解決戰(zhàn)爭問題的思路與方式十分特殊，技術可以借用，但更強調思維方式的創(chuàng)新。

究其根本，人工智能想要追趕上的是人類的智慧。但人類大腦的復雜性是無止境的，它始終在不斷進化和發(fā)展之中。理解復雜的結果不會使其變得更簡單，而是只會變得更復雜，因而也就不可能用簡單方法加以實現(xiàn)。大模型之路是否正確，現(xiàn)在還無法完全判定，其給人工智能技術帶來巨大技術進步的同時，也提出了很多需要關注的難題。有媒體評論，ChatGPT是“既引人入勝，又讓人毛骨悚然”。什么東西不能交給大模型處理？在哪些地方“人”是不可或缺的？ChatGPT的使用如何納入誠信、政策問題研究？什么才是“準確的知識”？如何加強AI的開放原則？它對法律有何影響？等等。這些問題都值得我們深入思考。

寫在后面：

雅努斯的兩副面孔

在古羅馬神話傳說中，有一位名叫“雅努斯”的門神，他的頭部前后有兩副面孔，向前的面孔是面向未來，向后的面孔是面向過去。每當黎明時，他便開啟天宮大門，讓白晝普照大地；傍晚他就關閉大門，讓黑夜籠罩人間。相傳，雅努斯還是戰(zhàn)爭與和平之神。在戰(zhàn)爭時他的神廟大門敞開，表示雅努斯出去幫助羅馬人作戰(zhàn)；在和平時就大門緊閉，表示雅努斯在神廟里保佑人們平安。

羅馬的神雅努斯身上包含了光明和黑暗兩種隱喻。這兩種隱喻放在人工智能技術軍事應用上也同樣適用。大量智能化作戰(zhàn)系統(tǒng)運用于戰(zhàn)場，戰(zhàn)爭成本將大大降低，作戰(zhàn)人員的“零傷亡”有望成為現(xiàn)實。然而在復雜戰(zhàn)場環(huán)境下，智能化作戰(zhàn)系統(tǒng)極有可能出現(xiàn)因識別錯誤而濫殺無辜等問題，將給人類帶來無窮隱患?！八瓤赡艹蔀槿祟惼癜l(fā)生過的最好的事，也可能成為最糟糕的事?！被艚饘θ斯ぶ悄艿倪@一評價，啟示我們面對“來勢洶洶”的人工智能軍事應用要保持足夠的審慎。

毋庸置疑，隨著技術的發(fā)展，人工智能軍事應用將日益完善，但其可能給人類社會帶來的安全、法律、倫理等諸多問題仍然不容忽視。面向未來，應牢固確立人類是人機關系主導者的理念，完善并實現(xiàn)對人工智能的安全有效控制，讓其始終為人類的和平發(fā)展服務，而不是讓人工智能成為“惡魔的幫兇”。