AI 技術(shù)催生軍事智能化

當(dāng)前，“智能化”成為人類社會發(fā)展的新趨勢，席卷醫(yī)療、金融、法律、物流等多個領(lǐng)域?？梢哉f，我們正在經(jīng)歷著由人工智能帶來的第二次“文藝復(fù)興”。第一次文藝復(fù)興是神下去了，人上來了，人的理性凸顯，而這一次的“文藝復(fù)興”，則是信息迷霧走了，萬物智能來了，人的智能延展。在人工智能迅猛發(fā)展的背景下，科幻電影中的人機(jī)大戰(zhàn)、超級戰(zhàn)士等奇異詭譎的情節(jié)與場景越來越趨向現(xiàn)實，人工智能的發(fā)展與應(yīng)用正在逐步改寫現(xiàn)代戰(zhàn)爭的進(jìn)化軌跡。

一、智勝革命：AI 技術(shù)催生軍事智能化

人工智能技術(shù)的運用，不僅在宏觀層面上促進(jìn)了軍隊武器裝備、作戰(zhàn)指揮、組織形態(tài)等方面的智能化，還從深層次推動現(xiàn)代戰(zhàn)爭呈現(xiàn)云腦主導(dǎo)、人機(jī)一體、自主協(xié)同、分布?xì)忍卣?，從而催生出軍事智能化體系。

（一）設(shè)計戰(zhàn)爭

人工智能技術(shù)使設(shè)計戰(zhàn)爭成為可能，而算法就是設(shè)計戰(zhàn)爭的關(guān)鍵工具?？梢哉f，設(shè)計算法就是設(shè)計戰(zhàn)爭?，F(xiàn)代戰(zhàn)爭不僅涉及多源信息的采集和融合處理問題，更涉及有關(guān)作戰(zhàn)任務(wù)規(guī)劃的多層算法問題，因此對數(shù)據(jù)處理能力提出了巨大挑戰(zhàn)。而算法的實質(zhì)在于群體智能，是人機(jī)混合智能，相對于個體智能，它具有強(qiáng)集成性、大吸蓄性、高靶向性及易升級性。好的算法與優(yōu)質(zhì)問題、復(fù)雜場景及實踐迭代直接相關(guān)，能夠承載實戰(zhàn)的龐大數(shù)據(jù)量。作戰(zhàn)雙方通過利用算法，得以模擬和預(yù)演實戰(zhàn)，從而在多次實驗中調(diào)整戰(zhàn)法策略，將戰(zhàn)爭轉(zhuǎn)變?yōu)榻?jīng)過設(shè)計的實驗成品。當(dāng)前，美軍提出“算法戰(zhàn)”概念，并組建“算法戰(zhàn)跨功能小組”，以推動人工智能、大數(shù)據(jù)及機(jī)器學(xué)習(xí)等“戰(zhàn)爭算法”關(guān)鍵技術(shù)的研究。針對算法的探索，將是各國爭相競逐的重要領(lǐng)域，也是打開現(xiàn)代戰(zhàn)爭新局面的關(guān)鍵所在。

（二）輔助決策

以往戰(zhàn)爭中指揮員的決策，一方面來源于情報、偵察、監(jiān)視等手段，另一方面受指揮員自身的經(jīng)驗、靈感、聯(lián)想等主觀因素影響，依靠人腦決策出現(xiàn)的“靈機(jī)一動”“神機(jī)妙算”成為戰(zhàn)爭制勝的法寶。而人機(jī)一體的決策手段則將“人腦”與“外腦”有機(jī)結(jié)合，為指揮員的決策提供了新參照，能夠彌補以往軍事網(wǎng)絡(luò)信息系統(tǒng)的不足，從而構(gòu)建起功能強(qiáng)大的網(wǎng)絡(luò)信息體系，提高軍隊的智能化評估和輔助決策能力。自20世紀(jì)50年代以來，美、俄等軍事大國不斷發(fā)展指揮控制自動化系統(tǒng)，企圖增強(qiáng)信息優(yōu)勢和決策優(yōu)勢，如美軍研發(fā)出指揮、控制、通信、計算機(jī)、情報與偵察監(jiān)視系統(tǒng)（C4ISR），推進(jìn)“網(wǎng)絡(luò)中心戰(zhàn)”建設(shè)，開發(fā)針對網(wǎng)絡(luò)入侵的智能診斷信息系統(tǒng)。未來，人工智能技術(shù)的運用將為決策進(jìn)一步賦能。如在 2015 年，DARPA 啟動的“大機(jī)理”項目，就旨在開發(fā)基于大數(shù)據(jù)的智能技術(shù)，通過信息的快速提取、智能推理、綜合處理等，根據(jù)作戰(zhàn)任務(wù)自動制定作戰(zhàn)方案，輔助指揮官實現(xiàn)“任務(wù)式指揮”，縮短從信息處理到?jīng)Q策部署的時間周期，實現(xiàn)指揮決策的高效性及科學(xué)性。

（三）戰(zhàn)爭控局

古往今來，戰(zhàn)爭一直是人類的噩夢，造成巨大殺傷的武器成為籠罩在人類上方的烏云，實現(xiàn)戰(zhàn)爭在時間、規(guī)模、目標(biāo)與結(jié)局等方面的可控是人類在戰(zhàn)爭中長久追求的目標(biāo)。除運用條約、協(xié)議等政治手段之外，以往戰(zhàn)爭中的雙方難以真正實現(xiàn)戰(zhàn)爭可控，比如二戰(zhàn)初期德國利用“閃電戰(zhàn)”策略，但后來的戰(zhàn)爭卻演變成了曠日持久的消耗戰(zhàn)，核生化武器造成的超乎預(yù)期的災(zāi)難性后果，也顯示出在傳統(tǒng)技術(shù)基礎(chǔ)上實現(xiàn)戰(zhàn) 爭可控的難度。人工智能技術(shù)有利于加強(qiáng)戰(zhàn)略籌劃，實現(xiàn)“知彼知己”的戰(zhàn)略態(tài)勢，提升作戰(zhàn)模擬推演的有效性，對抗雙方的戰(zhàn)爭設(shè)計與實驗有助于控制戰(zhàn)爭。另一方面，人工智能促進(jìn)武器裝備創(chuàng)新，智能化高技術(shù)武器裝備減少了非必要殺傷，客觀上也為可控性戰(zhàn)爭提供了物質(zhì)技術(shù)條件。

二、冰山隱患：潛藏的風(fēng)險與挑戰(zhàn)

人工智能技術(shù)對撬動軍事變革的作用不容小覷，但與此同時，戰(zhàn)爭中的技術(shù)、倫理、道德等一系列風(fēng)險與挑戰(zhàn)也逐步顯現(xiàn)。由于現(xiàn)有實踐與技術(shù)條件的限制，人工智能究竟是點燃希望的火把還是開啟地獄的鑰匙，仍需人們謹(jǐn)慎思考與探索。

（一）指揮失序

不少科幻電影已對人工智能的威脅展開了討論。電影《機(jī)械公敵》中原本以保護(hù)人類為使命的機(jī)器人出現(xiàn)集體失序，對人類展開了殘暴攻擊，《西部世界》中機(jī)器人的內(nèi)部系統(tǒng)不斷進(jìn)化，最終反叛并傷害人類。由于目前人工智能技術(shù)的發(fā)展局限，人工智能的指揮系統(tǒng)容易在執(zhí)行程序復(fù)雜的情景中出現(xiàn)失序，比如美軍在伊拉克戰(zhàn)場上的軍事機(jī)器人失控事件。在人機(jī)協(xié)同作戰(zhàn)方式中，過度依賴人工智能無疑增強(qiáng)了指揮系統(tǒng)失控的風(fēng)險性，這就如同把槍交付給了機(jī)器人，而當(dāng)機(jī)器人不聽從人類指揮時，槍口對準(zhǔn)的對象將可能是戰(zhàn)爭中的任何一方，因此人工智能帶來的人機(jī)結(jié)合作戰(zhàn)方式必須將人置于主體地位，保證人類指揮員對系統(tǒng)的控制權(quán)，并建立應(yīng)急預(yù)警機(jī)制與意外發(fā)生時的后臺程序都極為必要。

（二）倫理失范

早在 1950年，科幻作家阿西莫夫就提出了“機(jī)器人三大法則”，以規(guī)范機(jī)器人的行為并確保機(jī)器人相對人類的附屬地位。在倫理界并未制定統(tǒng)一機(jī)器人倫理準(zhǔn)則的情況下，這三大法則已逐漸成為機(jī)器人的非正式倫理規(guī)范。然而，人工智能的倫理失范風(fēng)險并沒有因此減弱。在以往的戰(zhàn)爭法則中，人類之間的對抗如棋局一般保持相對平衡，戰(zhàn)爭雙方互相控制且對彼此的傷亡負(fù)責(zé)，而一旦加入人工智能技術(shù)，人類的傷亡是否單純由機(jī)器負(fù)責(zé)？對機(jī)器的損傷是否需要人類負(fù)責(zé)？人類又能如何避免人工智能成為無尺度暴力的工具？由此可見，人工智能帶來的倫理挑戰(zhàn)不只是單純的倫理法則可以解決的，更需要人類對人工智能本質(zhì)的清醒深刻認(rèn)識以及對人機(jī)關(guān)系的精準(zhǔn)定位。

（三）暴力失控

人工智能應(yīng)用于戰(zhàn)爭始終存在走向暴力失控的風(fēng)險，智能化武器是造成安全威脅的主要來源。2017 年，包括特斯拉公司首席執(zhí)行官埃隆·馬斯克和谷歌人工智能公司聯(lián)合創(chuàng)始人穆斯塔法·蘇萊曼在內(nèi)的116 名世界領(lǐng)先機(jī)器人和人工智能公司的領(lǐng)導(dǎo)人聯(lián)名發(fā)布了一封公開信，公開呼吁禁止發(fā)展致命性自動化武器，并阻止高科技軍備競賽。人工智能與自動化武器結(jié)合的產(chǎn)物便是全自動武器系統(tǒng)，這意味著人工智能的加入使得戰(zhàn)爭的殺傷難度顯著降低，以往戰(zhàn)場上的戰(zhàn)馬、鋼盔、刀劍、槍彈也許都不再需要，指揮官可能只需一個按鈕、一句指令就能達(dá)到理想的殺傷目的。在這種情況下，全自動武器一旦投入使用，戰(zhàn)爭的殺傷效率將超乎以往，武裝沖突迅速升級并擴(kuò)大的可能性將難以預(yù)計。

三、對沖方略：“三位一體”綜合應(yīng)對

面對人工智能的風(fēng)險與挑戰(zhàn)，應(yīng)當(dāng)堅持“三位一體”的應(yīng)對策略。當(dāng)前，人工智能的軍事應(yīng)用浪潮已不可避免，因此無論是來自技術(shù)還是倫理的挑戰(zhàn)，都應(yīng)堅持探索與發(fā)展人工智能技術(shù)，加強(qiáng)人工智能的技術(shù)預(yù)測與評估，在充分試驗與分析的基礎(chǔ)上逐步推進(jìn)人工智能技術(shù)的軍事應(yīng)用。

（一）搶占智能科技高地

當(dāng)前，人工智能已成為各大國競相爭奪的科技高地，主要發(fā)達(dá)國家紛紛將人工智能提升到國家戰(zhàn)略高度加以發(fā)展。美軍已將智能化無人系統(tǒng)作為支撐第三次“抵消戰(zhàn)略”的顛覆性技術(shù)領(lǐng)域給予重點投資。美國空軍首席科學(xué)家辦公室頒布的面向 2035年的《無人系統(tǒng)地平線》技術(shù)評估和預(yù)測報告，認(rèn)為未來各類無人系統(tǒng)與作戰(zhàn)平臺的自動化、自主性和遠(yuǎn)程遙控性能將隨著技術(shù)的進(jìn)步而不斷取得突破。未來，隨著超大規(guī)模計算、量子計算、云計算、大數(shù)據(jù)等技術(shù)的進(jìn)步，人工智能的信息處理與控制技術(shù)將獲得極大發(fā)展，在現(xiàn)代戰(zhàn)爭中所占的技術(shù)比重將顯著增加。在這樣的大背景下，唯有跟上智能科技發(fā)展步伐，及時制定人工智能發(fā)展規(guī)劃與戰(zhàn)略，見之于未萌，識之于未發(fā)，才能把握戰(zhàn)爭形態(tài)變化趨勢，洞悉戰(zhàn)爭形態(tài)演變規(guī)律，實現(xiàn)克敵制勝。

（二）探索戰(zhàn)爭倫理規(guī)約

近年來，國際人工智能界日益重視人工智能中的倫理與法律問題，并推動相關(guān)技術(shù)標(biāo)準(zhǔn)及社會規(guī)范的研討和制定，如 IEEE 全球人工智能與倫理倡議、阿西洛馬人工智能 23 條倫理原則，我國的《新一代人工智能發(fā)展規(guī)劃》也專門提出人工智能倫理與法律的“三步走”規(guī)劃。在完善人工智能戰(zhàn)爭倫理規(guī)范的過程中，應(yīng)確保人類對智能化武器的控制權(quán)，將人機(jī)關(guān)系納入戰(zhàn)爭倫理的討論維度之中，針對人工智能使用的特殊領(lǐng)域與戰(zhàn)場情境建立獨立的倫理評價體系，防范人類戰(zhàn)爭倫理與人工智能參與后的戰(zhàn)爭倫理相混雜，將技術(shù)、倫理與法律等控制手段配合使用、高度融合。

（三）加強(qiáng)國際合作對話

生命未來研究所在 2015 年人工智能國際會議上提交了一份信件，指出：“如果主要軍事力量運用了人工智能，那么全球軍事競賽將不可避免，而最終的結(jié)果就是，人工智能將成為下一個卡拉什尼科夫沖鋒槍。美國運用人工智能則必然招致報復(fù)和一場人工智能大戰(zhàn)。”值得注意的是，該信得到了 17000多個簽名和 20000多個附議簽名。人工智能風(fēng)險的承受者不再只是單一國家，而是整個國際社會。無論是發(fā)展抑或遏制人工智能技術(shù)在現(xiàn)代戰(zhàn)爭中的應(yīng)用，國際間的合作對話都必不可少。各國應(yīng)加強(qiáng)人工智能技術(shù)與倫理層面的交流與溝通，建立起長期有效的對話機(jī)制，根據(jù)現(xiàn)有國際準(zhǔn)則推進(jìn)人工智能相關(guān)研究，共同應(yīng)對人工智能的風(fēng)險與挑戰(zhàn)。