人工智能對(duì)大國(guó)核安全產(chǎn)生存在的潛在影響

前段時(shí)間，胡錫進(jìn)先生有關(guān)建議中國(guó)擴(kuò)充核軍備力量的言論引發(fā)熱議，也將人們的目光吸引至對(duì)核戰(zhàn)略的廣泛關(guān)注。核武器是目前世界上最具破壞力的武器，也是大國(guó)戰(zhàn)略威懾的基石，針對(duì)人工智能時(shí)代核安全發(fā)展這一問題的討論和研究十分重要且緊迫。《人工智能網(wǎng)絡(luò)：對(duì)軍事對(duì)抗升級(jí)、威懾和戰(zhàn)略穩(wěn)定的影響》（The AI-cyber nexus： implications for military escalation， deterrence and strategic stability）一文由美國(guó)戰(zhàn)略專家詹姆斯約翰遜（James Johnson）發(fā)布在2019年的《網(wǎng)絡(luò)政策雜志》（Journal of Cyber Policy）上。審視了人工智能時(shí)代的核安全態(tài)勢(shì)，在人工智能網(wǎng)絡(luò)逐漸應(yīng)用于軍事領(lǐng)域尤其是核領(lǐng)域的背景下考察分析了人工智能增強(qiáng)下的網(wǎng)絡(luò)攻防能力對(duì)大國(guó)核安全產(chǎn)生的潛在影響，為我們理解和探索新時(shí)代大國(guó)核戰(zhàn)略提供了有益啟發(fā)，故將論文的主要觀點(diǎn)總結(jié)分析如下，并做簡(jiǎn)要評(píng)析，以饗讀者。

01

人工智能遇上核武器系統(tǒng)

考慮到文藝作品中對(duì)人工智能（AI）的夸張描述，人們很容易夸大人工智能在軍事領(lǐng)域的發(fā)展部署所帶來的機(jī)遇和挑戰(zhàn)。實(shí)際上，“人工智能”一詞目前并沒有公認(rèn)的定義。如果將其理解為一個(gè)通用術(shù)語(yǔ)，可以認(rèn)為人工智能是一類用于提高自動(dòng)化系統(tǒng)性能以應(yīng)對(duì)各種復(fù)雜任務(wù)的技術(shù)。因而在軍事方面，作為先進(jìn)武器系統(tǒng)的潛在推動(dòng)力和力量倍增器，人工智能更類似于電力、無線電、雷達(dá)、情報(bào)、監(jiān)視與偵察（ISR）這類支持系統(tǒng)，而不是“武器”本身。像這些支持系統(tǒng)一樣，人工智能在戰(zhàn)略上至關(guān)重要但同時(shí)十分脆弱，它本質(zhì)上是一種跨領(lǐng)域技術(shù)，并且其效力發(fā)揮依賴于裝備實(shí)體。就人工智能在核領(lǐng)域的應(yīng)用來說，主要包括：對(duì)核武器的指揮、控制、通信和情報(bào)（C3I）架構(gòu)的質(zhì)量改進(jìn)；加強(qiáng)導(dǎo)彈和防空系統(tǒng)的目標(biāo)捕獲、跟蹤、制導(dǎo)以及識(shí)別能力；從質(zhì)量上優(yōu)化核導(dǎo)彈的運(yùn)載系統(tǒng)，幫助核運(yùn)載系統(tǒng)更自主、更精確地運(yùn)行，并且具備更強(qiáng)大的抗干擾和抗欺騙能力。同時(shí)，人工智能增強(qiáng)下的核指揮和控制系統(tǒng)可以有效緩解“戰(zhàn)爭(zhēng)迷霧”中人類戰(zhàn)略決策固有的許多缺陷，比如對(duì)沉沒成本的敏感性、風(fēng)險(xiǎn)判斷的扭曲、認(rèn)知啟發(fā)陷阱（cognitive heuristics）和低效的集體決策。然而作者提醒，目前應(yīng)用于核領(lǐng)域的人工智能網(wǎng)絡(luò)一旦被對(duì)手攻擊利用，核武器這把“利刃”有可能喪失威懾作用，甚至刺向自身。

02

人工智能與網(wǎng)絡(luò)的結(jié)合將增大核戰(zhàn)的風(fēng)險(xiǎn)

鑒于人工智能技術(shù)的依賴性和支持性，作者援引Boulanin的觀點(diǎn)認(rèn)為，人工智能技術(shù)的最新進(jìn)展將加劇現(xiàn)有風(fēng)險(xiǎn)而不是產(chǎn)生全新風(fēng)險(xiǎn)。經(jīng)由新一代人工智能增強(qiáng)的網(wǎng)絡(luò)能力，將增加因核武器與戰(zhàn)略無核武器混合使用以及戰(zhàn)爭(zhēng)速度加快導(dǎo)致的偶發(fā)性沖突升級(jí)的風(fēng)險(xiǎn)，從而提高爆發(fā)核戰(zhàn)爭(zhēng)的可能性。具體表現(xiàn)有以下幾點(diǎn)。

1.模糊網(wǎng)絡(luò)攻防界限

一方面，人工智能可以增強(qiáng)軍隊(duì)?wèi)?yīng)對(duì)網(wǎng)絡(luò)攻擊的防御能力。人工智能網(wǎng)絡(luò)防御工具（counter-AI）旨在識(shí)別網(wǎng)絡(luò)行為模式的變化、自動(dòng)檢測(cè)軟件代碼漏洞并應(yīng)用機(jī)器學(xué)習(xí)技術(shù)測(cè)試網(wǎng)絡(luò)活動(dòng)的偏差和異常，這些可以幫助軍隊(duì)獲得更強(qiáng)大的預(yù)防網(wǎng)絡(luò)攻擊能力。另一方面，自主性本身也可能會(huì)增加軍隊(duì)?wèi)?yīng)對(duì)網(wǎng)絡(luò)攻擊的脆弱性。諸如使用惡意軟件操縱、欺騙自主武器行為識(shí)別系統(tǒng)一類的網(wǎng)絡(luò)攻擊，相對(duì)于防御和反擊成本極低，并且由于缺乏世界公認(rèn)的處理框架和對(duì)構(gòu)成對(duì)抗升級(jí)行為的共識(shí)，網(wǎng)絡(luò)攻擊行為作為一個(gè)信號(hào)可能難以被自主系統(tǒng)正確識(shí)別，甚至將其誤認(rèn)為是惡意攻擊。即使能夠及時(shí)準(zhǔn)確地識(shí)別此類操作，其背后的動(dòng)機(jī)仍可能含糊不清或被誤解。這客觀上加劇了襲擊國(guó)家和被襲國(guó)家間的矛盾對(duì)立。因此，雖然人工智能可以提升網(wǎng)絡(luò)戰(zhàn)能力，進(jìn)而強(qiáng)化國(guó)家威懾力，但這同時(shí)也會(huì)刺激對(duì)手主動(dòng)對(duì)國(guó)防系統(tǒng)尤其是核武器系統(tǒng)進(jìn)行攻擊，從而加劇了安全領(lǐng)域的能力脆弱性悖論（capabilityvulnerability paradox）。

2.增加戰(zhàn)爭(zhēng)決策壓力

針對(duì)核武器系統(tǒng)的網(wǎng)絡(luò)攻擊究竟構(gòu)不構(gòu)成發(fā)動(dòng)核戰(zhàn)爭(zhēng)的充分條件？一旦核武器系統(tǒng)遭網(wǎng)絡(luò)攻擊而癱瘓，給予決策者判斷態(tài)勢(shì)的時(shí)間將十分緊張，是否決定使用核武器的壓力可能會(huì)增大。尤其是在一個(gè)國(guó)家保持發(fā)射警告態(tài)勢(shì)的情況下，遭到人工智能增強(qiáng)下的網(wǎng)絡(luò)攻擊，核武器系統(tǒng)幾乎無法進(jìn)行有效探測(cè)并且發(fā)出警告信號(hào)，更不要說在發(fā)起核打擊的極短時(shí)間內(nèi)進(jìn)行身份驗(yàn)證以及判定責(zé)任歸屬了。根據(jù)公開消息，北美航空航天防御司令部（NORAD）在不到三分鐘的時(shí)間內(nèi)就可以通過早期預(yù)警系統(tǒng)評(píng)估和確認(rèn)即將發(fā)生核攻擊的初步跡象，這從側(cè)面說明預(yù)警系統(tǒng)失靈留給防御方的處置時(shí)間多么短暫。縮短的決策時(shí)間可能會(huì)使政治領(lǐng)導(dǎo)人承受巨大壓力，迫使其依據(jù)不完整甚至是錯(cuò)誤的信息在危機(jī)期間做出發(fā)動(dòng)核戰(zhàn)爭(zhēng)的決定。

3.刺激先發(fā)制人策略

作者指出，中國(guó)已將針對(duì)核指揮、控制和通信（C3I）系統(tǒng)的網(wǎng)絡(luò)滲透視為國(guó)家最高安全威脅之一，即使攻擊者的目標(biāo)僅限于網(wǎng)絡(luò)間諜活動(dòng)。相比之下，俄羅斯傾向于認(rèn)為其C3I核網(wǎng)絡(luò)相對(duì)獨(dú)立，因此不會(huì)受到網(wǎng)絡(luò)攻擊。但不管這些差異如何，由人工智能增強(qiáng)的先進(jìn)網(wǎng)絡(luò)工具可能被用來威脅甚至破壞國(guó)家核力量的可靠性，這一行為將極大破壞戰(zhàn)略穩(wěn)定，導(dǎo)致核威懾力的潛在削弱。因此在危機(jī)或沖突中，即使人工智能增強(qiáng)下的網(wǎng)絡(luò)攻擊能力的有效性并不確定，也將大大降低雙方的風(fēng)險(xiǎn)承受能力，增加雙方“先發(fā)制人”的動(dòng)機(jī)。一個(gè)在人工智能增強(qiáng)下的各國(guó)間良性競(jìng)爭(zhēng)，需要守成大國(guó)與新興大國(guó)之間具有信息對(duì)稱性，并對(duì)雙方的人工智能網(wǎng)絡(luò)攻擊手段的準(zhǔn)確性和可信度有著共同信心。但現(xiàn)實(shí)是，在一個(gè)競(jìng)爭(zhēng)激烈的戰(zhàn)略環(huán)境中，一個(gè)國(guó)家往往傾向于對(duì)他國(guó)意圖作最壞設(shè)想，面對(duì)對(duì)手依靠人工智能實(shí)現(xiàn)愈加強(qiáng)大的針對(duì)核武器系統(tǒng)的網(wǎng)絡(luò)攻擊能力，“先下手為強(qiáng)”似乎成了自保的唯一“可靠”手段。

4.滋生深度偽造風(fēng)險(xiǎn)

人工智能網(wǎng)絡(luò)技術(shù)的發(fā)展還為煽動(dòng)敵對(duì)國(guó)家間的沖突提供了新途徑。例如，國(guó)家A借助代理黑客使用生成對(duì)抗網(wǎng)絡(luò)（Generative Adversarial Networks，簡(jiǎn)稱GAN）制造“深度偽造”（Deepfakes）視頻或音頻材料，描繪國(guó)家B的高級(jí)軍事指揮官密謀對(duì)國(guó)家C發(fā)動(dòng)先發(fā)制人的打擊。然后，這段“深度偽造”視頻被故意泄露給國(guó)家C的人工智能增強(qiáng)下的情報(bào)收集和分析系統(tǒng)中，引發(fā)了國(guó)家C的戰(zhàn)略誤判并采取核對(duì)抗手段。國(guó)家B在這種情況下將不得不以同樣的對(duì)抗方式回應(yīng)。目前，在新興的“深造偽造”軍備競(jìng)賽中，檢測(cè)軟件的發(fā)展速度遠(yuǎn)落后于進(jìn)攻性軟件，“開發(fā)用于偽造內(nèi)容的技術(shù)的人要比檢測(cè)它的人多100到1000倍”。這給信息接收系統(tǒng)的“反人工智能”功能和其他故障安全機(jī)制提出了重大挑戰(zhàn)。

03

維護(hù)人工智能時(shí)代的核穩(wěn)定須強(qiáng)化國(guó)際合作

為避免各國(guó)在人工智能網(wǎng)絡(luò)戰(zhàn)領(lǐng)域的軍備競(jìng)賽與核武器結(jié)合后演變成毀天滅地的災(zāi)難，作者呼吁國(guó)際社會(huì)攜手應(yīng)對(duì)人工智能對(duì)大國(guó)核戰(zhàn)略的影響與沖擊。

1.加強(qiáng)各方在這一領(lǐng)域的研究、討論與對(duì)話

第一，為減輕人工智能網(wǎng)絡(luò)安全關(guān)系所帶來的不穩(wěn)定和對(duì)抗升級(jí)，大國(guó)間有必要增加對(duì)話以建立信任。在國(guó)際討論中，至少應(yīng)包括外交官和軍事領(lǐng)導(dǎo)人（特別是來自中國(guó)、俄羅斯和美國(guó)的領(lǐng)導(dǎo)人）、行業(yè)專家、人工智能研究人員和多學(xué)科學(xué)者。軍事大國(guó)間應(yīng)盡快建立一個(gè)治理、規(guī)范機(jī)器學(xué)習(xí)增強(qiáng)下網(wǎng)絡(luò)能力使用的國(guó)際框架，并在監(jiān)管方面開展合作。第二，智庫(kù)、學(xué)術(shù)界和人工智能研究專家應(yīng)集中資源，研究人工智能網(wǎng)絡(luò)對(duì)一系列潛在安全問題的影響，比如：人工智能偏見對(duì)未來軍事應(yīng)用的影響；如何應(yīng)對(duì)可能出現(xiàn)的通用人工智能；如有需要，政府可采取步驟，修訂現(xiàn)有的法律定義以解釋人工智能擴(kuò)散所造成的潛在損害，這些定義包括黑客攻擊、數(shù)據(jù)注毒和信息欺騙等。

2.研究和實(shí)施網(wǎng)絡(luò)安全保護(hù)措施

研究和實(shí)施一些以網(wǎng)絡(luò)安全為中心的措施可以預(yù)防和減輕人工智能增強(qiáng)下網(wǎng)絡(luò)能力提升，特別是涉及安全關(guān)鍵的核系統(tǒng)所帶來的一些風(fēng)險(xiǎn)。首先，在解決計(jì)算機(jī)安全時(shí)的成熟經(jīng)驗(yàn)可以被應(yīng)用于開發(fā)人工智能上，例如可以采取紅藍(lán)對(duì)抗的方式幫助工程師和操作員更好理解并執(zhí)行網(wǎng)絡(luò)防御方案、提高進(jìn)行防御性操作所需的技能。其次，全球防務(wù)界應(yīng)積極投資開發(fā)人工智能網(wǎng)絡(luò)防御工具、以人工智能為中心的安全硬件以及其他故障安全機(jī)制，以幫助降低因人工智能網(wǎng)絡(luò)攻擊帶來的沖突升級(jí)風(fēng)險(xiǎn)。最后，與這些措施相關(guān)的一些問題還需要進(jìn)一步探討，包括：現(xiàn)有工具在多大程度上可以有效抵御人工智能系統(tǒng)中的漏洞？如何為跨多個(gè)軍事領(lǐng)域的人工智能系統(tǒng)量身定制防御工具？在軍事人工智能系統(tǒng)中是否有等同于“補(bǔ)丁”的功能？什么樣的政策可以激勵(lì)并確保對(duì)軍事領(lǐng)域的現(xiàn)有硬件進(jìn)行有意義的改革？

04

結(jié)語(yǔ)

武器裝備無人化和智能化是未來軍隊(duì)發(fā)展的必由之路，而核武器系統(tǒng)似乎沒有理由不搭上新一輪軍事技術(shù)革命的快車。在美國(guó)退出《中程導(dǎo)彈條約》、無意續(xù)簽《削減進(jìn)攻性戰(zhàn)略武器條約》的今天，世界“核軍備競(jìng)賽”大有重啟勢(shì)頭。然而，“核武器+人工智能”究竟是更多地增強(qiáng)了大國(guó)威懾力還是更多地把人類置于了災(zāi)難邊緣？目前來看，這一前景并不明朗。在人工智能、大數(shù)據(jù)、云計(jì)算等技術(shù)迅猛發(fā)展的當(dāng)今時(shí)代，我們應(yīng)當(dāng)提前研究和預(yù)判其中的風(fēng)險(xiǎn)，并進(jìn)行前瞻性預(yù)防和化解。應(yīng)當(dāng)看到，人類文明的發(fā)展大勢(shì)只能是走向互信和合作，固守冷戰(zhàn)思維只會(huì)使人類在猜疑與對(duì)抗中一步步走向自我毀滅的境地。特別是對(duì)待掌握地球“重啟鍵”的核武器這一重大問題，人類真的需要樹立命運(yùn)共同理念，用合作替代對(duì)抗，用信任消弭偏見，才能共同塑造人類更美好的明天而非走向共同毀滅。
責(zé)任編輯：tzh