電子發(fā)燒友App
近日，來自30個(gè)國(guó)家和地區(qū)的50多名人工智能和機(jī)器人專家稱，由于韓國(guó)科學(xué)技術(shù)院大學(xué)與軍工企業(yè)“韓華Systems”合作研發(fā)的自主武器，可在無人控制的情況下搜索并消除目標(biāo)，如果研發(fā)成功，“可能使戰(zhàn)爭(zhēng)惡化并造成無法挽回的后果”?？茖W(xué)家們表示：韓方如果不停止此項(xiàng)研發(fā)，即與之?dāng)嘟^任何合作。4月，聯(lián)合國(guó)《特定常規(guī)武器公約》專家小組在日內(nèi)瓦召開會(huì)議，專項(xiàng)討論“殺人機(jī)器人”可能帶來的影響，涉及韓國(guó)科學(xué)技術(shù)院大學(xué)計(jì)劃開發(fā)的“殺人機(jī)器人”。
2017年2月，韓國(guó)科學(xué)技術(shù)院大學(xué)成立國(guó)防人工智能融合研究中心，開發(fā)用于飛機(jī)訓(xùn)練、物體追蹤、識(shí)別、大型無人潛艇等項(xiàng)目的軍事人工智能技術(shù)。2017年10月，韓國(guó)國(guó)防部表示，韓國(guó)軍方計(jì)劃在2025年將這些技術(shù)投入到野戰(zhàn)部隊(duì)和實(shí)戰(zhàn)中。
無獨(dú)有偶。2017年4月，美國(guó)軍方提出Maven項(xiàng)目，要完成的任務(wù)是幫助美國(guó)國(guó)防部處理來自全球各地的海量視頻資料。美國(guó)國(guó)防部每天收集到不同來源、數(shù)量龐大的視頻資料，而人類圖像分析師遠(yuǎn)遠(yuǎn)不能完成判讀，國(guó)防部希望能利用人工智能技術(shù)來分析這些視頻。由于僅靠軍方無力完成，國(guó)防部于是轉(zhuǎn)向?qū)で笈c學(xué)界和業(yè)界人工智能專家合作，組成所謂“算法戰(zhàn)爭(zhēng)跨功能團(tuán)隊(duì)”，其中就包括在人工智能研發(fā)方面具有頂級(jí)水平的谷歌公司。
盡管美國(guó)國(guó)防部強(qiáng)調(diào)，Maven項(xiàng)目只作為人類情報(bào)分析的合作伙伴，項(xiàng)目完全遵守并且受制于美國(guó)的法律和戰(zhàn)爭(zhēng)法，在部署武器系統(tǒng)的過程中確保人類的參與度最大化。但研究人員認(rèn)為，人工智能技術(shù)可能會(huì)以難以察覺的方式產(chǎn)生重大疏失，并造成致命性后果。2018年4月4日，3100名谷歌員工聯(lián)名發(fā)出公開信，要求谷歌退出由美國(guó)國(guó)防部主導(dǎo)的Maven計(jì)劃，并向所有員工承諾，永遠(yuǎn)不參與任何打造類似戰(zhàn)爭(zhēng)科技的計(jì)劃或者項(xiàng)目。
隨著人工智能技術(shù)不斷進(jìn)步，它在軍事領(lǐng)域的運(yùn)用也越來越廣泛。無人機(jī)、無人戰(zhàn)車、無人艦船、無人潛艇等大量涌現(xiàn)，而且智能化程度和自主性水平越來越高。有人斷言，機(jī)器人戰(zhàn)爭(zhēng)、智能化戰(zhàn)爭(zhēng)的大幕已經(jīng)拉開，這引發(fā)了科學(xué)家和研發(fā)人員的高度憂慮。
自主武器系統(tǒng)的發(fā)展現(xiàn)狀和未來預(yù)期
也許有人會(huì)疑惑，美軍不是很早就在戰(zhàn)場(chǎng)上使用機(jī)器人了嗎？的確如此。但是，無論是阿富汗戰(zhàn)爭(zhēng)中美軍用“捕食者”無人機(jī)摧毀撤退中的塔利班指揮機(jī)構(gòu)，還是此后用無人機(jī)在阿富汗、伊拉克、也門、巴基斯坦等地對(duì)恐怖分子頭目進(jìn)行定點(diǎn)清除，無人機(jī)都只是用作偵察搜索和導(dǎo)彈發(fā)射平臺(tái)，“開火”指令始終操控在后方控制人員手中。美軍在伊拉克戰(zhàn)場(chǎng)上投入的陸上機(jī)器人有近5000個(gè)，但只是用作巡邏隊(duì)行進(jìn)前探路、引爆路邊炸彈、危險(xiǎn)區(qū)域作業(yè)等。
非軍事類自主智能系統(tǒng)事實(shí)上早已實(shí)現(xiàn)，IBM研制的戰(zhàn)勝國(guó)際象棋大師的“深藍(lán)”、谷歌研制的戰(zhàn)勝國(guó)際一流圍棋高手李世石和柯潔的“阿法狗”，他們?cè)趯?duì)弈過程中都脫離了人的控制，行棋思考、決策完全是機(jī)器自主完成的。
而自主武器或軍用自主智能系統(tǒng)包括兩類：一是具有自主決策權(quán)的指揮控制系統(tǒng)，即“自主指揮控制系統(tǒng)”；二是自主武器系統(tǒng)，即具有戰(zhàn)場(chǎng)“射殺權(quán)”的智能機(jī)器人，也就是科學(xué)家所稱的“殺人機(jī)器人”。
目前，智能指揮控制系統(tǒng)的發(fā)展，處于輔助人工決策階段，即利用人工智能技術(shù)，提高情報(bào)偵察、預(yù)警探測(cè)、通信聯(lián)絡(luò)、戰(zhàn)場(chǎng)管理等系統(tǒng)的智能水平，替代指揮員某些常規(guī)性思維，最高級(jí)形式是為指揮員提供輔助決策方案，供指揮員決策參考，但最后的決策權(quán)仍然在指揮員手中。
在自主武器系統(tǒng)方面，目前并沒有達(dá)到可以將“射殺權(quán)”或“開火權(quán)”交托給智能武器系統(tǒng)的程度。韓國(guó)國(guó)防部的“韓華Systems”項(xiàng)目，只是預(yù)計(jì)在2025年將自主武器系統(tǒng)投入實(shí)戰(zhàn)之中。美國(guó)國(guó)防部的Maven項(xiàng)目，則完全回避了將“射殺權(quán)”交給武器系統(tǒng)這一實(shí)質(zhì)問題，信誓旦旦地保證只會(huì)將人工智能技術(shù)用于情報(bào)分析與融合。
對(duì)比發(fā)現(xiàn)，美國(guó)軍方在這一問題上的態(tài)度相對(duì)謹(jǐn)慎。雖然這并不能證明美國(guó)軍方?jīng)]有朝這一方面發(fā)展，甚至其實(shí)際發(fā)展可能處于世界前列。但這樣的謹(jǐn)慎仍然非常必要。著名科學(xué)家霍金就對(duì)人工智能的軍事運(yùn)用前景保持高度警惕：“除非我們事先做好準(zhǔn)備并避免潛在風(fēng)險(xiǎn)，否則人工智能可能成為人類文明史上最糟的事件，它會(huì)給整個(gè)人類帶來危險(xiǎn)，例如致命的自主武器的出現(xiàn)?！?/p>
霍金所說的“致命的自主武器”，就是具有自主“射殺權(quán)”的智能武器系統(tǒng)，即科學(xué)家們所說的“殺人機(jī)器人”。而“避免潛在風(fēng)險(xiǎn)”最有效的辦法實(shí)際上并不取決于技術(shù)發(fā)展，而取決于人類的決定。
自主武器系統(tǒng)面臨無法解決的技術(shù)難題
智能機(jī)器人作為情報(bào)收集、處理、融合和信息傳遞、武器運(yùn)載平臺(tái)的功能，已非常成熟。伊拉克戰(zhàn)爭(zhēng)和后續(xù)反恐作戰(zhàn)中，無人機(jī)的上述能力已經(jīng)表現(xiàn)得非常出色。之所以不能將“射殺權(quán)”交給智能機(jī)器人，是因?yàn)檫@一權(quán)利事關(guān)生死，同時(shí)它還面臨諸多技術(shù)難題。
在伊拉克反恐作戰(zhàn)的后續(xù)地面穩(wěn)定作戰(zhàn)階段，2007年10月，美軍第三機(jī)步師的一個(gè)小分隊(duì)執(zhí)行進(jìn)攻一個(gè)反美武裝據(jù)點(diǎn)的任務(wù)。為了應(yīng)對(duì)恐怖分子可能的極端反擊手段和執(zhí)行危險(xiǎn)區(qū)域排險(xiǎn)任務(wù)，小分隊(duì)攜帶了3臺(tái)裝載了武器的“利劍”智能機(jī)器人，以便在危急和需要的情況下，通過遙控下令“利劍”開火摧毀目標(biāo)。
但不知是遙控指令受到干擾還是“利劍”的程序運(yùn)行紊亂所致，一臺(tái)“利劍”竟然調(diào)轉(zhuǎn)槍口指向操作者，操作者反復(fù)發(fā)出“行動(dòng)取消”的指令，失控的“利劍”仍是置若罔聞。為了避免傷及己方，分隊(duì)指揮員只得當(dāng)機(jī)立斷，下令隊(duì)友用火箭筒將失控的“利劍”摧毀才化險(xiǎn)為夷。這一事例說明，不僅將“射殺權(quán)”交給智能機(jī)器人是危險(xiǎn)的，甚至將其裝備武器而不授權(quán)其自主開火，都有可能導(dǎo)致意想不到的危險(xiǎn)。
也許有人會(huì)疑惑，“深藍(lán)”戰(zhàn)勝國(guó)際象棋大師和“阿法狗”戰(zhàn)勝世界一流棋手李世石和柯潔，不是說明智能機(jī)器人已經(jīng)在思維上超越人類了嗎？事實(shí)并非如此。要說在某一方面超過人類，石頭的殺傷力就超過了人的拳頭。人工智能在國(guó)際象棋和圍棋上戰(zhàn)勝人類，是因?yàn)榇祟愑螒虻母?jìng)賽規(guī)則簡(jiǎn)單明確，易于用數(shù)學(xué)模型和計(jì)算機(jī)程序語言描述，而計(jì)算機(jī)的計(jì)算速度和能力又遠(yuǎn)超人腦，還不會(huì)出現(xiàn)疲勞現(xiàn)象和受到情緒化波動(dòng)的影響。
迄今為止，現(xiàn)有智能機(jī)器人所具有的任何能力，都是人類程序員用計(jì)算機(jī)語言寫就的程序賦予的。人能夠用計(jì)算機(jī)程序語言表達(dá)某一能力的前提，是人類對(duì)這一能力已經(jīng)研究透徹并準(zhǔn)確地描述。而人類對(duì)于自己大腦和思維的認(rèn)識(shí)，除了某些特定領(lǐng)域，整體上還處于起步階段。
在戰(zhàn)場(chǎng)上作出“開火”的決定，是綜合衡量大量復(fù)雜因素的結(jié)果?，F(xiàn)有技術(shù)甚至連作出這個(gè)決定時(shí)人的思維所要考慮的因素，都無法全面羅列出來，更不用說構(gòu)建相應(yīng)的數(shù)學(xué)模型，進(jìn)行邏輯嚴(yán)謹(jǐn)?shù)?a href="http://www.ttokpm.com/analog/" target="_blank">模擬演示。例如，《日內(nèi)瓦公約》規(guī)定，不得射殺傷兵、醫(yī)護(hù)兵、跳傘飛行員及失去抵抗能力的士兵，智能機(jī)器人怎樣分辨出這些人，以及怎樣判斷對(duì)方是否已經(jīng)失去抵抗能力，這些至少在當(dāng)前還是難以逾越的技術(shù)障礙。
“殺人機(jī)器人”的最終出現(xiàn)或難避免
盡管如此，自主武器系統(tǒng)的出現(xiàn)可能很難被阻止。2016年美國(guó)空軍舉行的一次模擬空中對(duì)抗賽中，人工智能系統(tǒng)以其靈活、迅捷的動(dòng)作，擊敗了具備更強(qiáng)武器系統(tǒng)的退役戰(zhàn)斗機(jī)飛行員。這和國(guó)際象棋大師輸給“深藍(lán)”，李世石、柯潔輸給“阿法狗”一樣，顯示了人工智能在特定軍事領(lǐng)域具有超過優(yōu)秀軍事人員的潛力。在軍事強(qiáng)權(quán)依然具有國(guó)際主導(dǎo)作用的時(shí)代，這樣的誘惑，對(duì)于具備科研條件的國(guó)家和軍隊(duì)是難以抵御的。韓國(guó)國(guó)防部的“韓華Systems”項(xiàng)目和美國(guó)國(guó)防部的Maven項(xiàng)目就是明證。
目前，在武器裝備和指揮控制方面，人工智能的主要研發(fā)應(yīng)用包括陸地、海洋、太空等各類作戰(zhàn)機(jī)器人以及各類智能炸彈。隨著人工智能技術(shù)的不斷完善并在軍事上廣泛應(yīng)用，情報(bào)、決策與作戰(zhàn)一體化將取得快速進(jìn)展。也就是說，韓國(guó)科研機(jī)構(gòu)研制在無人控制的情況下搜索并消除目標(biāo)的自主武器，已是當(dāng)前人工智能軍事化進(jìn)展的代表方向。自主武器系統(tǒng)加入未來戰(zhàn)爭(zhēng)不會(huì)有太大懸念。但到底是人與機(jī)器人之間作戰(zhàn)，還是機(jī)器人與機(jī)器人之間作戰(zhàn)，取決于一定的戰(zhàn)爭(zhēng)主體在這場(chǎng)人工智能軍事機(jī)器人研制賽跑中是領(lǐng)先還是落后。
也就是說，在是否將射殺權(quán)交給智能機(jī)器人問題上，關(guān)鍵不在“能不能”，而在“該不該”。在2017年人工智能國(guó)際會(huì)議上，特斯拉首席執(zhí)行官馬斯克、蘋果聯(lián)合創(chuàng)始人沃茲、研發(fā)“阿法狗”的深度思維公司哈薩比斯等人簽署公開信，呼吁聯(lián)合國(guó)像禁止生化武器一樣，禁止在戰(zhàn)爭(zhēng)中使用致命的自主武器即“殺手機(jī)器人”?！皻⑷藱C(jī)器人”的研發(fā)招致眾多科學(xué)家的反對(duì)和抵制，也許，“避免潛在風(fēng)險(xiǎn)”的唯一辦法就是永遠(yuǎn)不將“射殺權(quán)”交給智能機(jī)器人。
工商網(wǎng)監(jiān)
評(píng)論