關(guān)于“殺人機(jī)器人”的看法和討論

日前,《特定常規(guī)武器公約》締約國(guó)專家會(huì)議在瑞士日內(nèi)瓦開(kāi)幕,參加者包括聯(lián)合國(guó)裁軍研究所、國(guó)際紅十字委員會(huì)、非政府組織以及相關(guān)領(lǐng)域的專家和學(xué)者。中國(guó)外交部、國(guó)防部也派代表出席了會(huì)議。會(huì)議圍繞自主武器系統(tǒng)所引發(fā)的法律、倫理和社會(huì)問(wèn)題展開(kāi)探討。

想必大家對(duì)電影中描繪的高度智能的機(jī)器人并不陌生,例如《終結(jié)者》、《變形金剛》、《機(jī)械公敵》等電影就展示了未來(lái)機(jī)器人戰(zhàn)爭(zhēng)的場(chǎng)景。在電影里,它們似乎具備了人類的某種判斷能力,被用來(lái)執(zhí)行特殊任務(wù)或者某種可怕的殺戮或襲擊,甚至參與戰(zhàn)爭(zhēng)。其實(shí),這就是廣義上的“自主武器系統(tǒng)”,也就是俗稱的“殺人機(jī)器人”。

目前,許多國(guó)家都在研發(fā)自主武器系統(tǒng)。毫無(wú)疑問(wèn),使用此類武器可以增強(qiáng)軍事實(shí)力,同時(shí)降低己方士兵的風(fēng)險(xiǎn)。因此,各國(guó)對(duì)自主武器開(kāi)發(fā)研究和投入有增無(wú)減。如今,很多武器系統(tǒng)已經(jīng)具備一定的自主功能。武器技術(shù)的不斷進(jìn)步可能意味著,未來(lái)戰(zhàn)場(chǎng)上的致命決定可能完全由機(jī)器作出而無(wú)需人類干預(yù)。

盡管有許多專業(yè)文獻(xiàn)討論了自主武器,但對(duì)于自主武器尚無(wú)統(tǒng)一的定義。“自主武器”可以看作是根據(jù)自身所部署的環(huán)境的變化,隨時(shí)識(shí)別特殊情況并作出相應(yīng)調(diào)整或運(yùn)轉(zhuǎn)的武器。真正的自主武器能夠在無(wú)人干預(yù)或操控的情況下,搜索、識(shí)別并攻擊包括人類在內(nèi)的目標(biāo)(敵軍戰(zhàn)斗員)。這一定義意味著,自主武器是具有人工智能的移動(dòng)系統(tǒng),能夠在無(wú)人控制的情況下在動(dòng)態(tài)環(huán)境中運(yùn)行。

應(yīng)該強(qiáng)調(diào)的是,此類“完全”自主的武器目前仍處于研究階段,尚未得到完全開(kāi)發(fā),也尚未部署在戰(zhàn)場(chǎng)上。然而,隨著武器系統(tǒng)自主性日益增強(qiáng),它的發(fā)展會(huì)變得愈發(fā)難以預(yù)測(cè)。

目前,支持和反對(duì)自主武器的意見(jiàn)均不少見(jiàn)。支持者認(rèn)為,這類系統(tǒng)采用先進(jìn)的傳感器和人工智能,意味著它們將比士兵更能準(zhǔn)確識(shí)別和攻擊軍事目標(biāo),從而避免平民意外傷亡。反對(duì)的聲音則呼吁暫停或禁止自主武器的研發(fā)、生產(chǎn)和使用。去年4月,就曾發(fā)起過(guò)一項(xiàng)“阻止殺人機(jī)器人”的國(guó)際運(yùn)動(dòng)。去年5月,***有關(guān)自主殺人機(jī)器人的報(bào)告稱,此類武器系統(tǒng)增加了各方對(duì)“在戰(zhàn)爭(zhēng)與和平年代保護(hù)生命的普遍憂慮”。公眾亦擔(dān)心,沒(méi)有人類控制的自主武器會(huì)任意行動(dòng),作出違反開(kāi)發(fā)者意圖的行為,甚至?xí)斐煞词伞?/p>

因此,兩個(gè)關(guān)鍵的問(wèn)題值得深究。第一,如何保證在法律允許范圍內(nèi)使用自主武器系統(tǒng)。國(guó)際人道法規(guī)定,任何新武器、作戰(zhàn)手段或方法在使用過(guò)程中必須能夠符合國(guó)際人道法有關(guān)作戰(zhàn)行為的規(guī)則,特別是攻擊中的區(qū)分、比例和預(yù)防原則,從而達(dá)到保護(hù)平民的目的。在激戰(zhàn)中,自主武器是否能夠區(qū)分平民和戰(zhàn)斗員?如果攻擊所造成的平民和民用物體附帶傷亡或損害與預(yù)期的實(shí)際直接軍事利益相比可能過(guò)大,自主武器能否取消攻擊?從技術(shù)角度來(lái)說(shuō),有朝一日或許可以設(shè)計(jì)出一種高度智能的自主武器系統(tǒng),能夠執(zhí)行上述規(guī)則。但是,目前對(duì)此類規(guī)則實(shí)施的評(píng)估似乎更倚重人類所獨(dú)有的判斷力。同時(shí),這也引出第二個(gè)問(wèn)題,即誰(shuí)應(yīng)該對(duì)自主武器系統(tǒng)實(shí)施的違反國(guó)際人道法的行為負(fù)責(zé)。確定個(gè)人刑事責(zé)任將更具挑戰(zhàn)性。將責(zé)任歸咎于一臺(tái)機(jī)器或電腦似乎不太合理,那么誰(shuí)將對(duì)自主武器系統(tǒng)所作的決定負(fù)責(zé)?程序員?制造商?還是部署該武器系統(tǒng)的指揮官?許多問(wèn)題仍然沒(méi)有答案。

至此,我們的討論將超出法律和技術(shù)層面,開(kāi)始對(duì)人類在武裝沖突中作出生死抉擇的角色本身提出根本性的質(zhì)疑。最終問(wèn)題不在于我們應(yīng)該如何開(kāi)發(fā)或操縱自主武器,而在于人類的良知是否會(huì)允許機(jī)器在無(wú)人控制的情況下作出生死決定并使用致命武力。