警告謹(jǐn)防“機(jī)器人殺手”？抵制韓人工智能武器實(shí)驗(yàn)室設(shè)立

全球超過(guò)50名人工智能研究人員4日聯(lián)名抵制韓國(guó)科學(xué)技術(shù)院設(shè)立人工智能武器實(shí)驗(yàn)室，警告謹(jǐn)防“機(jī)器人殺手”。

由澳大利亞新南威爾士大學(xué)人工智能教授托比·沃爾什發(fā)起，美國(guó)和日本等30個(gè)國(guó)家和地區(qū)的研究人員4日簽署一封公開(kāi)信，敦促韓國(guó)科學(xué)技術(shù)院停止人工智能武器研發(fā)。

這些研究人員說(shuō)，將拒絕訪問(wèn)韓國(guó)科學(xué)技術(shù)院、接待對(duì)方訪客或與對(duì)方合作研究項(xiàng)目，直至這所韓國(guó)頂尖大學(xué)承諾放棄研發(fā)缺少“有效人工控制”的武器。

聯(lián)名信寫道：“自動(dòng)武器一旦成熟，戰(zhàn)爭(zhēng)發(fā)展速度和規(guī)模將前所未有。它們可能會(huì)被***利用。”

韓國(guó)科學(xué)技術(shù)院與韓國(guó)十大財(cái)團(tuán)之一韓華集團(tuán)旗下韓華系統(tǒng)公司合作，于今年2月開(kāi)設(shè)人工智能研發(fā)中心，目的是研發(fā)適用于作戰(zhàn)指揮、目標(biāo)追蹤和無(wú)人水下交通等領(lǐng)域的人工智能技術(shù)。

參與抵制的研究人員說(shuō)，這處研發(fā)中心實(shí)際打算加入全球競(jìng)爭(zhēng)，研發(fā)自動(dòng)軍事武器?！绊n國(guó)科學(xué)技術(shù)院這樣的著名院校著眼于加速軍備競(jìng)賽、研發(fā)武器，令人遺憾?！?/p>

聯(lián)合國(guó)關(guān)注

圍繞人工智能武器的爭(zhēng)議已促使聯(lián)合國(guó)采取行動(dòng)。

包括美國(guó)特斯拉公司首席執(zhí)行官埃隆·馬斯克在內(nèi)的上百名科技界領(lǐng)袖和人工智能研究人員去年8月簽署聯(lián)名信，敦促聯(lián)合國(guó)遏制“機(jī)器人殺手”，以免為時(shí)過(guò)晚。

信中寫道，“機(jī)器人殺手”、即能致人斃命的自動(dòng)武器會(huì)改變戰(zhàn)爭(zhēng)方式，使武力沖突“擴(kuò)大至前所未有的范圍”，甚至有可能“遠(yuǎn)超人們所能理解的程度”。

聯(lián)合國(guó)一個(gè)人工智能專家組去年11月啟動(dòng)討論，以應(yīng)對(duì)人工智能武器對(duì)全球安全造成的挑戰(zhàn)。

聯(lián)合國(guó)123個(gè)成員國(guó)代表定于本月9日在瑞士日內(nèi)瓦就這一議題召開(kāi)會(huì)議。

趨利避害

技術(shù)院4日迅速回應(yīng)遭遇抵制一事，強(qiáng)調(diào)“無(wú)意參與研發(fā)致命自動(dòng)武器系統(tǒng)和‘機(jī)器人殺手’”。

韓國(guó)科學(xué)技術(shù)院校長(zhǎng)申成澈（音譯）說(shuō)，這所大學(xué)“顯然意識(shí)到”關(guān)于人工智能有違人類道德的擔(dān)憂?！拔抑厣觏n國(guó)科學(xué)技術(shù)院不會(huì)開(kāi)展任何有違人類尊嚴(yán)的研究活動(dòng)，包括研發(fā)缺少人工控制的自動(dòng)武器。”

按這一學(xué)府的說(shuō)法，新設(shè)研發(fā)中心將集中研究如何運(yùn)用人工智能命令和控制系統(tǒng)、導(dǎo)航大型無(wú)人潛水器、指導(dǎo)智能飛行訓(xùn)練以及追蹤識(shí)別目標(biāo)。

發(fā)起聯(lián)名抵制的人工智能教授沃爾什說(shuō)，抵制行動(dòng)已經(jīng)發(fā)揮作用，“韓國(guó)科學(xué)技術(shù)院作出兩大讓步：不會(huì)開(kāi)發(fā)自動(dòng)武器，以及保證有意義的人工控制”。至于是否取消抵制，需與其他簽署聯(lián)名信的科研人員共同決定。

沃爾什告訴路透社記者，機(jī)器人和人工智能技術(shù)實(shí)際可以在軍事領(lǐng)域發(fā)揮有利作用，比如完成掃雷等威脅人類安全的任務(wù)。“但我們不能將決定生死的權(quán)力交給機(jī)器，這越過(guò)道德底線。