專家們呼吁政府對殺手機器人下達禁令

來自加拿大和澳大利亞的機器人和人工智能領(lǐng)域的專家們呼吁政府對殺手機器人下達禁令，專家們反對自動化武器的使用，并且認為它們的研發(fā)和使用越過了道德底線。

在新南威爾士大學(xué)Toby Walsh的組織下，澳大利亞人工智能研究界給澳大利亞政府寫了一封信，呼吁禁止開發(fā)致命的自動化武器。澳大利亞機器人和人工智能（AI）研究機構(gòu)的122位領(lǐng)先研究者發(fā)出了一封公開信，呼吁澳大利亞***Malcolm Turnbull采取反對將人工智能用于武器的立場。

澳大利亞的多位人工智能和機器人專家簽署了這封信，要求Turnbull和他的政府成為禁止致命性自動化武器的第二十個國家，呼吁在即將召開的聯(lián)合國（聯(lián)合國）“特定常規(guī)公約”會議上禁止致命的自動化武器（CCW）。

這封同步公開信獲得了加拿大數(shù)百名AI專家的簽名，其中包括Deep Learning公司的兩名創(chuàng)始人、AI先驅(qū)Geoffrey Hinton和Yoshua Bengio，以及加拿大渥太華大學(xué)倫理、法律和技術(shù)研究所的主任Ian Kerr教授。加拿大的公開信敦促加拿大***Justin Trudeau支持這一禁令。這兩封信都是伴隨著八月份打給聯(lián)合國的一個電話而發(fā)出的。這個電話是由機器人和人工智能企業(yè)的137名創(chuàng)始人聯(lián)合打出的，旨在反對打開致命自動化武器的潘多拉盒子。此次電話會議的簽署方包括英國的AI研究員兼谷歌DeepMind Demis Hassabis公司的首席執(zhí)行官和一些著名的技術(shù)專家，如OpenAI的創(chuàng)始人Elon Musk和Geometric Intelligence的創(chuàng)始人Gary Marcus。

澳大利亞人工智能專家在寫給Turnbull的信中說，缺乏切實的人類控制的致命自動化武器很明顯是錯誤的。信中說：“為此，我們要求澳大利亞在即將召開的聯(lián)合國常規(guī)武器公約會議上宣布支持禁止致命的自動化武器系統(tǒng)。澳大利亞還應(yīng)該承諾與其他國家合作達成一個新的國際協(xié)議，以達成這個目標?！毙胖姓f：這樣，我們的政府就可以在世界舞臺上恢復(fù)其道德領(lǐng)導(dǎo)地位，正如以前在其他領(lǐng)域，如不擴散核武器的情況一樣?！半S著澳大利亞最近參加聯(lián)合國人權(quán)理事會的選舉，處理致命的自動化武器問題對澳大利亞更為迫切?！?/p>

公開信的組織者、澳大利亞新南威爾士大學(xué)悉尼分校的AI教授Scientia表示，AI和機器人界近年來已經(jīng)就這個問題發(fā)出了一個清晰而一致的信息。Walsh說：“我們現(xiàn)在需要采取行動來禁止致命的自動化武器。人工智能可以極大地提高生產(chǎn)力，應(yīng)對氣候變化，改善醫(yī)療保健?！薄暗瑫r，人工智能也可以使我們的生活變得更糟糕，特別是在我們允許機器來決定人的生死的情況下。我們應(yīng)該選擇如何使用各種技術(shù)。我非常希望我們在這里做出正確的選擇。在這些技術(shù)被普及之前，留給我們的時間已經(jīng)不多了?！盬alsh教授說，如果沒有禁令，將會產(chǎn)生軍備競賽，以發(fā)展日益強大的自動化武器。

在2015年布宜諾斯艾利斯舉行的主要人工智能大會上，Walsh還協(xié)助組織公布了一封公開信，以警告自動化武器的危險，并再次提出了對其實施禁止的要求。這封信是由來自全球的數(shù)以千計的人工智能和機器人研究者們簽署的，并得到了英國物理學(xué)家霍金（Stephen Hawking）、蘋果聯(lián)合創(chuàng)始人Steve Wozniack和認知科學(xué)家Noam Chomsky等的支持。人權(quán)委員會特別報告員Christof Heyns教授是第一個呼吁聯(lián)合國解決自動化武器問題的人。他在2013年認為，機器不應(yīng)該獲得決定人類生死的權(quán)力。

澳大利亞的這封信也是在11月10日教科文組織的“和平與發(fā)展世界科學(xué)日”之前發(fā)出的。此外，Walsh將到聯(lián)合國對致命自動化武器的危險提出警告：“像我這樣的人工智能和機器人專家所擔(dān)心的不是終結(jié)者，而是目前正在開發(fā)的更簡單的技術(shù)。它們距離部署只有幾年的時間。如果沒有禁令，將會發(fā)生軍備競賽，以開發(fā)越來越強大的自動化武器。利用將會出現(xiàn)大規(guī)模的殺傷性武器，一個程序員將能夠控制整個軍隊。其他任何大規(guī)模殺傷性武器都被禁止：化學(xué)武器、生物武器、甚至核武器。我們必須把自動化武器添加到道德上不可接受的武器清單上?！?/p>

Walsh的新書《它是鮮活的?。簭倪壿嬩撉俚綒⑹謾C器人的人工智能》詳細論述了對致命自動化武器的爭論。