自殺開關(guān)研究或緩解人工智能恐慌

?
　　很多人被科幻電影中描述的機(jī)器人統(tǒng)治世界的暗示嚇到了，現(xiàn)在，Google的一項(xiàng)研究可能會(huì)緩解人們的這種恐懼。
　　Google的DeepMind是倫敦的一家人工智能公司，于2014年被Google收購?，F(xiàn)在，DeepMind正在研究機(jī)器人和人工智能的自殺系統(tǒng)。
　　這個(gè)想法來自于，如果未來機(jī)器人可以控制自己的啟動(dòng)按鈕，那么人類就需要更高優(yōu)先級(jí)的控制權(quán)限。
　　“如果一個(gè)機(jī)器是在人類的實(shí)時(shí)監(jiān)控下進(jìn)行操作的，那么它可能會(huì)需要一個(gè)紅色按鈕，可以隨時(shí)停機(jī)，以免它進(jìn)行危險(xiǎn)的操作。”機(jī)器智能研究協(xié)會(huì)的研究者發(fā)布的一篇論文稱，“然而，如果具有學(xué)習(xí)的能力機(jī)器從長(zhǎng)遠(yuǎn)角度學(xué)會(huì)了組織這種停機(jī)，比如使紅色按鈕失效，這可不是鬧著玩的。”
　　這篇論文的作者是Google Deep Mind的研究員Laurent Orseau和英國牛津大學(xué)人類未來研究機(jī)構(gòu)的研究員Stuart Armstrong。
　　研究者們?cè)噲D找出一種方法，來使機(jī)器避免學(xué)會(huì)人們的操作，從源頭上阻止它們。
　　鑒于目前公眾對(duì)人工智能的恐慌，這對(duì)研究者來說是有趣而且重要的一步。
　　很多人被有關(guān)機(jī)器人的電影潛移默化的影響了，比如《2001： A Space Odyssey》， 《The Terminator》， 《I， Robot》和電視劇《Battlestar Galactica》。他們認(rèn)為未來人類可能變成機(jī)器人的奴隸。
　　這并不是一個(gè)美好的暢想，而且這讓包括高科技企業(yè)家Elon Mush和著名的物理學(xué)家Steven Hawking的很多人對(duì)等待人類的將是怎樣一個(gè)未來感到不安。
　　霍金的擔(dān)憂很長(zhǎng)遠(yuǎn)，他說：“人工智能的快速發(fā)展也就是人類的末日?！?br /> 　　Google的自殺開關(guān)不僅僅是平息這種恐慌的一項(xiàng)技術(shù)，而且時(shí)機(jī)也剛剛好。
　　“人工智能和自主機(jī)器的架構(gòu)正在發(fā)展，這個(gè)時(shí)候進(jìn)行這個(gè)研究恰到好處?！盤atrick Moorhead，Moor Insights & Strategy的一個(gè)分析員說。“就好像設(shè)計(jì)一個(gè)汽車，只有在后來才會(huì)設(shè)計(jì)ABS和剎車系統(tǒng)。自殺開關(guān)需要設(shè)計(jì)到整個(gè)系統(tǒng)中去，不然，就會(huì)存在可能會(huì)機(jī)器繞過的安全漏洞?！?br /> 　　Moorhead拒絕談自己是否擔(dān)憂具有人工智能的機(jī)器，但是他說，很支持研發(fā)一個(gè)安全的紅色按鈕。
　　“如果一個(gè)AI系統(tǒng)沒有自殺開關(guān)，”他說，“那么就好像設(shè)計(jì)了一個(gè)高速火車，卻沒有剎車系統(tǒng)?！?br /> 　　獨(dú)立分析員Jeff Kagan說，DeepMind的研究很有價(jià)值。對(duì)于一個(gè)總是先開發(fā)技術(shù)然后再去考慮后果的行業(yè)來說，這次時(shí)機(jī)把握的很好。
　　“雖然我們現(xiàn)在還沒有必要擔(dān)憂是不是會(huì)被AI占領(lǐng)。”Kagan說。“但是我們做的總是想的快……我只希望，那些杰出的科學(xué)家能用他們的大腦保護(hù)好我們，而不是一味地開發(fā)最后嚇我們一跳。”
　　The Gabriel Consulting Group的分析員Dan Olds說，Google將他們的一部分精力放在安全方面上，卻是是一家負(fù)責(zé)任的公司?！拔艺J(rèn)為，鑒于現(xiàn)在機(jī)器人和人工智能領(lǐng)域的現(xiàn)狀，Google在這方面做到了領(lǐng)導(dǎo)者的責(zé)任。”O(jiān)lds說，“人工智能或機(jī)器人統(tǒng)治人類確實(shí)還離現(xiàn)在比較遠(yuǎn)，但是到底有多遠(yuǎn)呢？在接下來的5年里，可能我就會(huì)看到金融服務(wù)都交由AI管理，可能我會(huì)看到更多的設(shè)備完全由AI負(fù)責(zé)。這就是我們需要自殺開關(guān)的原因——防止某些事情偏離軌道，造成不可挽回的損失?！?br /> ?