未來智能機器人會威脅到人類生存嗎？

不論是走進人類日常生活還是參與戰(zhàn)爭，都要求機器人具備較強的判斷力、極大的可靠性和對人類的絕對服從。我們的硅腦助手們能做到這些嗎？

機器人早已不是什么新鮮玩意，反而大有方興未艾之勢。從客廳到戰(zhàn)場，我們都能發(fā)現(xiàn)它們的身影。然而，不論是走進人類日常生活還是參與戰(zhàn)爭，都要求機器人具備較強的判斷力、極大的可靠性和對人類的絕對服從。我們的硅腦助手們能做到這些嗎？且隨我們前往未來實驗室探查一番。

機器人，人類最好的朋友？

會跳舞、洗碗、照料病人的機器人……這已經不再是科幻小說的情節(jié)了！不久的將來，這種智能機器人會走進我們的日常生活。可是，要是有一天它不和我們做朋友了呢？

2009年2月，巴黎阿爾德巴朗司（Alde-baran Robotics）的一間辦公室。身材矮小的Nao抬眼打量著讓-保羅，認出了后者上裝翻領上的一枚徽章。于是，它用略帶顫抖的聲音與來賓攀談起來：“你戴著和我一樣的徽章啊！”讓-保羅就好像聽到孩子第一次開口說話，不禁又驚又喜。原來，Nao不是有血有肉的人類，而是一個機器人！它的外表完全沒有“終結者”的影子，倒像是結實可愛的皮諾曹。眼下，它正在阿爾德巴朗公司里進行演示。身為當?shù)卣缛耸康淖?保羅，是專程來見識即將在全球上市的這款“法國制造”機器人的。Nao的問世，預示著伴侶機器人將如海嘯般席卷而來。第一波浪潮就是正在涌現(xiàn)的娛樂型機器人。它們和Nao一樣，會跳舞，可以根據(jù)要求演奏所有MP3的曲子，甚至還能做幫助主人復習英文課這類實用性很強的工作。第二波浪潮是將于2020年左右出現(xiàn)的家用機器人，這些“田螺姑娘”會料理家務、洗碗、收拾房間。而在2050至2060年間，能像真正的護士那樣護理病人的機器人也將閃亮登場！

簡而言之，未來將是機器人的天下。這不是阿爾德巴朗公司的一家之見。日本和韓國也持相同觀點，它們在機器人研究上大步推進，投入的經費動輒高達數(shù)百萬歐元。這兩國科學家的目標，是10年內在市場上推出面向大眾的家用機器人，其售價大約為7000或8000歐元，相當于法國雷諾低端系列汽車洛根（Logan）的價格，意在使每個家庭都能承受。總之，未來社會的圖景中將充斥著大量機器人，這已不再是科幻小說，而是可以預見的現(xiàn)實。

簡而言之，未來將是機器人的天下。這不是阿爾德巴朗公司的一家之見。日本和韓國也持相同觀點，它們在機器人研究上大步推進，投入的經費動輒高達數(shù)百萬歐元。這兩國科學家的目標，是10年內在市場上推出面向大眾的家用機器人，其售價大約為7000或8000歐元，相當于法國雷諾低端系列汽車洛根（Logan）的價格，意在使每個家庭都能承受?？傊磥砩鐣膱D景中將充斥著大量機器人，這已不再是科幻小說，而是可以預見的現(xiàn)實。

顯而易見，事情由此變得復雜起來。因為，在所有科幻作家撰寫的機器人故事里，為主人面包涂上黃油的機器人無一例外地都會有喪心病狂的時刻——把面包刀捅進主人的肚子里。

機器人沒有小魚聰明

類似悲劇會真的上演嗎？對于這個推測，阿爾德巴朗公司聯(lián)絡負責人巴斯蒂安·帕朗（Bastien Parent）并不以為然，他說：“機器人不可能為所欲為，它們只是工具而已，只能按照事先編好的程序行事?！币簿褪钦f，要動腦筋干出危險的勾當，機器人還不夠聰明。毫無疑問，目前的情況確實如此，可是將來會怎樣呢？因為明天的機器人不會只是簡單的操作者，它們能夠發(fā)揮主動性，會變得極為聰明伶俐。美國人工智能專家漢斯·摩拉維克（Hans Moravec）最近發(fā)表在《科學美國人》（Scientific American）上的一篇文章里預測，到2050年，機器人的智慧將與人類相當！之所以得出這個結論，是基于一個簡單的事實：機器人就是有腿的計算機。因此，它們的智商直接取決于其計算能力。在過去的40年中，這項能力已經有了爆炸性增長！

在信息技術傳奇式發(fā)展的20世紀70年代，計算機每秒鐘處理100萬條指令，還要費上九牛二虎之力。而如今，上乘的手提電腦每秒鐘可以輕松應對100億條指令！這個數(shù)字實在令人嘆為觀止。可是，與動物智力相比，機器人還不及一條小魚聰明。漢斯·摩拉維克說道：“以目前的發(fā)展速度看來，在20多年后，將會出現(xiàn)每秒鐘能夠處理100萬億條指令的機器人，足以與人類的智力相媲美。這樣一來，機器人不僅能夠進行思考，而且速度飛快！眼下那些只會演奏密紋唱片、總是被同樣的障礙絆住的傻乎乎的機器人終將被淘汰。未來的機器人將擁有強大的判斷能力，能夠對發(fā)生的意外情況進行分析并采取相應的對策。我們可以想象這樣一個場景：機器人在廚房里走動，突然砰的一聲，它碰倒一只花瓶，聽到花瓶落在地面上摔碎時的響聲后，機器人馬上進行檢查。發(fā)生了什么事呢？它的電路開始工作，追溯到此前幾秒以便弄清真相。機器人會想：‘在這之前花瓶是擺在家具上的，我剛剛從家具旁經過，一定是碰到了家具或是花瓶。所以，我得離房間里的家具更遠一點才行。’”

換句話說，這個機器人能夠自行確定參數(shù)，不過不是自動生成中央計算機中的信息編碼行，而是修改用于調節(jié)行為的程序中的可變量，例如機器人身體與墻壁之間應當隔開的距離。機器人還能夠通過網絡下載自身缺少的軟件?？蓡栴}是，程序往往會發(fā)生執(zhí)行錯誤。如果程序設計缺陷干擾了機器人的行為，會發(fā)生什么情況呢？你知道，計算機病毒會使屏幕上光標反向，上推鼠標時，光標下移，而下拉鼠標時，光標上移。如果機器人身上發(fā)生類似故障，它就會變得像公牛一樣具有攻擊性，也許會導致無法預料的結果。

坦率地說，目睹當今最先進的機器人，真讓人有些不寒而栗。以日本前衛(wèi)機器人HRP-3為例，如果親眼看見它操作手電鉆的樣子（HRP-3是與一家大型公共工程公司合作研制完成的），人們不禁會雙手合十，祈禱它只在木材或鋼材上鉆孔，千萬別在其他地方打洞啊。

一個BUG就足以讓機器人把你撕碎

對于研究人員而言，祈禱是不夠的。他們正在想方設法尋找對策，使與我們共同生活的機器人不會危及到人類的安全。早在上世紀40年代，科幻小說作者艾薩克·阿西莫夫（Issac Asimov）已經對想象中人類面臨的這個挑戰(zhàn)深感不安。他在《機器人》一書里幻想在機器人體內植入一種良好行為代碼。其中涉及的三個簡單法則，被認為涵蓋了機器人威脅人類的各種情況。只要稍有違反法則的情況，機器人便會立即中斷工作……

今天，機器人專家都無一例外地熟知這些規(guī)則。然而，要把它們轉化為代碼卻非常復雜。因為在計算機程序中，連續(xù)命題是二進制的，答案只有兩種：是或否。機器人要么上樓，要么下樓；不是向右，便是向左。不能處于兩者之間。著名的三大法則沒有給出如此明確的答案。阿西莫夫規(guī)定，機器人應當“保護其生命”。什么是機器人的“生命”，機器怎么能意識到自己的“生命”呢？

正因如此，人們必須另辟蹊徑，日本和韓國正朝這個方向努力。專家們正在編寫確保機器人行為無害的運行規(guī)則，并聲稱不會立足于原來的三項法則。日本一個最新版本的工作文件多達60頁！當然，編寫者已經考慮到給機器人配備所有可能的和想象得到的傳感器，比如力量傳感器。有了它，機器人就不會在和人握手時，像對付核桃殼似的把人的手骨捏碎。

不過，文件編寫者承認，即便采取了這些預防措施，意外還是會發(fā)生。為此，人們提出了一系列建議，將來有可能直接編入指導機器人行為的程序。全世界的機器人專家們將對這些軟件不斷進行修訂和完善。一旦某個機器人出問題，受害者和相關方將把事故的來龍去脈記錄到面向所有用戶的龐大數(shù)據(jù)庫中。這樣，法國研究人員可以從中找到中國機器人發(fā)生這類問題后的解決方法，反之亦然。機器人可以下載以信息文件的形式保存的解決方法，從而完成軟件更新并提高安全性，就像今天的計算機所采取的方法一樣。這樣可以最大程度地限制“機器人的威脅”。當然，完全避免威脅是做不到的，因為我們永遠無法阻止人類將用于犯罪。正如阿爾德巴朗機器人公司的巴斯蒂安·帕朗所言，機器人只是工具而已。瘋子、心理病態(tài)的殺手或嫉妒的丈夫可以改變其預定的用途，把它變成殺人機器。即便人們費盡心機，機器人的危險將會始終存在。因為，無論機器人存在與否，人類本身都沒有發(fā)生任何改變……