機(jī)器人三定律的介紹

　　如何阻止機(jī)器人傷害人？現(xiàn)在的許多機(jī)器人，比如在工廠里組裝汽車(chē)的機(jī)械臂，當(dāng)人類(lèi)靠近時(shí)，它們會(huì)馬上停機(jī)。但這種機(jī)制在某些地方并不適用，比如需要快速移動(dòng)來(lái)避免碰撞的無(wú)人駕駛汽車(chē)，或者需要扶起摔倒老人的護(hù)理機(jī)器人。隨著機(jī)器人技術(shù)的快速發(fā)展，它們將成為我們的仆人、伴侶還有同事，我們需要應(yīng)對(duì)日益復(fù)雜的形勢(shì)，將會(huì)面臨更多的道德和安全問(wèn)題。

　　科幻已經(jīng)設(shè)想了這個(gè)問(wèn)題，并提出了各種潛在的解決方案，其中最著名的是Isaac Asimov的機(jī)器人三定律，旨在防止機(jī)器人傷害人類(lèi)。但現(xiàn)實(shí)表明，機(jī)器人三定律在很多時(shí)候并不管用，從2005年開(kāi)始，我和赫特福德大學(xué)的同時(shí)一直在研究一個(gè)可替代的解決方案。

　　我們認(rèn)為，規(guī)則不應(yīng)該限制機(jī)器人的行為，而應(yīng)該賦予機(jī)器人更大的自主性，讓他們?cè)谌魏螆?chǎng)合都能合理選擇最佳解決方案。正如我們?cè)贔rontiers上發(fā)表的一篇新論文描述的那樣，這一原則可以構(gòu)成一套新的機(jī)器人普遍指導(dǎo)原則，以盡可能地保護(hù)人類(lèi)的安全。

　　機(jī)器人三定律

　　阿西莫夫的機(jī)器人三定律是這樣描述的：

　　? 機(jī)器人不能傷害人類(lèi)，也不能明知人類(lèi)受傷害而袖手旁觀；

　　? 機(jī)器人必須服務(wù)人類(lèi)的命令，除非這些命令與第一定律相沖突；

　　? 在不違反第一、第二定律的前提下，機(jī)器人應(yīng)保證自身安全。

　　這些規(guī)則聽(tīng)起來(lái)似乎很合理，但無(wú)數(shù)的事實(shí)證明他們?nèi)源嬖诤芏嗖蛔?。阿西莫夫的小說(shuō)可以說(shuō)是最好的反證，它們證明在很多情況下機(jī)器人三定律都是不起作用的。大多數(shù)新起草的規(guī)則都遵循類(lèi)似的原則以構(gòu)建更安全、合規(guī)而穩(wěn)定的機(jī)器人。

　　所有制定出來(lái)的機(jī)器人指南都存在一個(gè)問(wèn)題，那就是如何轉(zhuǎn)化為機(jī)器人可以執(zhí)行的格式。理解人類(lèi)的所有語(yǔ)言以及它所代表的經(jīng)驗(yàn)，對(duì)機(jī)器人來(lái)說(shuō)是非常困難的事情。廣義的行為目標(biāo)，比如不得傷害人類(lèi)，或保護(hù)機(jī)器人的安全，在不同的情況下可能意味著不同的內(nèi)容。遵守這些規(guī)則，最終可能讓機(jī)器人束手無(wú)策，并不能達(dá)成創(chuàng)造者的目的。

　　我們的另一個(gè)概念，授權(quán)代表的是無(wú)助的反面。被授權(quán)意味著有能力該表狀況，并意識(shí)到你可以。我們一直在研究如何將這種社會(huì)概念轉(zhuǎn)化為可量化和可操作的技術(shù)語(yǔ)言。這將給機(jī)器人帶來(lái)啟發(fā)，以保持他們的選擇開(kāi)放，并采取行動(dòng)，增強(qiáng)他們對(duì)世界的影響力。

　　當(dāng)我們嘗試在各種場(chǎng)景中模擬機(jī)器人如何使用授權(quán)原則時(shí)，我們發(fā)現(xiàn)他們通常會(huì)以驚人的“自然”方式行事。通常只需要他們來(lái)模擬現(xiàn)實(shí)世界的工作原理，但不需要專(zhuān)門(mén)的人工智能編程來(lái)處理特定的場(chǎng)景。

　　但是為了保護(hù)人們的安全，機(jī)器人需要努力維護(hù)或改善人類(lèi)授權(quán)以及自己的能力。這基本上意味著保護(hù)和支持。為某人打開(kāi)一扇鎖好的門(mén)將增加他們的授權(quán)。限制他們將導(dǎo)致授權(quán)短期喪失。嚴(yán)重傷害可以徹底取消他們的授權(quán)。同時(shí)，機(jī)器人必須努力保持自己的授權(quán)，例如確保它具有足夠的操作能力，并且不會(huì)卡住或損壞。