機器人擁有自主意識到底是是不是有益你會擔心嗎

針對現(xiàn)下大熱的人工智能，很多人會有一個疑問：機器人會擁有自主意識嗎？在2019騰訊科學WE大會前，哥倫比亞大學教授、機器人研究權(quán)威專家Hod Lipson給出了回答。

Hod Lipson向TechWeb等表示，“不可避免會出現(xiàn)這一天，至于是10年后，還是100年后，我們還不知道。但我比較確信的是，我們孫輩生活的世界里，機器將會有自我意識?！?/p>

如果機器擁有了自我意識，你是否會為此感到擔心？Hod Lipson對此持樂觀態(tài)度，他認為，“自主意識的機器人帶來的好處將會遠遠超過它的風險”。

他以火的發(fā)現(xiàn)為例解釋稱，火非常危險，也非常強大。但人類是否希望自己從未發(fā)現(xiàn)火呢？答案應(yīng)該是否定的，因為有了火之后，使得我們能做很多之前做不到的、不可思議的事情。

Hod Lipson指出，“我們現(xiàn)在已經(jīng)發(fā)展和運用了很多機器，而這些機器的數(shù)量將會越來越多，它們也會越來越復(fù)雜，總有一天人類將無法直接照顧這么多、這么復(fù)雜的機器人，我們要想辦法讓機器人自己來照顧自己。”（周小白）

以下為Hod Lipson對話速記：

提問：您真的會覺得機器人會擁有自主意識嗎？你擔心它擁有自主意識嗎？

Hod Lipson：我的回答是肯定的，也是否定的。因為我認為不可避免的會出現(xiàn)這樣一天，這個世界上的機器獲得自我的意識。這是一個非常偉大的事件，因為我們現(xiàn)在在逐步給這些機器系統(tǒng)一點一點添加智能。最終，它們會給自己找到一個模型，它們最終要想明白，并最終明白自己是什么，自己能做什么和不能做什么。

這件事情將在10年之后發(fā)生，還是100年之后發(fā)生，我也不知道。但是，我比較確信的是我們的孫輩所生活的世界里，機器將會有自我意識。

我是否對此感到擔心呢？我可以給您舉一個例子，就是火的發(fā)現(xiàn)?；鸱浅ＮｋU，也非常強大。但人類是否希望自己從未發(fā)現(xiàn)火呢？答案應(yīng)該是否定的，因為有了火之后，使得我們能做很多之前做不到的、不可思議的事情。

具有自主意識的機器人也是如此，它是一種非常強大的技術(shù)，重要的是每一個人都認識到這種機器人能夠做些什么、不能夠做一些什么，就像火一樣，我們知道它是強大而危險的，所以我們要確保將它用于好的事情上。

我個人在這個問題上保持樂觀態(tài)度。我認為自主意識的機器人帶來的好處將會遠遠超過它的風險，因此我們要追求發(fā)展這樣一個技術(shù)，因為我們現(xiàn)在已經(jīng)發(fā)展和運用了很多機器，而這些機器的數(shù)量將會越來越多，它們也會越來越復(fù)雜，總有一天人類將無法直接照顧這么多、這么復(fù)雜的機器人，我們要想辦法讓機器人自己來照顧自己。

提問：第一個問題，上過《自然》雜志封面的那個論文提到過粒子機器人沒有單點故障，也沒有集中控制。這個系統(tǒng)可以繼續(xù)保持運行，它的閾值在什么范圍內(nèi)？因為現(xiàn)在測試下來是20%的粒子發(fā)生故障，整個系統(tǒng)還是能夠保持運行，這個事情是對機器人魯棒性的一個突破。

之前《科學》雜志的主編提到過現(xiàn)在所有人們認為機器人的意識問題，都是因為它的魯棒性，機器人的魯棒性如果真的夠了，它就能產(chǎn)生意識嗎？第二個問題，我不是非常理解剛才舉的火的例子，因為火是沒有自己意識的，它仍然只是一個工具，教授之前講50年之后人可能和人工智能一起進步，就是人和人工智能共生的一個狀態(tài)，在這樣的環(huán)境下，人們會面臨哪些倫理和社會上的挑戰(zhàn)？

Hod Lipson：其實您是把很多問題都集中到了這兩個問題。我先回答一下關(guān)于魯棒性的問題，我們所做的粒子機器人把這個整體當成一個機器人。這種機器人我更想比喻成一個人的身體。我們的身體是由許多細胞組成的，這些細胞會產(chǎn)生、發(fā)展和死亡，不斷地會有細胞死去。雖然有很多細胞都死掉了，但我還是我，你還是你。

那么到底我們能讓多少細胞死，而不改變自己的性質(zhì)呢？到底是20%，還是30%呢？其實，我們知道人體的細胞不斷地在死亡，這是一個持續(xù)的過程，同時也會有新的細胞不斷產(chǎn)生。

換句話說，我們的身體是由一個個不可靠的部分組成，這些部件本身會死亡、壞掉，但是新的部件會不斷出現(xiàn)，反復(fù)的出現(xiàn)，我們這個整體還是我們自己。

做機器人主要在于新思路，你談到了它的魯棒性，你也提到了所謂的20%。其實這個20%只是我們測的一個數(shù)字而已，我們更關(guān)心的是一個想法，就是如何建造一種機器人，像人體一樣，能夠用這些不可靠的部件組成它，但是它作為一個整體仍然是像人體一樣，可以正常的運行。

這一點和我們今天造機器的想法完全不一樣，比如我們現(xiàn)在造的飛機，它由很多部件組成，其中任何一個部件都有自己特定的功能。假如這個部件失靈了、出故障了，那這個飛機就是不能上天的。假如有一輛車其中一個輪子掉了，這輛車也就無法運行了。

我們現(xiàn)在希望以一種全新的思路來做機器人，它的魯棒性和機器人是否有自我意識是無關(guān)的，我們更多的是把它想像成一種生物體。從生物體來講，你的身體、頭腦是維持運行所必要的部分，我們希望這種機器人有一個頭腦，能夠自我去建模，這樣就能夠發(fā)展起來。

我舉火的這個例子，并不是因為它有自我意識。它并沒有自我意識，主要還是從倫理的角度來講，是說火也是非常非常強大、危險的。但是，它是人類文明真正開始發(fā)展的原因，有了火人類才能夠吃以前吃不了的食物，能夠建造以前建造不了的東西，能夠在夜里看見東西，這一切極大的促進了文明的發(fā)展，但是同時火也是非常危險的。

所以，我們所有人都需要意識到火是非常有用的，非常強大。假如火失控，就會帶來非常糟糕的后果。人工智能也是如此，它既強大又危險，這個技術(shù)非常值得我們擁有，但是我們要知道這種技術(shù)能強大到什么程度，并且給予它尊重，確保能夠恰當?shù)厥褂谩?/p>

你提到的所有倫理問題，目前應(yīng)該還是沒有答案的。其實就在5年前，人工智能技術(shù)就已經(jīng)開始發(fā)展了，但是沒有人對它感到興奮，它只是一個學科而已，也沒有任何人擔心它有一天會接管了全世界。

但是，在過去5年間，這一技術(shù)真的騰飛了。突然之間好像大家都在問這些倫理問題，但是正如我前面說過的那樣，我們對這些倫理問題還沒有答案，這個技術(shù)肯定會繼續(xù)發(fā)展，而有自我意識的機器人也終將出現(xiàn)。

提問：粒子機器人是否能夠在一個很小的空間內(nèi)模擬宇宙？

Hod Lipson：你問粒子機器人能否模擬宇宙，我想我們這個機器人更多的是試圖模擬生命，而不是模擬宇宙的發(fā)展和運行。

我們試圖讓它模擬生物，特別是動物的機制。我們試圖認識我們身體里所存在的這些粒子，或者更確切的說是細胞，每一個單個細胞都是不可靠的，而且大腦并不指揮每一個單個的細胞，這些細胞通過自己的隨機運動組合在一起，最終產(chǎn)生了每一個真實的個人。

這個也仍然是一個比喻，但是總的想法是它使我們能夠試著模擬，或者試著復(fù)制一下生命的運行。

提問：隨著自主機器人意識越來越強烈，現(xiàn)在越來越多人對這個感到擔憂，與此同時包括騰訊在內(nèi)的這些企業(yè)，提出了“科技向善”的理念。你是否聽說過騰訊“科技向善”的理念，你對科技向善這個理念是怎么理解的？以及你覺得科技向善該怎么引領(lǐng)未來機器人、人工智能與人類命運的和諧發(fā)展。

Hod Lipson：這個問題非常好，作為人類來說，我們開始意識到這樣一種強大的自主意識會出現(xiàn)，我們肯定會想到必須要確保這些技術(shù)會用于好的事情、善的事情。

但是，這種科技向善的想法在很多地方都有人提出來，并且大家在不斷的重復(fù)。比如我所在的哥倫比亞大學，我們有一個非常類似的說法，叫做數(shù)據(jù)向善，就是把數(shù)據(jù)用于善的事情，這是所有人類都希望能做的事情，關(guān)鍵還在于怎么做到，如何確保技術(shù)總是以好的方式得到運用，這一點是非常難的，確保人工智能完全用于好的事情并不容易，因為這個技術(shù)非常易用，也不需要投入很多錢就能夠用上。技術(shù)本身既可以被用來做好事，也可以被用來做壞事，關(guān)鍵在于人類文明和人類社會應(yīng)該想怎么把它用于好的事情，而不是壞的事情。

關(guān)于怎么辦目前我們還沒有完全想清楚。將來是讓人工智能去監(jiān)督人工智能，還是采取什么別的辦法？但是總的來說最終要靠人類的倫理，指導(dǎo)我們在一個機器能夠自主做出決定的新世界里，確保這些技術(shù)仍然用于好的事情。

應(yīng)該說任何這樣的問題都沒有一個簡單的答案，但是我們必須走上這樣一個歷程，并且一步一步的往前走，我們現(xiàn)在要公開討論它應(yīng)該可以做些什么，不可以做些什么，我們要不斷地進行研究。

在這個過程中，人類會逐步做出什么能做、什么不能做的決定，實際上在人類歷史上我們發(fā)現(xiàn)了既強大又危險的技術(shù)，比如說核技術(shù)、基因技術(shù)的出現(xiàn)，基因技術(shù)如果被誤用或濫用，它的結(jié)果也會很糟糕。比如化學的發(fā)展，它也有可能會被人用于做壞事，但是最終人類社會都選擇把這些技術(shù)用于好的地方。

所以，在人類歷史上我們曾經(jīng)多次發(fā)現(xiàn)這些強大而危險的技術(shù)。但在大部分的情況下，人類社會作為一個整體做出了正確的決定。所以我本人是樂觀的，我相信這次人類社會整體也將做出正確的決定。雖然，在某個時點上可能有少數(shù)人會做出少數(shù)錯誤的、不好的決定，但是作為一個整體，我們會做出正確的決定。

提問：通常人們會想科學家做機器人，是讓它來模仿人類所做的一些動作，或者人類的功能。但是也有一些科學家做出來的機器人已經(jīng)能做一般人做不出來的動作了，為什么要讓機器人做到這些呢？

Hod Lipson：這個問題非常好，就像我們?yōu)槭裁匆屓斯ぶ悄芑蛘邫C器人玩國際象棋、圍棋一樣。這個是一個挑戰(zhàn)，我們會試著讓人工智能和機器人做一些人覺得難的東西，看是否能讓機器人學會這些技術(shù)。

這是自我的挑戰(zhàn)，也是一個測試，就好像人工智能在最開始學國際象棋的時候，世界上絕大部分普通人是不可能戰(zhàn)勝國際象棋大師的。因為，一般人都做不到，不過一開始大家肯定也認為人工智能也是做不到的。這對它是一個智力上的挑戰(zhàn)，它會去學習，然后逐步做到這一點，這是智力上的挑戰(zhàn)。

身體上的挑戰(zhàn)也是一樣的，我們會去問機器人能不能走路。走路這件事看上去非常簡單，每一個兒童，甚至嬰兒很小就開始學走路，并且學會了。但實際上教機器人走路比讓它學國際象棋難得多，因為每一個人類都覺得我們特別擅長走路，所以我們不覺得走路這件事有什么難的，但是教機器人走路是非常困難的。

巴斯大學和其它的一些大學進行了特別多研究，才逐步讓他們的機器人能夠走路。在它做到走路之后，科研人員會想能不能讓它跑起來，能不能讓它在摔倒之后自己爬起來，能不能讓它能爬山、爬墻，或者說能不能讓它做一個后空翻。

幾個月前，伯克利大學發(fā)布了一段視頻，它的機器人在玩一個魔方，這個是一件非常小的事。因為只要是個人，他的手就能玩魔方，但是對機器人來說這是非常難的事情。

對于科研人員來說，讓機器人做這些事情就是在爬一個階梯，是人在身體和智力上能做到的這些事情，讓它像爬梯子一樣一個一個得掌握，并且試著看一看我們在這方面能夠走多遠。

這個技術(shù)是不是有用呢？

我或許可以舉一個例子。讓機器人做后空翻的動作可能本身想不出來有什么實際的用處，但是后面支持機器人走路、拿東西、做后空翻的這些技術(shù)有很多非常實際的應(yīng)用。

提問：您的這項研究適合于哪方面的實際應(yīng)用，比如醫(yī)學或者其它的。在您的成果當中，未來還有哪些可以提升的方向？比如說更多、更快、更小的組件。

我聽說您領(lǐng)導(dǎo)的研究團隊里面有一個中國人，叫李曙光。您怎么評價中國在機器人研究和應(yīng)用方面的貢獻？

Hod Lipson：我先跟您講一下我們的計劃，我們預(yù)期必須把它做的更小。我們在設(shè)想這樣一種機器人的時候，我們希望能夠模擬成百上千個細胞一起運作的狀況。事實上，我們現(xiàn)在能做到的只是幾十個細胞進行這樣的運行。我們希望有一天能夠達到數(shù)百萬、上千萬的細胞一起組成的粒子機器人來運作，就像我們的身體一樣。我們身體里有數(shù)十億、上百億的細胞，它們共同形成了我們。我們要這樣做的話，就需要把它做的更小，我們需要使用納米技術(shù)，或者說至少是微米技術(shù)，這是我們的下一個目標。因為在它的每一個部件足夠小之前，是不可能有實用場景的，因為在大的規(guī)模上沒有辦法實現(xiàn)細胞之間永續(xù)的更新，如果它足夠小，能夠做到很多有趣的事情。

比如說我們現(xiàn)在看到工廠里的機器人，乃至你家里的吸塵器，現(xiàn)在都是一些大的部件壞了，整個機器就不能運作的部件組成的。將來它們也可以由這樣一個一個小的細胞組成，它的好處有很多。

首先，就是它能夠應(yīng)對某個部件出現(xiàn)故障，但是整體不會出問題，可以完全循環(huán)。在今天我們看到的這些機器是不能夠循環(huán)的，機器壞掉之后相當于把它埋葬了，或者說這個機器的某個金屬部件、塑料部件是可以循環(huán)的，但是機器作為一個整體是不行的。

但是生物體不一樣，生物體是可以百分之百循環(huán)的。比如說你吃掉了一只雞，你就能夠充分利用雞提供給你的蛋白質(zhì)，如果你吃了植物或者素食，你也會充分利用它給你提供的一切，因為你的身體會把它所提供給你的有用物質(zhì)進行循環(huán)，從氨基酸開始，然后對它實現(xiàn)充分的利用。

我們現(xiàn)在希望能夠有一種物理的機器，使它也能夠?qū)崿F(xiàn)這樣的循環(huán)，這樣它就由數(shù)百萬、上千萬的小部件組成，形成這樣一個小粒子的生態(tài)系統(tǒng)。只有實現(xiàn)這樣的生態(tài)系統(tǒng)，才有機會使我們維持使用很多機器的人類文明生生不息，因為這些機器自己可以照顧自己，但是應(yīng)該說這是一個非常長遠的目標，這不是一個明天就能用上的技術(shù)。

提問：能夠用兩個詞談一談對于騰訊明天WE大會科學精神的理解嗎？并且講一下故事，教授這邊是不是采取了什么行動，來防止相關(guān)的技術(shù)被誤用，是否存在一些規(guī)則，如何對相關(guān)的技術(shù)進行監(jiān)管？

Hod Lipson：我非常期待明天的大會，而且我知道大會涉及到很多不同的主題，內(nèi)容都非常有趣，這也使我想到中國和美國科學界的合作。

您提到我團隊里面有中國人，其實我那里總共有10個博士生，里面有四個中國人，從碩士的學生來說，數(shù)量就更多了，大概占到了一半，可能大概有10多個。

所以，不管是哥倫比亞大學還是其它大學，其實都是如此。我想這也表明中美在這個領(lǐng)域的合作比歷史上任何時候都要多，不僅在我們的項目組有中國學生，在大學的教職員工里面也有不少的中國人。

人工智能和機器人領(lǐng)域尤為如此，在這個領(lǐng)域發(fā)表論文的數(shù)量，中國、美國、歐洲數(shù)量大致是一樣的，我們也知道在中國、美國，在世界上很多地方都存在著很多競爭，但是在人工智能和機器人的世界里，世界確實是平的。

其中部分原因是因為這個領(lǐng)域?qū)Y本投入的需求很低，因此你不需要投入大量的資金，就可以去研究和發(fā)展這個技術(shù)，所以每一個人感興趣都可以參與進來。另外一部分原因是在人工智能和機器人的領(lǐng)域，我們分享意識是非常強的，迄今為止這個領(lǐng)域所取得的每一項成就都是開源的，這也大大促進了國際合作。

至于監(jiān)管的問題，從目前來看，我們唯一能做的就是不斷的談?wù)撨@樣的事情，我們絕對不能關(guān)上門搞開發(fā)，要保持百分之百的開放。在我們的實驗室白天黑夜都有記者找我們，他們會來拍照，會問問題，而且有些時候會問非常難回答、根本就沒有答案的問題。

在機器人技術(shù)的發(fā)展領(lǐng)域，我想這是唯一的出路?？赡芪覀冞M行大量的交流還不能確保這個技術(shù)一定是用于好的事情，但是至少通過這個討論，人們可以了解到這種技術(shù)的危險性何在，而不是在未來某一天突然被它嚇壞了。

提問：單個粒子機器人現(xiàn)在的收縮狀態(tài)直徑是15厘米，您剛剛提到在它做的足夠小之前是不太可能應(yīng)用的，大概要等多少年時間才有可能做到微米級、納米級？在這期間會遇到什么難題？如果真的做到納米級、微米級，這個粒子機器人具體落地應(yīng)用場景大概是什么樣的？可以舉幾個例子描述一下嗎？

Hod Lipson：需要多少年才能達到你說的這個尺度我確實不知道答案。這個研究的進展并不僅僅取決于研究的難易程度，還涉及到是否能夠得到資金支持，是否有學生對這個課題感興趣?？赡芩麄儠黄渌募夹g(shù)所吸引，這些都是一些影響因素。

但是，我個人仍然覺得它會在我們的有生之年達到微米。比如10年，或者說我不會想像做的比微米更小，我不會真的想像那時候就能做到納米級，但是或許我們只能做到毫米級的，比如說像小的砂糖顆粒一樣，毫米級的，那時候就可以做這樣的細胞。

沒有辦法把毫米級的粒子機器人到人類的血管中去，或者我們現(xiàn)在想像的那些醫(yī)學中特別先進的應(yīng)用，可能還是做不到，但是它應(yīng)該可以成為一些機器的組成部分，這些機器能夠行走、恢復(fù)、重復(fù)使用。

比如在外空有一些需要做的工作，或者是如果我們需要登上月球的話，我們就需要這些機器人能夠根據(jù)任務(wù)的需求，改變自己的形態(tài)，在一些地方可能把材料運過去非常昂貴，我們需要重復(fù)使用我們的機器人，讓它能夠根據(jù)任務(wù)需求進行形態(tài)的調(diào)整。我個人想像，這很可能是這種機器人比較早的應(yīng)用形態(tài)。

提問：有人說中國和美國在人工智能、機器人領(lǐng)域的不同是中國可能研究更偏應(yīng)用一點，美國可能在基礎(chǔ)研究做的更扎實一點，怎么看待中美在這兩個領(lǐng)域當中研究發(fā)展程度的不同？中國人工智能領(lǐng)域在基礎(chǔ)研究方面的缺乏和不足會不會對未來應(yīng)用造成一些影響？

Hod Lipson：我不太確定我看到的情況和您的這個描述是一致的。因為我覺得中國也有很多人在做應(yīng)用和基礎(chǔ)研究，也有很多美國人在做應(yīng)用方面的研究，中國這邊也是兩方面研究都有。

應(yīng)該說這個領(lǐng)域的研究一直都是混合的。在機器人和人工智能領(lǐng)域，一向都是這兩種，并不總是兩分法的判斷，很多人都是同時在做的。而且你很少看到有人只會研究某個特定的應(yīng)用。比如說只研究某個醫(yī)學的應(yīng)用，或者某個康復(fù)功能的應(yīng)用，或者他只關(guān)注于自動駕駛的機器人，更準確的描述就是這個領(lǐng)域非常廣泛，確實沒有人能夠把所有的細分學科、某個技術(shù)細節(jié)都關(guān)注到。

但是在這兩個國家都有大量的人做各種各樣的研究，所以恐怕不能一下子判斷中美出現(xiàn)這樣一種不同偏好的原因。

即便在我自己的實驗室，有的研究人員比較重視應(yīng)用。我們有一個項目是能做“抓”這個動作的機器人，他們會和工廠有很多的聯(lián)系，去看現(xiàn)有這樣的機器人和我們自己的機器人，能不能保證它抓10萬次不出故障。

此外也有特別關(guān)注于機器人創(chuàng)造力和自我意識的人，這個更具有哲學性的思考。恐怕只能說這個領(lǐng)域的內(nèi)容如此豐富，所以一個人恐怕沒有什么都關(guān)注到，但是放在國家尺度上，兩國都既有實用研究，也有大量的基礎(chǔ)研究，這就是我們這個學科和其它學科不一樣的地方。

比如天文學肯定要做大量理論研究。我們這一行是不一樣的，機器人這個領(lǐng)域有很多商業(yè)的力量參與，也有很多政治、經(jīng)濟的力量參與，這個領(lǐng)域的錢非常多，比如說百分之百人工智能驅(qū)動的無人駕駛汽車，在這個領(lǐng)域投入了大量的資金，它非常熱，有來自于各個方向上的壓力和興趣，所以可能像這樣的一些特定細分領(lǐng)域會吸引到更多的關(guān)注，但其實在更廣泛的人工智能和機器領(lǐng)域，實用和理論基礎(chǔ)性的研究都在廣泛進行。
責任編輯 LK