超人類人工智能須以自下而上的方式構(gòu)建和進(jìn)行自我迭代

或許很多人都幻想過，如果有一天，人工智能超越了人類的智力水平，世界將會(huì)發(fā)聲怎樣天翻地覆的變化。

而在這個(gè)看似遙遠(yuǎn)，又似乎近在咫尺的幻想實(shí)現(xiàn)之前，不放讓我們來深入探討一下， 怎樣才能實(shí)現(xiàn)這個(gè)目標(biāo)，以及這種強(qiáng)大的超級(jí)人工智能究竟會(huì)是什么樣子。

首先，我們需要看看最有可能實(shí)現(xiàn)超級(jí)人工智能的潛在途徑。因?yàn)槿魏巍俺?jí)智能”主體所表現(xiàn)出的行為，都將表現(xiàn)出對(duì)途徑強(qiáng)烈的依賴性。

然后，我們將探索智能系統(tǒng)的必要屬性——以及我們?cè)谌祟悾ê推渌锓N）中經(jīng)?？吹降谌斯ぶ悄苤锌赡懿粫?huì)出現(xiàn)的不必要的元素。

在為思考人工智能系統(tǒng)做好這些準(zhǔn)備后，我們將著重思考為了成為超級(jí)人工智能，這些系統(tǒng)潛在的目標(biāo)是什么，并考慮如何將它們與我們?nèi)祟惖哪繕?biāo)進(jìn)行比較。

從目前的科技水平來看，想要構(gòu)建任何形式的一般智能機(jī)器，依舊是很大的挑戰(zhàn)。通過現(xiàn)在的人工智能技術(shù)來分析推斷，可能會(huì)對(duì)未來人工智能的發(fā)展，有著一點(diǎn)點(diǎn)不太大的指導(dǎo)作用。

如果你也對(duì)超級(jí)人工智能充滿了幻想，但又對(duì)這團(tuán)迷霧感到無所適從。那么這篇文章或許可以引導(dǎo)你構(gòu)建更加清晰的感覺，我們將暫時(shí)拋開基于現(xiàn)有人工智能科技中的局限性，對(duì)未來的超級(jí)人工智能進(jìn)行更加天馬行空的想象。

當(dāng)然，研發(fā)任何一種人工智能都是極其困難的——似乎比人類歷史上完成的任何事情都要困難，甚至光是理解什么是人工智能，就有很大的困難——更別提我們自己去構(gòu)建它了。

“自下而上”構(gòu)建“類腦”形態(tài)

生活中， 我們周身的事務(wù)往往是自上而下設(shè)計(jì)的，并且在系統(tǒng)的不同部分之間有一定的相互依賴性。設(shè)想建造一個(gè)房子，房子中，每一塊磚都擁有自己獨(dú)特的作用，并且也只起到那個(gè)作用。

然而，智能是一種自下而上的現(xiàn)象，它產(chǎn)生于系統(tǒng)各部分之間的相互作用 （股票市場是另一個(gè)自下而上類型現(xiàn)象的好例子）。

解釋或?qū)崿F(xiàn)自下而上的現(xiàn)象對(duì)于我們來說是一大難題。比如說，當(dāng)我們?cè)噲D理解秀麗隱桿線蟲的神經(jīng)系統(tǒng)是如何驅(qū)動(dòng)行為的——雖然線蟲只有302個(gè)神經(jīng)元，但由于這些神經(jīng)之間相互交錯(cuò)而變得無比復(fù)雜。

相似地，利用現(xiàn)有的科學(xué)技術(shù)自下而上，從而構(gòu)建實(shí)現(xiàn)一種超越人類能力的人工智能似乎是不可能的——但我們也并不是沒有一點(diǎn)希望。

與其從無到有地提出智能，我們還不如對(duì)大腦進(jìn)行逆向工程，并利用這種理解以不同的方式提高大腦的能力。

而現(xiàn)在，有一個(gè)懸而未決的大問題是，我們需要在多大的粒度上理解大腦，然后在人工系統(tǒng)中實(shí)現(xiàn)類似的能力。對(duì)大腦中用于編碼和聯(lián)想概念的過程的一般理解，是否足以實(shí)現(xiàn)一個(gè)行為類似的算法？ 或者我們是否需要理解大腦中無數(shù)的單獨(dú)回路才能找到大腦智力的真正根源？

神經(jīng)科學(xué)目前正致力于回答這些問題，這些問題的答案將幫助我們理解如何構(gòu)建一個(gè)能根據(jù)大腦原理運(yùn)行的人工智能。這些答案也將幫助我們理解任何人工智能的本質(zhì)——我們?cè)揭蕾嚧竽X結(jié)構(gòu)，人工智能就越與我們相似。

雖然“模擬人腦”似乎是人工智能發(fā)展的最有可能的途徑，但聰明的工程師仍有可能想出創(chuàng)造出智能的替代策略—— 當(dāng)然，目前我們很難評(píng)論這些策略的樣子（因?yàn)楝F(xiàn)有的算法距離理想的實(shí)現(xiàn)還很遙遠(yuǎn)）。

但是，上述兩者有一個(gè)共同的特點(diǎn)，就是它們必須以自下而上的方式構(gòu)建，而并不是自上而下。

我們用了與大腦運(yùn)行原則不同的方法構(gòu)建了人工智能，這也就意味著人工智能擁有著許多與人類大腦截然不同的特性—— 它沒有生物動(dòng)力和活性，不能進(jìn)行自主的生存和繁殖，它不會(huì)像我們一樣感知周遭的世界， 甚至連外表看起來都不像我們。

然而，盡管這些都是顯著的不同，但它在很多方面與我們非常相似。似乎任何獲得智力的方法都需要依靠學(xué)習(xí)的原則，因?yàn)檫@是在需要效率的無數(shù)任務(wù)中確保靈活性和適應(yīng)性的唯一方法。

學(xué)習(xí)需要時(shí)間和經(jīng)驗(yàn)——因此我們開發(fā)的任何人工智能都不會(huì)立即解決世界問題或超越人類的極限。

而創(chuàng)建一個(gè)超人的人工智能，需要我們擁有一些初始結(jié)構(gòu)和更新迭代的算法，從而使人工智能具有更好的試錯(cuò)和自我學(xué)習(xí)，自我更新的能力。

最終，我們可能會(huì)非常了解智能，以至于我們可以直接向AI灌輸特定的知識(shí)，但這種能力遠(yuǎn)比為AI構(gòu)建有效的初始狀態(tài)和更新算法困難得多。那這樣就變成了一種典型的自上而下的策略，也就是，我們?cè)噲D以高效的方式直接操縱智能系統(tǒng)的狀態(tài)。

AI的自我意識(shí)

我們還需要簡要考慮人工智能的意識(shí)。當(dāng)你想象這些人工智能需要具備什么樣的能力才能獲得超人智能時(shí)，你會(huì)覺得，應(yīng)該是更自然地賦予它們自我意識(shí)。

此外，超級(jí)人工智能還需要對(duì)自己所處的世界有一定程度的好奇心，以確保他們能循序漸進(jìn)地體驗(yàn)，從而擴(kuò)大自己對(duì)這個(gè)世界的認(rèn)識(shí)。這種好奇心已經(jīng)在人類的進(jìn)化過程中根深蒂固——只要看看任何一個(gè)蹣跚學(xué)步的孩子與他們的世界的互動(dòng)就知道了。

如果沒有好奇心，人工智能可能就不會(huì)充分利用它的學(xué)習(xí)能力，它仍將是一個(gè)具有巨大學(xué)習(xí)潛力但知識(shí)有限的神器。另一個(gè)有時(shí)會(huì)被忽視的要求，是人工智能要理解人類的語言。

正如牛頓所說，“我們站在巨人的肩膀上”——如果我們想讓我們的人工智能超越我們的智能，我們需要他們站在同樣的肩膀上。指望人工智能自己能建立起占用人類數(shù)千年的知識(shí)，是根本不可能的，至少一開始是不可能的。

人工智能自我迭代的目標(biāo)

但是，這個(gè)超人類人工智能到底想要什么呢？ 它會(huì)尋求用它的智慧來實(shí)現(xiàn)什么樣的目標(biāo)呢？

在這個(gè)話題上，我們很容易就會(huì)像看待今天的機(jī)器一樣看待任何人工智能——用它們的智能去實(shí)現(xiàn)一個(gè)確切的最終目標(biāo)（或多個(gè)目標(biāo)）。

我們?nèi)祟愑幸恍┗镜哪繕?biāo)，比如吃、喝和性—— 但我們并不像其他動(dòng)物那樣，純粹地被這些欲望所驅(qū)使。我們的智力讓我們將這些原始的欲望融入到我們用來探索世界的過程中，這樣我們就從基于生物學(xué)的直接欲望中解放了出來。

通俗點(diǎn)講，我們知道什么時(shí)候餓了，也會(huì)注意到它，但是我們能夠采取相反的行動(dòng)（比如節(jié)食）。同樣，我們可以在這些相同的基礎(chǔ)驅(qū)動(dòng)器上編程到一個(gè)人工智能，但一個(gè)超級(jí)人工智能，將有更大的能力“跳出系統(tǒng)”并識(shí)別這些內(nèi)部驅(qū)動(dòng)器，使自己擺脫直接的影響。

例如，當(dāng)一個(gè)人工智能電池電量不足時(shí)，它可能會(huì)被設(shè)計(jì)成和我們一樣感到“饑餓感”。這將使尋找電能，成為AI的一個(gè)目標(biāo)。

我們更高層次的目標(biāo)呢？ 這些目標(biāo)顯得更加難以確定，從如何擁有財(cái)富，如何受人尊敬，如何避免對(duì)他人造成傷害，如何應(yīng)對(duì)沒有財(cái)產(chǎn)的情況等等，通過一種自下向上的結(jié)構(gòu)構(gòu)建與人類類似的大腦和思考模式，并且還要引入社會(huì)、文化、學(xué)術(shù)、宗教的影響等等。

這些目標(biāo)都是抽象的——它們存在于我們大腦中的表象概念中。從功能層面上理解一個(gè)人想要更多錢的原因，需要理解他們對(duì)錢的固有概念，他們與這個(gè)概念相關(guān)聯(lián)的東西，以及那些相關(guān)事物的概念等等。

這些更高層次的目標(biāo)將以同樣的方式出現(xiàn)在任何超級(jí)智能代理中，并且由于它們的抽象性質(zhì)而不能被直接編程 （這就要求你需要對(duì)相關(guān)概念的編碼有一個(gè)完整的理解，所有相關(guān)的概念等等）。

我們無法提前知道超人類智能想要什么，就好比，我們永遠(yuǎn)無法從嬰兒的大腦中確定成年他想要的一切?？偟膩碚f，復(fù)雜的目標(biāo)是超人類智能伴隨其經(jīng)歷而產(chǎn)生的一種自然屬性，隨著生活經(jīng)歷和情景的變化而變化，并不是天生的東西。

這種不確定性就意味著，當(dāng)我們?cè)谘芯砍祟惾斯ぶ悄艿臅r(shí)候，我們必須非常小心謹(jǐn)慎。

隨著人工智能的不斷成長，它的目標(biāo)會(huì)逐漸同樣隨著情景發(fā)生變化，并將不只是取決于程序員的擺布—— 事實(shí)上，他們會(huì)更多依賴于程序員的“培育”，而不是算法的規(guī)定。

總的來說，超人類人工智能的前景是令人興奮的—— 它為我們提供了一個(gè)擺脫局限于生物鏈末端的機(jī)會(huì)，進(jìn)行一次全新的，飛躍式的進(jìn)化。

然而，我們離接近這一目標(biāo)還有很長的路要走，在我們能夠利用自然選擇的原則來創(chuàng)造自己的創(chuàng)造物之前，還需要對(duì)大腦進(jìn)行更多的研究。

一旦我們有了必要的理解，這些智能系統(tǒng)仍然需要大量的時(shí)間來學(xué)習(xí)——由于解決方案的自下向上的本質(zhì)，我們所能做的就是設(shè)置系統(tǒng)的初始條件，然后進(jìn)行觀察和適當(dāng)條件下的指導(dǎo)。

我們不可能知道這些可愛的小東西們?cè)趯W(xué)習(xí)的過程中會(huì)有什么目標(biāo)——但是經(jīng)過精心培育，它們或許會(huì)與它們的創(chuàng)造者分享更多意想不到的東西。
責(zé)編AJX