0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

DeepMind新推出的“生成查詢(xún)網(wǎng)絡(luò)”模仿了大腦的預(yù)測(cè)編碼機(jī)制

DPVg_AI_era ? 來(lái)源:未知 ? 作者:李倩 ? 2018-07-20 09:53 ? 次閱讀

預(yù)測(cè)編碼理論認(rèn)為,大腦的感知、運(yùn)動(dòng)控制、記憶及其他高級(jí)功能,取決于真實(shí)經(jīng)歷和大腦對(duì)未來(lái)的預(yù)測(cè)之間的差異。DeepMind新推出的“生成查詢(xún)網(wǎng)絡(luò)”模仿了大腦的預(yù)測(cè)編碼機(jī)制,明顯提升了預(yù)測(cè)系統(tǒng)的智能化水平。

上個(gè)月,人工智能公司DeepMind推出了一款新軟件,可以在虛擬房間內(nèi)拍攝一些物體的單個(gè)圖像,并且能夠在沒(méi)有真人指導(dǎo)的情況下,從全新的有利視角推斷出三維場(chǎng)景的樣貌。這一系統(tǒng)名為生成查詢(xún)網(wǎng)絡(luò)(GQN),它可以成功模擬簡(jiǎn)單的視頻游戲式迷宮的布局。

GQN有很典型的技術(shù)上的應(yīng)用,不過(guò)它同樣引發(fā)了神經(jīng)科學(xué)家的關(guān)注,他們對(duì)用于學(xué)習(xí)如何執(zhí)行任務(wù)的訓(xùn)練算法特別感興趣。GQN能夠由給定的圖像生成關(guān)于場(chǎng)景樣貌的預(yù)測(cè),比如定位目標(biāo)的位置,陰影在平面上的投射樣式,在某些視角下,哪些區(qū)域是應(yīng)該可見(jiàn)還是隱藏,并利用預(yù)測(cè)結(jié)果與真實(shí)觀察結(jié)果之間的差異,來(lái)提高其未來(lái)預(yù)測(cè)的準(zhǔn)確性?!罢乾F(xiàn)實(shí)與預(yù)測(cè)之間的差異,使得模型能夠不斷更新。”該項(xiàng)目負(fù)責(zé)人之一Ali Eslami說(shuō)。

Eslami在該研究上的合作者、也是他在DeepMind的同事Danilo Rezende表示,“算法會(huì)改變預(yù)測(cè)模型的參數(shù),所以下次遇到相同的情況時(shí),它就不會(huì)顯得那么驚訝了?!?/p>

長(zhǎng)期以來(lái),神經(jīng)科學(xué)家一直懷疑大腦的運(yùn)行方式也遵循與此類(lèi)似的機(jī)制。(這些推測(cè)確實(shí)是啟發(fā)GQN團(tuán)隊(duì)探尋這種方法的一部分原因。)根據(jù)這種“預(yù)測(cè)編碼”(predictive coding)理論,在認(rèn)知過(guò)程的每個(gè)層面,大腦都會(huì)產(chǎn)生一些關(guān)于應(yīng)該自其下面的層級(jí)接收到哪些信息的模型和觀點(diǎn)。這些觀點(diǎn)被轉(zhuǎn)化為關(guān)于在特定情況下的經(jīng)歷的預(yù)測(cè),提供令這些經(jīng)歷說(shuō)得通的最佳解釋。然后將預(yù)測(cè)結(jié)果作為反饋發(fā)送到大腦的較低級(jí)的感覺(jué)區(qū)域。大腦將自己的預(yù)測(cè)結(jié)果與收到的實(shí)際感官輸入內(nèi)容進(jìn)行比較,并“搪塞掉”任何差異或預(yù)測(cè)錯(cuò)誤,并可以通過(guò)使用其內(nèi)部模型來(lái)確定出現(xiàn)這種差異的可能的原因。(例如,我們可能根據(jù)某個(gè)內(nèi)部模型將一張桌子視為一個(gè)由四條腿支撐的平面,但即使桌子被其他東西遮住了一半,我們?nèi)匀豢梢哉J(rèn)得出這是一張桌子。)

對(duì)于給定的一張色塊樣式的二維圖像(左),GQN人工智能能夠推斷出色塊在空間中的三維排列(右)。該系統(tǒng)依賴(lài)于作為預(yù)測(cè)編碼的神經(jīng)科學(xué)理論的一些基本見(jiàn)解。圖/DeepMind

無(wú)法解釋的預(yù)測(cè)誤差會(huì)通過(guò)更高級(jí)別的連接(作為“前饋”信號(hào),而不是反饋)傳遞,這里,預(yù)測(cè)誤差被認(rèn)為是值得注意的現(xiàn)象,系統(tǒng)需要注意并做出相應(yīng)處理。倫敦大學(xué)學(xué)院的Karl Friston說(shuō):“現(xiàn)在的關(guān)注點(diǎn)在于內(nèi)部模型的調(diào)節(jié),關(guān)注大腦動(dòng)力學(xué),來(lái)抑制預(yù)測(cè)中的錯(cuò)誤?!?Friston是著名神經(jīng)科學(xué)家,也是預(yù)測(cè)編碼假設(shè)的先驅(qū)之一。

在過(guò)去的十年中,認(rèn)知科學(xué)家、哲學(xué)家和心理學(xué)家將預(yù)測(cè)編碼作為一個(gè)令人信服的想法,尤其是用于描述感知的運(yùn)行機(jī)制,而且將其作為一個(gè)關(guān)于整個(gè)大腦運(yùn)行機(jī)制的更具雄心、包羅萬(wàn)象的理論。直到最近才有實(shí)驗(yàn)工具開(kāi)始直接測(cè)試這一假設(shè)的具體機(jī)制,過(guò)去兩年內(nèi)發(fā)表的一些論文為該理論提供了驚人的證據(jù)。盡管如此,該理論仍然存在爭(zhēng)議,最近,關(guān)于一些具有里程碑意義的實(shí)驗(yàn)結(jié)果是否可重復(fù)的爭(zhēng)論,可能該理論存在爭(zhēng)議的最好的證明。

咖啡、奶油與狗

“我喝咖啡喜歡加奶油和____。”這個(gè)句子用“糖”來(lái)填空似乎是很自然的。這也是加州大學(xué)圣迭戈分校的認(rèn)知科學(xué)家Marta Kutas和Steven Hillyard的本意,他們?cè)?980年進(jìn)行了一系列的實(shí)驗(yàn),他們?cè)趯?shí)驗(yàn)中將這句話逐詞放到大屏幕上給人看,并記錄下觀眾的大腦活動(dòng)。只不過(guò),出現(xiàn)的最后一個(gè)詞并不是“糖”,而是“狗”。整個(gè)句子變成了:“我喝咖啡喜歡加奶油和狗?!?/p>

研究人員注意到,當(dāng)研究對(duì)象看到“狗”這個(gè)出乎意料的詞時(shí),會(huì)出現(xiàn)更激烈的大腦反應(yīng),這些反應(yīng)的具體特點(diǎn)為“特定模式的電活動(dòng)”,稱(chēng)為“N400效應(yīng)”(N400 effect),在“狗”一詞出現(xiàn)大約400毫秒后達(dá)到峰值。但研究人員仍不清楚應(yīng)如何解釋這一現(xiàn)象。大腦作出反應(yīng),是因?yàn)檫@個(gè)詞的意思在本句背景下是不合常理的?還是因?yàn)榇竽X沒(méi)預(yù)料到這個(gè)詞的出現(xiàn),它違背了大腦對(duì)預(yù)期出現(xiàn)內(nèi)容的預(yù)測(cè)?

2005年,Kutas和她的團(tuán)隊(duì)進(jìn)行了另一項(xiàng)研究,表明后一種假設(shè)是對(duì)的。實(shí)驗(yàn)對(duì)象再次要求讀屏幕上逐詞出現(xiàn)的一句話:“這天微風(fēng)陣陣,所以男孩子們出去放_(tái)___?!币?yàn)椤帮L(fēng)箏”(a kite)似乎是最有可能用來(lái)補(bǔ)完句子的詞,所以接下來(lái)實(shí)驗(yàn)對(duì)象的期望是冠詞“a”,它沒(méi)有內(nèi)在意義,但表示接下來(lái)還會(huì)有一個(gè)詞。而當(dāng)參與者看到接下來(lái)的詞是“an”時(shí),他們就經(jīng)歷了N400效應(yīng),這似乎是因?yàn)榇竽X必須處理其期望與現(xiàn)實(shí)之間的不符。顯然,這一效應(yīng)與該詞的含義以及處理出現(xiàn)的刺激本身的困難程度無(wú)關(guān)。

2005年的這一發(fā)現(xiàn)似乎非常適合預(yù)測(cè)編碼框架理論。但今年4月,eLife發(fā)表的一篇論文稱(chēng),有幾個(gè)實(shí)驗(yàn)室無(wú)法重復(fù)這一實(shí)驗(yàn)結(jié)果?,F(xiàn)在,也有研究人員開(kāi)始做出回應(yīng),一些人聲稱(chēng)重復(fù)實(shí)驗(yàn)的微妙結(jié)果仍然有利于基于預(yù)測(cè)的解釋。

這種搖擺不定反映出關(guān)于預(yù)測(cè)編碼理論的大部分爭(zhēng)論。像Kusta這樣的實(shí)驗(yàn)可以有許多種解釋。比如可以通過(guò)除預(yù)測(cè)編碼之外的模型來(lái)解釋?zhuān)⑶疫@些實(shí)驗(yàn)缺乏足以證明假設(shè)的確實(shí)證據(jù),因?yàn)樗鼈儧](méi)有深入研究實(shí)際的機(jī)制。雖然大腦會(huì)不斷做出推論(并將這些推論與現(xiàn)實(shí)進(jìn)行比較)的想法已構(gòu)建得相當(dāng)完善,但預(yù)測(cè)編碼的支持者一直在設(shè)法證明,他們所主張的理論才是正確的,而且可以延伸到所有的認(rèn)知領(lǐng)域。

貝葉斯大腦與高效計(jì)算

大腦一直建立和評(píng)估自己對(duì)持續(xù)的實(shí)際經(jīng)歷的預(yù)測(cè),這一基本觀點(diǎn)并不總是被視為理所當(dāng)然的。20世紀(jì)的主流神經(jīng)科學(xué)觀點(diǎn)將大腦的功能描述為一個(gè)特征探測(cè)器:大腦記錄刺激的存在,對(duì)其加以處理,然后發(fā)送信號(hào)來(lái)產(chǎn)生行為反應(yīng)。通過(guò)特定細(xì)胞的活動(dòng)來(lái)反映真實(shí)世界中刺激是否存在。例如,視覺(jué)皮層中的一些神經(jīng)元會(huì)對(duì)視野中物體的邊緣作出反應(yīng),還有的神經(jīng)元的放電則會(huì)指示物體的方向、著色或陰影。

但事實(shí)證明,這個(gè)過(guò)程遠(yuǎn)非看上去那么簡(jiǎn)單。進(jìn)一步的試驗(yàn)發(fā)現(xiàn),比如,當(dāng)大腦感知到一條越來(lái)越長(zhǎng)的線時(shí),即使線沒(méi)有消失,針對(duì)線的探測(cè)神經(jīng)元也會(huì)停止放電。事實(shí)上,有如此多的信息似乎通過(guò)神秘的自上而下的反饋連接來(lái)傳遞的,這表明實(shí)際上還有其他機(jī)制在發(fā)揮作用。

“如果大腦是一個(gè)推理機(jī)器、一個(gè)統(tǒng)計(jì)機(jī)構(gòu),那么,大腦也會(huì)犯下和統(tǒng)計(jì)學(xué)家同樣的錯(cuò)誤?!?/p>

倫敦大學(xué)學(xué)院 Karl Friston

這就是“貝葉斯大腦”(Bayesian brain)發(fā)揮作用的地方了,其總體框架可追溯到19世紀(jì)60年代。該理論提出,大腦會(huì)基于內(nèi)部模型對(duì)現(xiàn)實(shí)世界進(jìn)行概率性推斷,主要是計(jì)算關(guān)于如何解釋其感知的“最佳猜測(cè)”(這個(gè)說(shuō)法符合貝葉斯統(tǒng)計(jì)規(guī)則,該規(guī)則對(duì)基于先驗(yàn)信息得出的事件概率進(jìn)行了量化)。大腦并不是等待感官信息來(lái)推動(dòng)認(rèn)知,而是始終積極地構(gòu)建關(guān)于世界運(yùn)行方式的假設(shè),并用這些假設(shè)來(lái)解釋經(jīng)驗(yàn)并填補(bǔ)缺失的數(shù)據(jù)。根據(jù)一些專(zhuān)家的說(shuō)法,這就是為什么我們可能會(huì)認(rèn)為感知是一種“受控制的幻覺(jué)”。

沿著這個(gè)理論,貝葉斯大腦也解釋了為什么視幻覺(jué)會(huì)起作用:例如,兩個(gè)點(diǎn)在屏幕上快速交替閃爍,看起來(lái)就像一個(gè)點(diǎn)來(lái)回移動(dòng),所以我們的大腦無(wú)意識(shí)地開(kāi)始像對(duì)待一個(gè)目標(biāo)一樣對(duì)待它們。理解對(duì)象如何移動(dòng)是一種更高層次的知識(shí),但它從根本上影響了我們的感知方式。大腦只是填補(bǔ)某些信息的空白,來(lái)繪制一幅不完全準(zhǔn)確的圖片。在本例中,就是關(guān)于運(yùn)動(dòng)的信息,

圖示為一個(gè)著名的視幻覺(jué),棋盤(pán)上的格子A看上去比格子B暗得多。但是,其實(shí)二者的灰度是完全相同的。大腦會(huì)根據(jù)附近格子的顏色和圓柱體投下的陰影位置,對(duì)棋盤(pán)的顏色做出推測(cè)。在本例中,這種推測(cè)會(huì)產(chǎn)生格子A和B的顏色不同的觀點(diǎn),而實(shí)際上,二者的顏色是完全相同的。(參考右圖,將A和B連在一起即可,若將圓柱體隱藏,看上去還會(huì)更明顯。)

但是,盡管生成模型和期望在大腦功能中發(fā)揮了明確的作用,科學(xué)家還沒(méi)有確切地確定這些機(jī)制在神經(jīng)回路級(jí)別上是如何發(fā)揮作用的。蘇格蘭愛(ài)丁堡大學(xué)的心理哲學(xué)教授Mark Sprevak說(shuō):“貝葉斯大腦理論對(duì)于根本性的機(jī)制是相對(duì)不可知的。”

輸入預(yù)測(cè)編碼理論提供了大腦如何成為“貝葉斯大腦”的特定公式。“預(yù)測(cè)編碼”這個(gè)名字源于一種更有效地傳輸電信信號(hào)的技術(shù):由于視頻文件從當(dāng)前幀到下一幀的過(guò)程中包含大量冗余,因此在壓縮數(shù)據(jù)時(shí),對(duì)每個(gè)圖像中的每個(gè)像素進(jìn)行編碼是效率低下的。反之,對(duì)相鄰幀之間的差異進(jìn)行編碼,然后進(jìn)行反向處理來(lái)解釋整個(gè)視頻,這樣就更合理。

1982年,科學(xué)家發(fā)現(xiàn)這一理念在神經(jīng)科學(xué)中有一個(gè)很好的應(yīng)用,因?yàn)樗坪蹩梢越忉屢暰W(wǎng)膜中的神經(jīng)元如何編碼關(guān)于視覺(jué)刺激的信息,并將這些信息沿著視神經(jīng)進(jìn)行傳播。該理論也被作為解釋大腦獎(jiǎng)勵(lì)系統(tǒng)運(yùn)作方式的原理:即多巴胺神經(jīng)元會(huì)對(duì)預(yù)期獎(jiǎng)勵(lì)與實(shí)際獎(jiǎng)勵(lì)之間的不匹配度進(jìn)行編碼。研究人員表示,這些預(yù)測(cè)錯(cuò)誤可以幫助動(dòng)物對(duì)未來(lái)期望進(jìn)行修正,并推動(dòng)其決策過(guò)程。

盡管如此,科學(xué)家們大多仍將預(yù)測(cè)編碼視為特定網(wǎng)絡(luò)的特定過(guò)程。不過(guò),功能磁共振成像測(cè)試和其他類(lèi)型的實(shí)驗(yàn)已經(jīng)開(kāi)始改變這一觀點(diǎn)。

通用框架

預(yù)測(cè)編碼假設(shè)如此引人注目,部分原因在于它具備令人難以置信的解釋力?!拔矣X(jué)得令人信服的是,在這個(gè)理論框架中,有不少事情都得到了解釋?zhuān)睈?ài)丁堡大學(xué)邏輯和形而上學(xué)教授兼理論專(zhuān)家Andy Clark說(shuō)。

首先,該框架在單一計(jì)算過(guò)程中統(tǒng)一了感知和運(yùn)動(dòng)控制。這兩者基本上相當(dāng)于同一枚硬幣的兩面:無(wú)論是感知還是運(yùn)動(dòng)控制,大腦都以不同的方式將預(yù)測(cè)誤差降到了最低。對(duì)于感知來(lái)說(shuō),就是校正了內(nèi)部模型。對(duì)于運(yùn)動(dòng)控制來(lái)說(shuō),就是實(shí)際的環(huán)境。(對(duì)于后者,可以想象一下,比如你現(xiàn)在想要舉手,如果這時(shí)你的手還沒(méi)有舉起來(lái),那么這種差異就會(huì)產(chǎn)生很大的預(yù)測(cè)錯(cuò)誤。而你只要把手移動(dòng)一下,就把預(yù)測(cè)錯(cuò)誤降到了最低。)

迄今為止,在感知和運(yùn)動(dòng)控制方面的實(shí)驗(yàn)為預(yù)測(cè)編碼理論提供了最有力的證據(jù)。例如,在上個(gè)月出版的《神經(jīng)科學(xué)期刊》上發(fā)表的一篇論文中,實(shí)驗(yàn)者讓受試者在屏幕上讀“kick”這個(gè)詞,然后再讓他們聽(tīng)失真的錄音朗讀“pick”。許多人將后者聽(tīng)成了“kick”,功能性核磁共振掃描顯示,大腦對(duì)最初的“k”或“p”音表現(xiàn)出最強(qiáng)烈的反應(yīng) ,而這是與預(yù)測(cè)錯(cuò)誤相關(guān)的音。如果大腦只是表現(xiàn)出其感知體驗(yàn),那么最強(qiáng)的信號(hào)應(yīng)該與“ick”相對(duì)應(yīng)(因?yàn)樗谄聊簧虾?a target="_blank">音頻中都有出現(xiàn))。

不過(guò),有很多人在努力擴(kuò)大預(yù)測(cè)編碼的應(yīng)用范圍,將其擴(kuò)展至感知和動(dòng)作領(lǐng)域之外,視為大腦中正在發(fā)生的一切的統(tǒng)一衡量標(biāo)準(zhǔn)。“這就像擁有可以構(gòu)建不同策略的構(gòu)建模塊一樣,”Clark說(shuō)。不同的大腦區(qū)域只是對(duì)不同類(lèi)型的預(yù)測(cè)進(jìn)行交易。

Friston等人聲稱(chēng),這個(gè)理論也適用于更高級(jí)的認(rèn)知過(guò)程,包括注意力和決策。最近關(guān)于前額皮質(zhì)的計(jì)算工作表明,工作記憶和目標(biāo)導(dǎo)向行為中也存在預(yù)測(cè)編碼機(jī)制。一些研究人員推測(cè),情感和情緒也可以用預(yù)測(cè)編碼的術(shù)語(yǔ)來(lái)表達(dá):情緒可能是大腦所表現(xiàn)出的用以實(shí)現(xiàn)內(nèi)部信號(hào)(如體溫,心率或血壓)的預(yù)測(cè)誤差最小化的狀態(tài)。比如,如果大腦認(rèn)識(shí)到自身的情緒激動(dòng),那么也就知道了所有這些因素都在上升。也許這也就是“自我”的概念得以出現(xiàn)的原因。

幾十年來(lái),倫敦大學(xué)學(xué)院的神經(jīng)科學(xué)家Karl Friston一直在完善預(yù)測(cè)編碼假設(shè)的關(guān)鍵原則。他認(rèn)為,理論不僅可以解釋感知,還可以解釋更高層次的認(rèn)知過(guò)程。

以這種思路取得的大部分成果都集中在預(yù)測(cè)編碼對(duì)神經(jīng)精神系統(tǒng)和發(fā)育障礙的解釋上。Friston說(shuō):“我認(rèn)為,如果大腦是一臺(tái)推理機(jī)器,一個(gè)統(tǒng)計(jì)機(jī)構(gòu)的話,那么它就會(huì)犯下和統(tǒng)計(jì)學(xué)家們相同的錯(cuò)誤?!币簿褪钦f(shuō),大腦也可能會(huì)因?yàn)檫^(guò)于重視或過(guò)于輕視預(yù)測(cè)和預(yù)測(cè)錯(cuò)誤,導(dǎo)致得出錯(cuò)誤的推論。

比如自閉癥的特征可能就是,無(wú)法忽略與大腦的最低處理層級(jí)上的感覺(jué)信號(hào)相關(guān)的預(yù)測(cè)誤差。這可能導(dǎo)致對(duì)感覺(jué)的關(guān)注,對(duì)重復(fù)和可預(yù)測(cè)性的需求,對(duì)某些幻想的敏感以及其他諸多影響。而對(duì)于與精神分裂癥等幻覺(jué)相關(guān)的疾病來(lái)說(shuō),情況可能正好相反:大腦可能會(huì)過(guò)多關(guān)注自身對(duì)正在發(fā)生的事情的預(yù)測(cè),而對(duì)與這些預(yù)測(cè)相矛盾的感官信息關(guān)注不足。(專(zhuān)家們很快就要提醒你,自閉癥和精神分裂癥太復(fù)雜了,不能簡(jiǎn)化為一種解釋或機(jī)制。)

耶魯大學(xué)醫(yī)學(xué)院的臨床神經(jīng)科學(xué)家Philip Corlett說(shuō):“其中最重要的部分是向我們展示了我們的心理功能是多么脆弱?!?Corlett實(shí)驗(yàn)室的實(shí)驗(yàn)在健康受試者中建立了新的“信念”,鼓勵(lì)他們對(duì)之前經(jīng)歷的刺激產(chǎn)生幻覺(jué)。 (例如,在一項(xiàng)實(shí)驗(yàn)中,科學(xué)家們讓參與者將某個(gè)聲音與某個(gè)視覺(jué)圖像聯(lián)系起來(lái)。當(dāng)他們看到圖像時(shí),即使實(shí)際上根本沒(méi)有聲音,受試者也會(huì)繼續(xù)聽(tīng)到聲音。)研究人員正試圖解開(kāi)這些看法是如何轉(zhuǎn)化為感知的。通過(guò)這些研究,“我們認(rèn)為有證據(jù)表明感知和認(rèn)知并不是那么涇渭分明,”Corlett說(shuō)。 “新的看法可以通過(guò)教學(xué)獲得,可以改變你原來(lái)的看法。”

但當(dāng)時(shí)的證據(jù)還沒(méi)能證明他的結(jié)論,而現(xiàn)在可以了。

放大細(xì)節(jié) 仔細(xì)觀察

“實(shí)驗(yàn)結(jié)果經(jīng)常表明某個(gè)特定結(jié)果與預(yù)測(cè)處理理論兼容,但該理論并不是對(duì)結(jié)果的最佳解釋?zhuān)盨prevak說(shuō)。預(yù)測(cè)處理理論在認(rèn)知科學(xué)中被廣泛接受,但“在系統(tǒng)神經(jīng)科學(xué)領(lǐng)域,它仍然是個(gè)弱者?!比鹗扛ダ锏吕锵!み~瑟生物醫(yī)學(xué)研究所的神經(jīng)科學(xué)家Georg Keller說(shuō)。他的實(shí)驗(yàn)室正試圖用更確鑿的證據(jù)改變這一現(xiàn)狀。

弗里德里?!っ仔獱柹镝t(yī)學(xué)研究所的神經(jīng)科學(xué)家Georg Keller一直致力于揭示預(yù)測(cè)編碼假設(shè)的機(jī)制性證據(jù)。

在去年在《神經(jīng)元》期刊上發(fā)表的一項(xiàng)研究中,Keller和他的同事觀察到小鼠視覺(jué)系統(tǒng)中神經(jīng)元隨著時(shí)間的推移會(huì)變得具有預(yù)測(cè)性。這個(gè)發(fā)現(xiàn)始于一場(chǎng)意外,當(dāng)時(shí)他們?cè)谝曨l游戲中訓(xùn)練老鼠,卻發(fā)現(xiàn)在虛擬世界的方向已經(jīng)亂了。通常在實(shí)驗(yàn)時(shí), 老鼠左轉(zhuǎn)時(shí)的視野都會(huì)向右側(cè)移動(dòng),反之亦然。但有人無(wú)意中顛倒了研究人員在研究中使用的虛擬世界的方向,左和右翻轉(zhuǎn)過(guò)來(lái)了,因此小鼠左轉(zhuǎn)時(shí)的視野也向左移動(dòng)了。研究人員意識(shí)到他們可以利用這次事故。他們監(jiān)測(cè)了表現(xiàn)出這種視覺(jué)流動(dòng)的大腦信號(hào),結(jié)果發(fā)現(xiàn)隨著小鼠學(xué)習(xí)倒置環(huán)境的規(guī)則,大腦信號(hào)也慢慢出現(xiàn)了變化。Keller說(shuō):“這些信號(hào)看起來(lái)像是對(duì)向左方向視覺(jué)流的預(yù)測(cè)?!?/p>

如果信號(hào)只是小鼠視覺(jué)體驗(yàn)的感官表現(xiàn),那么這些信號(hào)就會(huì)立即在虛擬世界中出現(xiàn)翻轉(zhuǎn)。而如果是運(yùn)動(dòng)信號(hào),則根本不會(huì)翻轉(zhuǎn)?!皩?shí)際上是識(shí)別預(yù)測(cè),” Keller說(shuō)。 “是對(duì)給定運(yùn)動(dòng)下視覺(jué)流的預(yù)測(cè)?!?/p>

“這項(xiàng)研究提供了一種以前未發(fā)現(xiàn)的證據(jù),”克拉克說(shuō)。 “這是一個(gè)非常局部的,逐單元、逐層的演示,說(shuō)明預(yù)測(cè)編碼模型是目前最合適的模型?!?/p>

“在該系統(tǒng)中發(fā)現(xiàn)預(yù)測(cè)錯(cuò)誤,并找到預(yù)測(cè)的具體內(nèi)容是很令人興奮的,”該論文的第一作者、德國(guó)哥廷根歐洲神經(jīng)科學(xué)研究所的神經(jīng)科學(xué)家Caspar Schwiedrzik說(shuō)。

德國(guó)馬普經(jīng)驗(yàn)美學(xué)研究所的研究員Lucia Melloni表示,她的團(tuán)隊(duì)逐步發(fā)現(xiàn),這類(lèi)實(shí)驗(yàn)結(jié)果與目前從人類(lèi)收集的神經(jīng)元數(shù)據(jù)中的預(yù)測(cè)誤差的解釋一致。

尋找更多預(yù)測(cè)機(jī)器的競(jìng)賽

不是每個(gè)人都認(rèn)為大腦預(yù)測(cè)編碼的理論正越來(lái)越強(qiáng)大。一些科學(xué)家同意這個(gè)理論可以解釋認(rèn)知的某些方面,但不同意用它來(lái)解釋一切想法。也有人甚至連前者都不同意。對(duì)于紐約大學(xué)心理學(xué)教授David Heeger來(lái)說(shuō),重要的是要區(qū)分“預(yù)測(cè)編碼”和“預(yù)測(cè)處理”,他認(rèn)為前者關(guān)乎信息傳輸?shù)男?,他將后者定義為隨時(shí)間的推移而做出的預(yù)測(cè)。他說(shuō):“目前的文獻(xiàn)中存在很多混淆之處,因?yàn)檫@些東西都被認(rèn)為是同一種湯的一部分。其實(shí)并不一定如此,現(xiàn)在的方式也不一定是最佳研究方式。”比如,其他類(lèi)型的貝葉斯模型可能在某些情況下可以提供更準(zhǔn)確的大腦功能描述。

然而,該領(lǐng)域的許多專(zhuān)家都認(rèn)為,這項(xiàng)研究有可能激發(fā)機(jī)器學(xué)習(xí)的應(yīng)用。目前,絕大多數(shù)人工智能研究都不涉及預(yù)測(cè)編碼,而是關(guān)注其他類(lèi)型的算法。

但弗里斯頓認(rèn)為,在深度學(xué)習(xí)環(huán)境中制定預(yù)測(cè)編碼架構(gòu)可以使機(jī)器更接近智能。

DeepMind的GQN就是發(fā)揮這種潛力的一個(gè)很好的例子。去年,蘇塞克斯大學(xué)的研究人員甚至使用虛擬現(xiàn)實(shí)和人工智能技術(shù)(其中包括預(yù)測(cè)編碼特征),打造了一臺(tái)所謂的“幻覺(jué)機(jī)器”,這種工具能夠模仿通常由迷幻藥物導(dǎo)致的幻覺(jué)狀態(tài)。

通過(guò)比較預(yù)測(cè)編碼模型與其他技術(shù)的表現(xiàn),機(jī)器學(xué)習(xí)的進(jìn)步可用于提供關(guān)于大腦中發(fā)生的事情的新見(jiàn)解。至少,將預(yù)測(cè)編碼引入人工智能系統(tǒng)可以明顯提高這些機(jī)器的智能水平。

但在此之前,我們還有很多工作要做??茖W(xué)家需要繼續(xù)進(jìn)行像Keller、Schwiedrzik等人正在進(jìn)行的研究,格拉斯哥大學(xué)的神經(jīng)生理學(xué)家Lars Muckli表示,預(yù)測(cè)性編碼“對(duì)于神經(jīng)科學(xué)來(lái)說(shuō)就像是進(jìn)化對(duì)生物學(xué)一樣重要”,他對(duì)完善該理論做了大量工作。但就目前而言,Sprevak指出,“現(xiàn)有證據(jù)仍然不足以讓我們下定論?!?/p>

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 編碼
    +關(guān)注

    關(guān)注

    6

    文章

    933

    瀏覽量

    54733
  • 人工智能
    +關(guān)注

    關(guān)注

    1791

    文章

    46698

    瀏覽量

    237195

原文標(biāo)題:DeepMind用深度學(xué)習(xí)模仿大腦推理,預(yù)測(cè)編碼智能推進(jìn)一大步!

文章出處:【微信號(hào):AI_era,微信公眾號(hào):新智元】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    嵌入式處理器動(dòng)態(tài)分支預(yù)測(cè)機(jī)制研究與設(shè)計(jì)

    嵌入式處理器動(dòng)態(tài)分支預(yù)測(cè)機(jī)制研究與設(shè)計(jì)針對(duì)嵌入式處理器的特定應(yīng)用環(huán)境,通過(guò)對(duì)傳統(tǒng)神經(jīng)網(wǎng)絡(luò)算法的改進(jìn),結(jié)合定制的分支目標(biāo)緩沖,提出一種復(fù)合式動(dòng)態(tài)分支預(yù)測(cè)
    發(fā)表于 10-06 09:53

    人類(lèi)首創(chuàng)能生成神經(jīng)細(xì)胞的“迷你大腦”,更精確模擬神經(jīng)網(wǎng)絡(luò)!

    `近日,凱斯西儲(chǔ)大學(xué)醫(yī)學(xué)院、紐約干細(xì)胞基金會(huì)(NYSCF)研究所和喬治華盛頓大學(xué)的研究人員聯(lián)合提出了一種新方法,通過(guò)人類(lèi)胚胎干細(xì)胞培育生成3D版的“迷你大腦”。這些“迷你大腦”名為“大腦
    發(fā)表于 08-21 09:26

    未來(lái)的AI 深挖谷歌 DeepMind 和它背后的技術(shù)

    的想法,明智的做法是查詢(xún)最佳的音高板,創(chuàng)建一個(gè)高度專(zhuān)業(yè)且有效的演示文稿。通用學(xué)習(xí)算法DeepMind在通用學(xué)習(xí)算法方面非常有趣,它不僅可以改善這一領(lǐng)域,還將幫助人們更好地理解人類(lèi)大腦。 該公司已經(jīng)開(kāi)始
    發(fā)表于 08-26 12:04

    神經(jīng)形態(tài)芯片越來(lái)越多地模擬大腦可塑性

    他們的設(shè)計(jì)靈感來(lái)自大腦的內(nèi)存計(jì)算。人工神經(jīng)網(wǎng)絡(luò)的一個(gè)例子是英特爾芯片 Loihi 1和 Loihi 2。Loihi 1和 Loihi 2以及相關(guān)的 LAVA API 為信息編碼和處理提供
    發(fā)表于 04-16 15:01

    BP神經(jīng)網(wǎng)絡(luò)的電路最優(yōu)測(cè)試集的生成設(shè)計(jì)

    BP神經(jīng)網(wǎng)絡(luò)的電路最優(yōu)測(cè)試集的生成設(shè)計(jì) 1 引言   人工神經(jīng)網(wǎng)絡(luò)是基于模仿生物大腦的結(jié)構(gòu)和功能而構(gòu)成的一種信息處理系統(tǒng)。國(guó)際著名 的
    發(fā)表于 02-02 10:35 ?1270次閱讀
    BP神經(jīng)<b class='flag-5'>網(wǎng)絡(luò)</b>的電路最優(yōu)測(cè)試集的<b class='flag-5'>生成</b>設(shè)計(jì)

    網(wǎng)絡(luò)編碼的無(wú)線網(wǎng)絡(luò)分布式協(xié)作通信機(jī)制

    本文提出了一種基于無(wú)線網(wǎng)絡(luò)編碼的協(xié)作通信機(jī)制NCCC.無(wú)線網(wǎng)絡(luò)編碼能夠在取得合作分集的性能增益的同時(shí),降低
    發(fā)表于 03-20 17:10 ?26次下載

    漢字編碼查詢(xún)工具

    漢字編碼查詢(xún)工具
    發(fā)表于 03-05 14:21 ?3次下載

    基于深度自編碼網(wǎng)絡(luò)的安全態(tài)勢(shì)要素獲取機(jī)制

    針對(duì)大規(guī)模網(wǎng)絡(luò)態(tài)勢(shì)要素獲取時(shí)間復(fù)雜度較高和攻擊樣本不平衡導(dǎo)致小類(lèi)樣本分類(lèi)精度不高的問(wèn)題,提出一種基于深度自編碼網(wǎng)絡(luò)的態(tài)勢(shì)要素獲取機(jī)制。在該機(jī)制
    發(fā)表于 12-05 16:27 ?0次下載
    基于深度自<b class='flag-5'>編碼</b><b class='flag-5'>網(wǎng)絡(luò)</b>的安全態(tài)勢(shì)要素獲取<b class='flag-5'>機(jī)制</b>

    基于循環(huán)神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)庫(kù)查詢(xún)開(kāi)銷(xiāo)預(yù)測(cè)

    查詢(xún)信息,而很少利用查詢(xún)計(jì)劃中操作層面的信息,并依據(jù)這些信息來(lái)獲得開(kāi)銷(xiāo)模型,另外,現(xiàn)有的研究大多沒(méi)有真正預(yù)測(cè)查詢(xún)的執(zhí)行時(shí)間。而是預(yù)測(cè)
    發(fā)表于 12-18 15:45 ?1次下載
    基于循環(huán)神經(jīng)<b class='flag-5'>網(wǎng)絡(luò)</b>的數(shù)據(jù)庫(kù)<b class='flag-5'>查詢(xún)</b>開(kāi)銷(xiāo)<b class='flag-5'>預(yù)測(cè)</b>

    鏈路預(yù)測(cè)網(wǎng)絡(luò)編碼的MAC機(jī)制

    提出了基于鏈路預(yù)測(cè)網(wǎng)絡(luò)編碼的MAC協(xié)議,在EasiLQE的基礎(chǔ)上給出了基于窗口自適應(yīng)的改進(jìn)EF濾波器的鏈路質(zhì)量預(yù)測(cè)方法,采用自適應(yīng)周期的主動(dòng)探測(cè),增加
    發(fā)表于 02-26 10:07 ?0次下載

    如何使用注意力機(jī)制進(jìn)行行人軌跡預(yù)測(cè)生成模型的詳細(xì)資料說(shuō)明

    針對(duì)長(zhǎng) 短期記憶網(wǎng)絡(luò)(LSTM) 在行人軌跡預(yù)測(cè)問(wèn)題中孤立考慮單個(gè)行人,且無(wú)法進(jìn)行多種可能性預(yù)測(cè)的問(wèn)題,提出基于注意力機(jī)制的行人軌跡預(yù)測(cè)
    發(fā)表于 04-04 14:06 ?14次下載
    如何使用注意力<b class='flag-5'>機(jī)制</b>進(jìn)行行人軌跡<b class='flag-5'>預(yù)測(cè)</b><b class='flag-5'>生成</b>模型的詳細(xì)資料說(shuō)明

    用于代碼注釋生成的語(yǔ)法輔助機(jī)制設(shè)計(jì)

    現(xiàn)有代碼注釋生成方法的復(fù)制機(jī)制未考慮源代碼復(fù)雜多變的語(yǔ)法結(jié)構(gòu),導(dǎo)致存在準(zhǔn)確率和魯棒性不高等問(wèn)題。通過(guò)改進(jìn)指針網(wǎng)絡(luò)使其支持結(jié)構(gòu)化數(shù)據(jù)輸入,提出一種語(yǔ)法輔助復(fù)制機(jī)制,以用于代碼注釋自動(dòng)
    發(fā)表于 04-27 11:23 ?19次下載
    用于代碼注釋<b class='flag-5'>生成</b>的語(yǔ)法輔助<b class='flag-5'>機(jī)制</b>設(shè)計(jì)

    基于注意力機(jī)制等的社交網(wǎng)絡(luò)熱度預(yù)測(cè)模型

    基于注意力機(jī)制等的社交網(wǎng)絡(luò)熱度預(yù)測(cè)模型
    發(fā)表于 06-07 15:12 ?14次下載

    英特爾新的 Loihi 神經(jīng)形態(tài)芯片模仿活體大腦

    英特爾新的 Loihi 芯片的設(shè)計(jì)方式模仿活體動(dòng)物的大腦功能。新的人工大腦內(nèi)的通信是通過(guò)一系列“尖峰”而不是大多數(shù)計(jì)算機(jī)芯片采用的更連續(xù)的方式進(jìn)行的,即使是那些專(zhuān)門(mén)為人工智能設(shè)計(jì)的。
    發(fā)表于 08-10 16:17 ?1198次閱讀

    DeepMind最新推出新一代蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)工具,已用于藥物設(shè)計(jì)

    翻譯后修飾等方面生成高度精確的結(jié)構(gòu)預(yù)測(cè)。且 Isomorphic Labs 公司已經(jīng)將該系統(tǒng)用于藥物發(fā)現(xiàn)工作。
    的頭像 發(fā)表于 11-03 15:39 ?792次閱讀