AI反學(xué)習(xí)或?qū)⒔议_(kāi)人類(lèi)夢(mèng)境的奧秘

近日，多倫多大學(xué)的教員、谷歌大腦（Google Brain）研究員杰弗里·辛頓（Geoffrey Hinton）發(fā)表了爐邊談話。他討論了神經(jīng)網(wǎng)絡(luò)的起源，以及人工智能有朝一日可能像人類(lèi)一樣推理的可行性和意義。

辛頓被一些人稱(chēng)為“人工智能教父”，他在過(guò)去30年里一直致力于解決人工智能面臨的一些最大挑戰(zhàn)。除了在機(jī)器學(xué)習(xí)方面的開(kāi)創(chuàng)性工作以外，他還撰寫(xiě)以及與他人合作撰寫(xiě)了200多篇經(jīng)過(guò)同行評(píng)議的論文，其中包括1986年發(fā)表的一篇關(guān)于機(jī)器學(xué)習(xí)技術(shù)（被稱(chēng)為反向傳播學(xué)習(xí)算法）的論文。

他普及了深度神經(jīng)網(wǎng)絡(luò)的概念，即包含上述功能的人工智能模型，它們被安排在相互連接的層中，傳輸“信號(hào)”并調(diào)整連接的突觸強(qiáng)度（權(quán)重）。通過(guò)這種方式，人工智能模型從輸入數(shù)據(jù)中提取特征，并學(xué)習(xí)做出預(yù)測(cè)。

辛頓坦言，創(chuàng)新的速度甚至讓他自己都感到驚訝?！霸?012年，我沒(méi)想到5年以后，我們就能夠使用相同的技術(shù)來(lái)在多種語(yǔ)言之間進(jìn)行翻譯?！?/p>

盡管如此，辛頓認(rèn)為目前的人工智能和機(jī)器學(xué)習(xí)方法都有其局限性。他指出，大多數(shù)的計(jì)算機(jī)視覺(jué)模型都沒(méi)有反饋機(jī)制，也就是說(shuō)，它們不會(huì)試圖從更高層級(jí)的表征重建數(shù)據(jù)。相反，它們?cè)噲D通過(guò)改變權(quán)重來(lái)有區(qū)別地學(xué)習(xí)特征?！八鼈儾](méi)有在每一層的特征探測(cè)器上檢查是否能夠重建下面的數(shù)據(jù)?！毙令D說(shuō)道。

他和同事們最近轉(zhuǎn)向人類(lèi)視覺(jué)皮層來(lái)尋找靈感。

辛頓說(shuō)，人類(lèi)的視覺(jué)采用了一種重建的方法來(lái)學(xué)習(xí)，事實(shí)證明，計(jì)算機(jī)視覺(jué)系統(tǒng)中的重建技術(shù)增強(qiáng)了它們對(duì)對(duì)抗攻擊的抵抗力。

“大腦科學(xué)家都同意這樣的觀點(diǎn)，如果你的大腦皮層有兩個(gè)區(qū)域處于感知通路中，并且相互連接，那么總有一個(gè)反向通路。”辛頓表示。

需要說(shuō)明的是，辛頓認(rèn)為，神經(jīng)科學(xué)家需要向人工智能研究人員學(xué)習(xí)很多東西。事實(shí)上，他覺(jué)得未來(lái)的人工智能系統(tǒng)將主要是非監(jiān)督式的。他說(shuō)，非監(jiān)督式學(xué)習(xí)——機(jī)器學(xué)習(xí)的一個(gè)分支，從未標(biāo)記、無(wú)法歸類(lèi)和未分類(lèi)的測(cè)試數(shù)據(jù)中收集知識(shí)——在學(xué)習(xí)共性和對(duì)潛在的共性做出反應(yīng)的能力方面，幾乎就像人類(lèi)一般。

“如果你用一個(gè)有數(shù)十億個(gè)參量的系統(tǒng)，在某個(gè)目標(biāo)函數(shù)中實(shí)施梯度下降，它的效果會(huì)比你想象的好得多……規(guī)模越大，效果越好?！彼f(shuō)，“相比于讓大腦計(jì)算某個(gè)目標(biāo)函數(shù)的梯度，并根據(jù)梯度更新突觸的強(qiáng)度，這要更加合理。我們只需要弄清楚它是如何得到梯度的以及目標(biāo)函數(shù)是什么?！?/p>

這甚至可能會(huì)解開(kāi)夢(mèng)的奧秘。“為什么我們根本不記得我們的夢(mèng)呢？”辛頓反問(wèn)道。他認(rèn)為這可能與“反學(xué)習(xí)”有關(guān)。

辛頓說(shuō)，“做夢(mèng)的意義可能在于，你把整個(gè)學(xué)習(xí)過(guò)程顛倒過(guò)來(lái)。”

在他看來(lái)，這些知識(shí)可能會(huì)完全改變一些領(lǐng)域，比如教育。例如，他預(yù)計(jì)，未來(lái)的課程將更加個(gè)性化，有更強(qiáng)的針對(duì)性，將把人類(lèi)生物化學(xué)過(guò)程考慮進(jìn)來(lái)。

“你可能會(huì)認(rèn)為，如果我們真正了解大腦的運(yùn)轉(zhuǎn)機(jī)制，我們應(yīng)該能夠改善教育等方面的狀況，我認(rèn)為我們會(huì)做到的?！毙令D稱(chēng)，“如果你能最終了解大腦發(fā)生了什么，它是如何學(xué)習(xí)的，而不是沒(méi)有去進(jìn)行調(diào)整適應(yīng)，取得更好的學(xué)習(xí)效果，那會(huì)令人費(fèi)解。”

他警告說(shuō)，實(shí)現(xiàn)這一點(diǎn)尚需時(shí)日。就近期而言，辛頓設(shè)想了智能助手的未來(lái)——比如谷歌的Google Assistant或亞馬遜的Alexa——它們可以與用戶(hù)互動(dòng)，并在日常生活中給他們提供各種指導(dǎo)。

“未來(lái)幾年，我不確定我們能否從智能助手那里學(xué)到很多東西。但如果你仔細(xì)觀察，你會(huì)發(fā)現(xiàn)現(xiàn)在的智能助手相當(dāng)聰明，一旦它們真的能聽(tīng)懂對(duì)話，它們就能和孩子們交談，并對(duì)他們進(jìn)行教育?！毙令D總結(jié)道。