DeepMind徹底解決人工智能災(zāi)難性遺忘問(wèn)題

9月1日消息，據(jù)外媒報(bào)道，暑假后你回到學(xué)校時(shí)，可能會(huì)覺(jué)得你已經(jīng)把上一年學(xué)到的知識(shí)都還給了老師。 但是，如果你像人工智能系統(tǒng)那樣學(xué)習(xí)知識(shí)，那么你在你每一年的第一天，你的大腦就真的會(huì)拿一個(gè)記憶的橡皮擦，把你之前學(xué)到的所有知識(shí)一點(diǎn)不留的擦掉——真真正正的從零開(kāi)始。而這正是人工智能算法一直以來(lái)的學(xué)習(xí)方法，它從來(lái)不會(huì)真正記住任何東西。

人工智能系統(tǒng)在設(shè)計(jì)上就傾向于在每次開(kāi)始新的學(xué)習(xí)之前，忘記先前學(xué)到的所有東西，這被稱為災(zāi)難性遺忘。

很明顯，這是一個(gè)大問(wèn)題。尖端的學(xué)習(xí)算法大多依賴給定答案的有監(jiān)督學(xué)習(xí)。 例如，面部識(shí)別AI系統(tǒng)將分析人臉的數(shù)千張照片，這些照片已經(jīng)手動(dòng)標(biāo)注好答案以便AI在視頻輸入中能檢測(cè)到人臉。 但是因?yàn)檫@些人工智能算法實(shí)際上并不“理解”他們所做的事情的基本邏輯，所以教導(dǎo)他們做其他任何事情，即使是非常相似的任務(wù)，都顯得非常困難。比如說(shuō)，讓人工智能去識(shí)別特定的情感，這意味著你要從頭開(kāi)始訓(xùn)練這套模型。 一旦算法被訓(xùn)練，它能做的事情就固定下來(lái)了，我們不能再訓(xùn)練它去做其他事情。

多年來(lái)，科學(xué)家們一直試圖弄清楚如何解決這個(gè)問(wèn)題。 如果他們成功，AI系統(tǒng)將能夠從一組新的訓(xùn)練數(shù)據(jù)中學(xué)習(xí)，而不會(huì)覆蓋他們?cè)诖诉^(guò)程中已經(jīng)學(xué)習(xí)到的內(nèi)容。 也就是說(shuō)，如果機(jī)器人真的有一天會(huì)崛起，我們的新“領(lǐng)主”將能夠在征服地球上的所有生命的同時(shí)吹泡泡糖——同時(shí)做兩件事。

但是，災(zāi)難性的遺忘仍然是阻礙科學(xué)家們研發(fā)出強(qiáng)人工智能（AGI）的主要障礙之一。強(qiáng)人工智能指具有人類級(jí)別的聰明甚至是情感，這包括我們?cè)陔娨暫碗娪爸锌吹降臒o(wú)所不能的，有同情心和想象力的人工智能。

事實(shí)上，上周在布拉格參加人類人工智能峰會(huì)的一些人工智能專家表示，災(zāi)難性遺忘的問(wèn)題是邁向強(qiáng)人工智能最大的障礙之一。而他們并不認(rèn)為近期內(nèi)會(huì)在這方面有所突破。

但谷歌DeepMind的高級(jí)研究科學(xué)家伊琳娜希金斯（Irina Higgins）在會(huì)議的演講上宣布她的團(tuán)隊(duì)已經(jīng)開(kāi)始破解災(zāi)難性遺忘的奧秘。

她開(kāi)發(fā)了一個(gè)AI代理人，這有點(diǎn)像一個(gè)由AI算法控制的電子游戲中的角色。它可以比典型機(jī)器學(xué)習(xí)算法更有創(chuàng)造性地思考。 通過(guò)在虛擬的環(huán)境中經(jīng)歷一些事情，它可以“想象”類似的事情在其他環(huán)境中會(huì)怎樣發(fā)生。 換句話說(shuō)，神經(jīng)網(wǎng)絡(luò)能夠從它所處的環(huán)境中抽象出關(guān)鍵物體和事件。

這與人類的想象力不同，我們可以完全想出一些從未見(jiàn)過(guò)的事物。比如，你可以在腦海中想象一只圓圓的、紅色的鳥(niǎo)鳥(niǎo)的樣子。 人工智能系統(tǒng)尚不如人類的大腦復(fù)雜，但它已經(jīng)可以想象已經(jīng)見(jiàn)過(guò)的事情在其他場(chǎng)景中發(fā)生的樣子。

希金斯在由GoodAI組織的會(huì)議上發(fā)言時(shí)說(shuō)道：“我們希望機(jī)器能夠在探索中學(xué)習(xí)安全常識(shí)，這樣它就不會(huì)對(duì)自身造成損害?！?。她早些時(shí)候在arXiv上發(fā)表了她的論文，并撰寫(xiě)了一篇相關(guān)的博客文章。

現(xiàn)在，希金斯的人工智能系統(tǒng)可以從五張同一物體的不同角度的照片中“理解”這個(gè)物體，理解物體與環(huán)境的關(guān)系，以及在從未給算法見(jiàn)過(guò)的其他角度下的樣子，或是在不同光線下的呈現(xiàn)的模樣。希金斯的論文重點(diǎn)介紹了如何訓(xùn)練算法來(lái)發(fā)現(xiàn)白色手提箱或扶手椅。 在訓(xùn)練之后，算法可以想象該對(duì)象在一個(gè)全新的虛擬世界中的外觀，并在遇到它時(shí)識(shí)別該對(duì)象。

希金斯說(shuō)：“我們呈現(xiàn)一個(gè)圖像給人工智能模型看物體在一個(gè)環(huán)境下的樣子，并要求模型想象這個(gè)物體在不同環(huán)境中會(huì)是什么樣子?！?與其他傳統(tǒng)AI系統(tǒng)相比，她的新算法在識(shí)別從未見(jiàn)過(guò)的物體方面表現(xiàn)優(yōu)異。

簡(jiǎn)而言之，該算法能夠記錄它遇到的內(nèi)容與過(guò)去看到的內(nèi)容之間的差異。 像大多數(shù)人一樣，但與大多數(shù)其他算法不同的是，希金斯為谷歌搭建的新系統(tǒng)可以理解它從沒(méi)有遇到的全新的對(duì)象。通過(guò)從一個(gè)新的角度看待對(duì)象， 它可以使用一些備用計(jì)算能力來(lái)從中提取新信息，更新它對(duì)世界的了解。而這一切無(wú)需重新學(xué)習(xí)，也無(wú)需遺忘先前的訓(xùn)練成果 。 換句話說(shuō)，這套系統(tǒng)能夠?qū)⑵洮F(xiàn)有知識(shí)轉(zhuǎn)移并應(yīng)用于新環(huán)境。

當(dāng)然，希金斯的模型本身不能把強(qiáng)人工智能變成現(xiàn)實(shí)。 但它標(biāo)志著人工智能算法邁出了重要的一步。從此人工智能算法可以不斷更新，在不丟失已有功能的情況下學(xué)習(xí)有關(guān)世界的新知識(shí)。

希金斯說(shuō)：“我認(rèn)為無(wú)遺忘學(xué)習(xí)是接近真正人工智能的道路上至關(guān)重要的一步?！?/p>

這項(xiàng)研究仍處于早期階段。 與許多其他物體識(shí)別AI工具一樣，這些算法只能在一個(gè)系列特定的任務(wù)中進(jìn)行學(xué)習(xí)，例如查看照片并在許多不是面部的圖像中挑選出一張臉。 但希金斯新的人工智能系統(tǒng)正在以一種更具創(chuàng)造力和想象力的方式完成這些任務(wù)。

即使希金斯的研究沒(méi)有立即讓我們進(jìn)入強(qiáng)人工智能時(shí)代，她的新算法已經(jīng)能夠改進(jìn)我們一直使用的AI系統(tǒng)。 例如，希金斯在用于訓(xùn)練面部識(shí)別軟件的一組主要數(shù)據(jù)上嘗試了她的新AI系統(tǒng)。 在分析了數(shù)據(jù)集中發(fā)現(xiàn)的數(shù)百萬(wàn)張頭像后，該算法可以生成從未在圖片庫(kù)中出現(xiàn)過(guò)的頭像。 例如，希金斯展示了按膚色排列的頭像集合。

希金斯隨后透露，她的算法也能夠?qū)χ饔^評(píng)價(jià)作出預(yù)測(cè)。比如它可以對(duì)人們對(duì)頭像的評(píng)價(jià)作出判斷。在學(xué)習(xí)了上百萬(wàn)張頭像之后，希金斯的算法繪制了幾副它認(rèn)為 “有吸引力”的頭像：一系列年輕白人女性的頭像。 也就是說(shuō)，拋開(kāi)種族問(wèn)題不談，希金斯的算法發(fā)現(xiàn)了人們的審美偏見(jiàn)： 白人更具吸引力。

當(dāng)局者迷，旁觀者清，這種創(chuàng)造性的新算法已經(jīng)比人類更善于尋找人類的偏見(jiàn)， 之后工程師可以從系統(tǒng)中移除這些偏見(jiàn)。

雖然最新的人工智能算法還不能取代藝術(shù)家，但毫無(wú)疑問(wèn)，希金斯團(tuán)隊(duì)的研發(fā)成果是人類邁向強(qiáng)人工智能的一大步。