忘記可能是AI進步的關鍵!

我們都會遺忘，但是遺忘的過程是什么樣子的？從一閉眼就能浮現(xiàn)的那張清晰的臉龐到那一團模糊不清的影子，是眉毛先消失還是眼睛先不見？

最近，一位藝術家想用AI展現(xiàn)這個過程。

她創(chuàng)建了一張算法生成的臉，然后通過逐漸關閉個別神經(jīng)元，讓AI慢慢忘記這張臉，并把這個過程可視化為了一段視頻。

一層一層撥開AI的心忘記的過程可能是丑陋的

視頻的名字叫做"What I saw before the darkness“，為我們展示了一個AI的心靈運作過程。

視頻中最開始展現(xiàn)的面孔由生成對抗網(wǎng)絡（GAN）生成，GAN是一種機器學習程序，可以從現(xiàn)有照片中學習以產(chǎn)生新事物。通過這種方式GAN訓練了數(shù)以百萬計的肖像，可以生成逼真的人臉。

網(wǎng)絡相互連接的神經(jīng)元決定了這張臉的特征：眼睛，膚色，形狀，頭發(fā)，類似于人類大腦使用神經(jīng)元網(wǎng)絡來構建面部的心理圖像。

而項目的創(chuàng)作者試圖教會AI忘記。通過逐漸關閉個別神經(jīng)元，然后重復這個過程，直到AI完全“忘記”這張臉。

視頻展現(xiàn)的效果有點讓人毛骨悚然。起初看起來好像是生成的人臉正在迅速老化。無數(shù)細小的線條出現(xiàn)在她的眼睛下方和臉部周圍，她的頭發(fā)開始變薄和變淡。

幾秒鐘后，出現(xiàn)了一些完全不同的東西。她的皮膚逐漸變成綠色的色調，而隨著神經(jīng)元繼續(xù)變暗，她的特征開始消失。

六十秒內，這張臉完全腐爛了，只剩下一些白色和棕色的色調。

最后會變成線條然后完全變黑。

通過AI看人類腦海中的橡皮擦

創(chuàng)作者介紹這個項目的靈感是源于對人類感知的思考，人類所看到的一切其實都是大腦對周圍世界的再解釋。一個人無法直接進入外部現(xiàn)實，只能通過在大腦再構建一個圖像的方式接觸世界。

克勞德·莫奈的畫作在他的晚年風格發(fā)生了變化，他晚期的畫筆觸逐漸變得模糊，而且色調會偏向混亂的綠色和黃色。人類的眼睛和大腦以及連接它們的網(wǎng)絡隨時間會經(jīng)歷變化或者說是惡化，而通常我們人類不會注意到這一變化。

雖然說大腦里有一個全新的被建構的世界，但是它不是空中樓閣，憑空捏造的。在某些方面，深度神經(jīng)網(wǎng)絡與視覺系統(tǒng)非常相似，神經(jīng)網(wǎng)絡是非常神秘的東西，他們作出的一些決定可能連創(chuàng)造它們的專家都無法解釋。

這個項目可以幫助模擬世界在人們心中發(fā)生變化的過程，通過倒推神經(jīng)網(wǎng)絡的工作步驟，通過系統(tǒng)地刪除神經(jīng)元，看看哪些圖片對AI的世界是重要的，也許可以成為揭開人工智能的面紗，打開黑匣子的一個辦法。

關于記憶遺忘是一種能力

一個比較流行的比喻解釋了為什么人們會忘記：人們的大腦的容量會飽和，因此，我們需要忘記一些東西給大腦騰出更多的存儲空間。

遺忘不僅僅是一次失敗的記憶，這是一個積極的過程，可以幫助大腦獲取新信息并更有效地做出決策，遺忘是人的能力。

記憶幫助我們了解這個世界，而不僅僅是記住它。用這種方法，我們似乎保留了有用的、有價值的和相關的記憶，同時忘記了低價值的信息。對于人類而言，遺忘可以通過減少過時信息對我們決策的影響來增強靈活性。還可以防止過度擬合特定的過去事件，促進概括（神經(jīng)元）有效值。為了地適應生活，人類需要能夠戰(zhàn)略性地忘記。

忘記可能是AI進步的關鍵

盡管忘記有時候會使我們感到沮喪，但人類忘記的能力正是我們優(yōu)于人工智能的地方。計算機記憶即電腦內存，通常是指存儲信息和找回信息的容量，以及存儲這些信息的計算機物理組件。當計算機的某些內存不再被任務需要時，計算機將“忘記”這些數(shù)據(jù)，釋放空間供其他任務源。

AI存儲記憶的一種方法是象征性的記憶表征，其中，知識是由邏輯事實來表示的（如“鳥會飛”，“Tweety是鳥”，因此“Tweety可以飛”）。這些高度結構化的人造表示雖然可以很容易地刪除，就像在電腦上刪除一個文件。但是機器學習算法不知道需要什么時候保留舊信息，什么時候拋棄過時的信息。不僅如此，它還會面臨著與“遺忘”有關的幾個問題。

一個是“過學習”的問題?！斑^學習”指的是當一個學習機器存儲了源于以往經(jīng)驗的過于詳細的信息時，阻礙了其概括和預測未來事件的能力。另外有時人造神經(jīng)網(wǎng)絡的神經(jīng)元在學習過程的早期采用不良的激活模式，會損害AI的未來學習能力。

還有一個問題是“災難性遺忘”。 比如如果教一個說英語的孩子學習西班牙語，孩子會很容易把學習英語的方法應用到西班牙語的學習中，比如名詞，動詞時態(tài)，句子構建，同時忘記那些不相關，比如口音，喃喃自語，語調。人類可以同時進行遺忘和學習。

相反，如果訓練神經(jīng)網(wǎng)絡學習英語，則參數(shù)需要適用于英語。如果還想同時教它西班牙語，對西班牙語的新改編將覆蓋神經(jīng)網(wǎng)絡以前為英語獲得的知識，有效地刪除所有內容并重新開始。這被稱為“ 災難遺忘 ”，也是神經(jīng)網(wǎng)絡的一個局限。

倫理方面的考量也是一個問題。人類死后他們的數(shù)據(jù)要怎么處理？一旦那個人死了，是否能夠用這些數(shù)據(jù)再訓練AI然后復制出另一個他？缺乏適用的法律、規(guī)則，沒有設定好的邊界，我們留下了一個沒有人控制的分散系統(tǒng)。算法不能選擇忘記什么，而負責它們的人可能沒有權利或解決問題的能力。

廉價的信息存儲代價和AI無窮的容量相結合，打造出了一個看似非常有吸引力的工具，但背后的問題是大量數(shù)據(jù)持續(xù)的收集，而沒有簡單的方法來“忘記”數(shù)據(jù)。

教會AI遺忘

要創(chuàng)造更好的人工智能，首先要了解我們的大腦在關于什么是值得記住的，什么是要遺忘的方面是如何做決定的。

然后應用到AI，就像人一樣，人工智能應該記住重要和有用的信息，同時忘記低價值，無關緊要的知識。然而，確定什么是相關和有價值的信息，除了手頭的任務之外，還加入包括如倫理，法律和隱私問題等因素。

學會遺忘是人工智能面臨的重大挑戰(zhàn)之一。雖然它仍然是一個新的領域，但科學家最近已經(jīng)探索了一些關于如何克服這一局限的常識性理論，比如循環(huán)神經(jīng)網(wǎng)絡LSTM，它使用特定的學習機制來決定要記住哪些信息，要更新哪些信息，以及在任何時候注意。

還有谷歌DeepMind的研究人員提出的EWC算法，該算法模仿突觸合并的神經(jīng)運作過程。在神經(jīng)網(wǎng)絡中，使用多個連接（如神經(jīng)元）來執(zhí)行任務。EWC將某些連接編碼為關鍵，從而保護它們不被覆蓋/遺忘。

但是未來真正的轉變還需要領導人工智能開發(fā)，技術專家，倫理學家，研究人員，學者，社會學家，政策制定者和政府的私人實體的共同合作。