MIT工程師開發(fā)通過離子實現(xiàn)對大腦學(xué)習(xí)過程節(jié)能模擬的AI系統(tǒng)

近日，MIT工程師設(shè)計出了一種像大腦突觸一樣運作的AI系統(tǒng)，這種神經(jīng)網(wǎng)絡(luò)的系統(tǒng)，基于離子的技術(shù)可以實現(xiàn)對大腦學(xué)習(xí)過程的節(jié)能模擬，為物理神經(jīng)網(wǎng)絡(luò)提供更快，更可靠和更節(jié)能的方法。

世界各地的團隊正在建立一種稱為神經(jīng)網(wǎng)絡(luò)的更為復(fù)雜的人工智能系統(tǒng)，該系統(tǒng)以某種方式模仿大腦的布線，以執(zhí)行諸如計算機視覺和自然語言處理之類的復(fù)雜任務(wù)。使用最新的半導(dǎo)體電路來模擬神經(jīng)網(wǎng)絡(luò)需要大量的內(nèi)存和高功耗?，F(xiàn)在，麻省理工學(xué)院的一個團隊已朝著另一種系統(tǒng)邁進了一步，該系統(tǒng)使用了物理模擬設(shè)備，可以更加有效地模擬大腦過程。

麻省理工學(xué)院教授Bilge Yildiz，Ju Li和Jesúsdel Alamo以及麻省理工學(xué)院和布魯克海文國家實驗室的其他9位研究人員在論文《Nature Communications》中描述了這一發(fā)現(xiàn)。該論文的創(chuàng)作者是夏霞瑤，他是前麻省理工學(xué)院的博士后，目前在GRU能源實驗室從事儲能工作。

神經(jīng)網(wǎng)絡(luò)試圖模擬在大腦中進行學(xué)習(xí)的方式，這是基于逐漸增強或減弱的神經(jīng)元之間的連接（稱為突觸）而建立的。該物理神經(jīng)網(wǎng)絡(luò)的核心組件是電阻開關(guān)，其電導(dǎo)率可以電氣控制。這種控制或調(diào)節(jié)模擬了大腦中突觸的增強和減弱。

在使用常規(guī)硅微芯片技術(shù)的神經(jīng)網(wǎng)絡(luò)中，這些突觸的模擬是一個非常耗能的過程。為了提高效率并實現(xiàn)更雄心勃勃的神經(jīng)網(wǎng)絡(luò)目標(biāo)，近年來，研究人員一直在探索許多物理設(shè)備，這些物理設(shè)備可以更直接地模仿突觸在學(xué)習(xí)和遺忘過程中逐漸增強和減弱的方式。

迄今為止，對于這種模擬突觸，大多數(shù)候選模擬電阻裝置要么在能量使用方面效率很低，要么在一個裝置到另一個裝置或一個周期到下一個周期的執(zhí)行不一致。研究人員說，新系統(tǒng)克服了這兩個挑戰(zhàn)?！拔覀儾粌H要解決能源挑戰(zhàn)，而且還要解決普遍存在的一些現(xiàn)有概念中與重復(fù)性相關(guān)的挑戰(zhàn)，”

“我認為當(dāng)今構(gòu)建神經(jīng)網(wǎng)絡(luò)應(yīng)用程序的瓶頸是能效。特別是在無人駕駛汽車等邊緣應(yīng)用上花費太多的精力，”教授del Alamo說。他補充說，訓(xùn)練這些復(fù)雜的應(yīng)用程序?qū)τ诋?dāng)今的技術(shù)來說根本不可行。

這項工作中的電阻開關(guān)是一種電化學(xué)設(shè)備，由三氧化鎢（WO 3）制成，其工作方式類似于電池的充電和放電。Alamo解釋說，根據(jù)所施加電壓的極性和強度，離子（在這種情況下為質(zhì)子）可以遷移到材料的晶格中或從材料的晶格中遷移出來。這些變化會一直存在，直到被反向施加的電壓改變?yōu)橹梗ň拖裢挥|的增強或減弱一樣）。

在新的模擬突觸中，顯示為H +的氫離子（質(zhì)子）可以在氫存儲材料（R）和活性材料（A）三氧化鎢之間來回遷移，穿過電解質(zhì)層（E）。離子的移動受通過金電極（S和D）施加的電壓的極性和強度控制，這反過來會改變設(shè)備的電阻。從而模擬內(nèi)存。

“這種機制類似于半導(dǎo)體的摻雜?！痹谠撨^程中，通過將外來離子引入硅晶格，可以將硅的電導(dǎo)率改變許多數(shù)量級?！皞鹘y(tǒng)上，這些離子是在工廠植入的，”但是，有了新的設(shè)備，這些離子就會以動態(tài)，持續(xù)的過程被泵入和泵出晶格。研究人員可以通過控制電壓來控制有多少“摻雜”離子進入或流出，并且已經(jīng)證明了非常好的重復(fù)性和能效。

這個過程“非常類似于生物大腦突觸的工作方式。在那里，不使用質(zhì)子，而是使用其他離子，例如鈣，鉀，鎂等，通過移動這些離子，實際上改變了突觸的抵抗力，這是學(xué)習(xí)的要素。” 在其裝置中的三氧化鎢中發(fā)生的過程類似于在生物突觸中發(fā)生的電阻調(diào)節(jié)。

“我們在這里展示的內(nèi)容，”Alamo說，“即使它不是一種優(yōu)化的設(shè)備，其電導(dǎo)率單位變化所產(chǎn)生的單位面積能耗也接近于大腦?！?，試圖用傳統(tǒng)的CMOS型半導(dǎo)體完成相同的任務(wù)將耗費一百萬倍的能量。

選擇用于演示新器件的材料是因為它們與當(dāng)前的半導(dǎo)體制造系統(tǒng)兼容。但是它們包含限制設(shè)備耐熱性的聚合物材料，因此研究小組仍在尋找設(shè)備質(zhì)子傳導(dǎo)膜的其他變化以及為長期運行而封裝氫源的更好方法。

在該設(shè)備的材料級別上，有很多基礎(chǔ)研究要做。 正在進行的研究將包括“如何將這些器件與現(xiàn)有的CMOS晶體管集成的工作”。所有這一切都需要時間，而且它提供了巨大的創(chuàng)新機會，也為我們的學(xué)生發(fā)展職業(yè)提供了巨大的機會。