為人工智能計算提供神經(jīng)形態(tài)芯片的案例

當(dāng)蘋果首席執(zhí)行官蒂姆庫克推出 iPhone X 時，他聲稱它將“為未來十年的技術(shù)鋪平道路”。雖然現(xiàn)在下結(jié)論還為時過早，但用于人臉識別的神經(jīng)引擎是同類產(chǎn)品中的第一個。如今，深度神經(jīng)網(wǎng)絡(luò)已成為現(xiàn)實，神經(jīng)形態(tài)似乎是在人工智能領(lǐng)域取得持續(xù)進步的唯一實用途徑。

Yole Développement（法國里昂）最近發(fā)表的一份報告稱，面對數(shù)據(jù)帶寬限制和不斷增長的計算需求，傳感和計算必須通過模仿神經(jīng)生物學(xué)架構(gòu)來重塑自我。

Yole 成像首席分析師 Pierre Cambou在接受EE Times采訪時解釋說，神經(jīng)形態(tài)傳感和計算可以解決人工智能當(dāng)前的大部分問題，同時在未來幾十年開辟新的應(yīng)用前景。“神經(jīng)形態(tài)工程是仿生學(xué)的下一步，推動了人工智能的發(fā)展。”

為什么現(xiàn)在？

距離數(shù)學(xué)家艾倫·圖靈提出“機器能思考嗎？”這個問題已經(jīng)過去了 70 年，距離加州理工學(xué)院的電氣工程師卡弗·米德 (Carver Mead) 提出神經(jīng)形態(tài)工程的概念已經(jīng)過去了 30 年。然而，在接下來的十年中，研究人員在制造具有類腦學(xué)習(xí)和適應(yīng)能力的機器方面幾乎沒有取得實際成功。當(dāng) 2006 年喬治亞理工學(xué)院展示其現(xiàn)場可編程神經(jīng)陣列時，希望重新燃起，麻省理工學(xué)院的研究人員在 2011 年推出了一種模擬大腦神經(jīng)元如何適應(yīng)新信息的計算機芯片。

轉(zhuǎn)折點是多倫多大學(xué)的一組科學(xué)家發(fā)表了論文“ImageNet Classification with Deep Convolutional Neural Networks”。AlexNet 架構(gòu)由一個 8 層卷積神經(jīng)網(wǎng)絡(luò)組成，可以將 ImageNet 競賽中的 120 萬張高分辨率圖像分類為 1000 個類別之一（例如貓、狗）。“只有隨著 AlexNet 的發(fā)展，深度學(xué)習(xí)方法被證明更強大，并開始在人工智能領(lǐng)域獲得動力?！?/p>

皮埃爾·坎布

當(dāng)前大多數(shù)深度學(xué)習(xí)實現(xiàn)技術(shù)都依賴于摩爾定律，并且“效果很好”。但是，隨著深度學(xué)習(xí)的發(fā)展，對能夠執(zhí)行高計算任務(wù)的芯片的需求將越來越多。摩爾定律最近一直在放緩，并導(dǎo)致包括 Yole Développement 在內(nèi)的許多業(yè)內(nèi)人士相信它無法維持深度學(xué)習(xí)的進步。Cambou 是相信深度學(xué)習(xí)如果繼續(xù)以今天的方式實施“將會失敗”的人之一。

為了解釋他的觀點，Cambou 列舉了三個主要障礙。首先是摩爾定律的經(jīng)濟學(xué)?！昂苌儆型婕夷軌蛲妫覀冏罱K將在世界上擁有一兩家超過 7nm 的晶圓廠。我們認(rèn)為，只有谷歌才能做某事，這對創(chuàng)新是不利的?！?/p>

其次，數(shù)據(jù)負(fù)載的增長速度超過了摩爾定律，數(shù)據(jù)溢出使當(dāng)前的存儲技術(shù)成為限制因素。第三，計算能力需求的指數(shù)級增長為每個應(yīng)用程序創(chuàng)建了一個熱墻?！笆褂?7nm 芯片，我們的效率大約為每瓦 1 teraflop。要為 Waymo 供電，我們可能需要 1 千瓦，這意味著我們需要 1000 teraflops，”Cambou 說。當(dāng)前的技術(shù)范式無法兌現(xiàn)承諾，解決方案可能是在神經(jīng)形態(tài)硬件上應(yīng)用深度學(xué)習(xí)并利用更好的能源效率。

從更廣泛的角度審視當(dāng)前情況，Cambou 表示現(xiàn)在是采用顛覆性方法的時候了，該方法利用新興內(nèi)存技術(shù)帶來的好處并提高數(shù)據(jù)帶寬和功率效率。這就是神經(jīng)形態(tài)方法?！叭斯ぶ悄艿墓适聦⒗^續(xù)向前發(fā)展，我們相信下一步將朝著神經(jīng)形態(tài)方向發(fā)展?！?/p>

近年來，人們在構(gòu)建神經(jīng)形態(tài)硬件方面做出了很多努力，這些硬件通過在硅中實現(xiàn)神經(jīng)元來傳達(dá)認(rèn)知能力。對于 Cambou 來說，這是一條可行的道路，因為“神經(jīng)形態(tài)方法正在勾選所有正確的框”，并且可以提高效率?！坝布股窠?jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)成為可能，我們相信它將推動神經(jīng)形態(tài)人工智能的下一步發(fā)展。然后我們可以再次夢想人工智能，夢想基于人工智能的應(yīng)用程序?！?/p>

學(xué)分：耶爾

神經(jīng)元和突觸

神經(jīng)形態(tài)硬件正在走出研究實驗室，融合了傳感、計算和存儲領(lǐng)域的興趣和目標(biāo)。正在組建合資企業(yè)，正在簽署戰(zhàn)略聯(lián)盟，并且正在啟動長達(dá)十年的研究計劃，例如歐盟的人腦計劃。

雖然預(yù)計 2024 年之前不會有重大業(yè)務(wù)，但在此之后的幾十年內(nèi)，機會的規(guī)?？赡芎艽?。根據(jù) Yole 的說法，如果所有技術(shù)問題在未來幾年內(nèi)得到解決，神經(jīng)形態(tài)計算市場可能會從 2024 年的 6900 萬美元增長到 2029 年的 50 億美元和 2034 年的 213 億美元。英特爾和 SK 海力士，以及 Brainchip、Nepes、Vicarious 和 General Vision 等初創(chuàng)公司。

神經(jīng)形態(tài)芯片不再是理論，而是事實。2017年，英特爾推出了其首款由13萬個神經(jīng)元組成的神經(jīng)形態(tài)研究芯片Loihi。7 月，Santa Clara 集團憑借其 800 萬個神經(jīng)元神經(jīng)形態(tài)系統(tǒng)（代號為 Pohoiki Beach）實現(xiàn)了一個新的里程碑，該系統(tǒng)由 64 個 Loihi 研究芯片組成。同樣，IBM 的 TrueNorth 類腦計算機芯片有 100 萬個神經(jīng)元和 2.56 億個突觸，Brainchip 的 Akida 神經(jīng)形態(tài)片上系統(tǒng)有 120 萬個神經(jīng)元和 100 億個突觸。

“提供硬件可以提高神經(jīng)元和突觸方面的標(biāo)準(zhǔn)，這是一場競賽。突觸可能比神經(jīng)元更重要，”Cambou 說?！霸?Yole，我們看到前面兩步。首先，將基于當(dāng)前方法構(gòu)建的應(yīng)用程序，部分是異步的，部分來自馮諾依曼?！?很好的例子是 Brainchip 的 Akida 和 Intel 的 Loihi?！叭缓螅赡茉谖磥?10 到 15 年內(nèi)，我們將在其之上獲得 RRAM [電阻隨機存取存儲器]。這將允許創(chuàng)建更多的突觸?！?/p>

神經(jīng)擬態(tài)計算的努力來自于美光、西部數(shù)據(jù)和 SK 海力士等內(nèi)存廠商，但許多人正在尋求更多的短期收入，最終可能不會成為神經(jīng)擬態(tài)研究的強者?！拔覀儜?yīng)該關(guān)注那些選擇神經(jīng)形態(tài)作為核心技術(shù)的小玩家，”Cambou 說。

Weebit、Robosensing、Knowm、Memry 和 Symetrix 等顛覆性內(nèi)存初創(chuàng)公司正在將非易失性內(nèi)存技術(shù)與神經(jīng)形態(tài)計算芯片設(shè)計相結(jié)合。它們與 Crossbar 和 Adesto 等純內(nèi)存初創(chuàng)公司一起出現(xiàn)，但他們的憶阻器（內(nèi)存電阻器）方法通常被認(rèn)為比純計算公司的努力更長期。“許多記憶播放器正在研究 RRAM 和相變記憶來模仿突觸，”Cambou 說。此外，“MRAM [磁阻隨機存取存儲器] 是新興存儲器的一部分，它將幫助神經(jīng)形態(tài)方法取得成功。”

學(xué)分：耶爾

除了計算之外，還出現(xiàn)了神經(jīng)形態(tài)傳感生態(tài)系統(tǒng)，其根源起源于 1991 年神經(jīng)信息學(xué)研究所和蘇黎世聯(lián)邦理工學(xué)院的 Misha Mahowald 發(fā)明的硅神經(jīng)元。目前的競爭很低，全球只有不到 10 名參與者。其中，Prophesee、三星、Insightness、Inivation 和 Celepixel 正在提供即用型產(chǎn)品，例如基于事件的圖像傳感器和相機。電影攝影中使用的基于幀的方法無法捕捉運動。

“電影在欺騙我們的大腦，但我們無法欺騙計算機，”Cambou 說?！拔ㄒ徽_的方法是提供與眼睛相同的信息?；谑录南鄼C對于任何類型的實時運動理解和模式理解都非常強大?！?更廣泛地說，聽覺、成像和行為傳感器“對我們所謂的通用智能的各個層面都有影響”。

在封裝半導(dǎo)體層面，Yole 表示，預(yù)計神經(jīng)形態(tài)傳感將從 2024 年的 4300 萬美元增長到 2029 年的 20 億美元和 2034 年的 47 億美元。

汽車，但不僅僅是

Cambou 說，汽車可能是最明顯的市場。然而，最初的市場是工業(yè)和移動市場，主要用于機器人和實時感知。

短期內(nèi)，神經(jīng)形態(tài)傳感和計算將用于工業(yè)機器的始終在線監(jiān)控。它還將在物流、食品自動化和農(nóng)業(yè)方面發(fā)揮重要作用。Cambou 說：“雖然深度學(xué)習(xí)需要大量數(shù)據(jù)集，但神經(jīng)形態(tài)學(xué)僅從幾張圖像或幾句話中就可以非?？焖俚貙W(xué)習(xí)并理解時間?！?/p>

在未來十年內(nèi)，混合內(nèi)存計算芯片的可用性應(yīng)該會打開汽車市場，迫切地等待大眾市場的自動駕駛技術(shù)?！拔覀兩钤谝粋€交互的世界中，神經(jīng)形態(tài)在讓計算機理解非結(jié)構(gòu)化環(huán)境方面將非常強大?！?/p>