0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

超算難勝大腦,何不依照神經(jīng)結(jié)構(gòu)打造芯片?

E4Life ? 來源:電子發(fā)燒友原創(chuàng) ? 作者:Leland ? 2021-08-12 09:45 ? 次閱讀
超算難勝大腦,何不依照神經(jīng)結(jié)構(gòu)打造芯片

伴隨著第四次工業(yè)革命的到來,人工智能機(jī)器學(xué)習(xí)成了半導(dǎo)體行業(yè)熱捧的技術(shù)。從訓(xùn)練和推理的角度來看,這些技術(shù)用到的數(shù)據(jù)量已經(jīng)足夠龐大,但AI芯片依然很難做到像大腦一樣思考。

以目前世界排名第二的超算IBM Summit為例,其運(yùn)算速率已達(dá)200 PFLOPS,但大腦的運(yùn)算性能仍然是它的5倍。研究人員開始反思為何不仿制一個(gè)大腦結(jié)構(gòu)的芯片,依照人體神經(jīng)元網(wǎng)絡(luò)結(jié)構(gòu)打造的神經(jīng)形態(tài)芯片也因此出爐。

大腦中的神經(jīng)元可以通過無數(shù)個(gè)突觸實(shí)現(xiàn)互通,從而快速處理大腦信息,進(jìn)行記憶、推理和計(jì)算?;隈T諾依曼結(jié)構(gòu)的AI芯片依然需要在多個(gè)部件之間進(jìn)行信息傳輸,造成處理速度瓶頸,這也是為何近年來業(yè)內(nèi)仍在發(fā)展互聯(lián)技術(shù)的原因。

而神經(jīng)形態(tài)芯片基于人腦的架構(gòu),采用了脈沖神經(jīng)網(wǎng)絡(luò)(SNN),不僅顯著提升了處理速度,更是可以同步進(jìn)行多項(xiàng)操作,同時(shí)進(jìn)行數(shù)據(jù)輸入和輸出,且功耗與當(dāng)前的AI芯片相比大大降低。

嗅覺識(shí)別

2017年11月,英特爾發(fā)布了自己的神經(jīng)形態(tài)芯片Loihi。這一60mm2大小的芯片基于14nm工藝制造,采用了128個(gè)“神經(jīng)核”的設(shè)計(jì),囊括了13萬神經(jīng)元。英特爾稱其設(shè)計(jì)基于專為SNN算法優(yōu)化的架構(gòu),每個(gè)神經(jīng)元都可以數(shù)千個(gè)神經(jīng)元相互通信。Loihi支持的SNN運(yùn)算,不需要在傳統(tǒng)的卷積神經(jīng)網(wǎng)絡(luò)下進(jìn)行訓(xùn)練。

Loihi芯片 / Intel

去年3月17日,英特爾研究院和美國康奈爾大學(xué)研究人員聯(lián)合發(fā)表了一篇論文,展示了一種基于哺乳動(dòng)物嗅覺系統(tǒng)的神經(jīng)算法,即便存在明顯干擾和遮蓋的情況下,英特爾的神經(jīng)形態(tài)芯片Loihi依然可以學(xué)習(xí)和識(shí)別危險(xiǎn)甲苯和一氧化碳等化學(xué)品。此外,由于神經(jīng)形態(tài)芯片的優(yōu)勢,Loihi僅需單一樣本就可以識(shí)別氣味,不像過去的深度學(xué)習(xí)一樣需要大量的訓(xùn)練樣本。

在與不少學(xué)術(shù)機(jī)構(gòu)合作的過程中,研究人員同樣發(fā)現(xiàn)Loihi具備超低功耗的特性。在運(yùn)行一個(gè)實(shí)時(shí)深度學(xué)習(xí)測試中,Loihi的功耗要比一片GPU低109倍,與專用的IoT推理硬件相比低5倍。更棒的是,即便將深度學(xué)習(xí)網(wǎng)絡(luò)的規(guī)模擴(kuò)展50倍,Loihi不僅能夠保持同樣的實(shí)時(shí)性能表現(xiàn),其功耗占用也只有30%而已,而IoT硬件的功耗已經(jīng)高至6倍,且無法再滿足實(shí)時(shí)處理了。

視覺識(shí)別

今年1月,澳大利亞斯威本大學(xué)、電子科大和中國科學(xué)院聯(lián)合發(fā)表了一篇論文,該團(tuán)隊(duì)聲稱打造出了性能最強(qiáng)大的光學(xué)神經(jīng)形態(tài)處理器。領(lǐng)導(dǎo)這項(xiàng)研究工作的David Moss教授聲稱,該芯片基于光微梳打造,可以實(shí)現(xiàn)10 TOPS的運(yùn)算性能。

該芯片可以生成25萬像素的圖像卷積,對于人臉識(shí)別之類的應(yīng)用已經(jīng)綽綽有余。在測試中,他們在該芯片上用10個(gè)輸出神經(jīng)元依次組成一個(gè)光學(xué)卷積神經(jīng)網(wǎng)絡(luò),在識(shí)別手寫數(shù)字圖像上準(zhǔn)確率可達(dá)88%。同樣的方法也可以擴(kuò)展到更復(fù)雜的網(wǎng)絡(luò)上,比如用于自動(dòng)駕駛和實(shí)時(shí)視頻識(shí)別等等。

TrueNorth芯片 / IBM
同樣在用神經(jīng)形態(tài)技術(shù)進(jìn)行視覺識(shí)別的還有IBM,其TrueNorth芯片包含了100萬個(gè)神經(jīng)元和2.56億個(gè)突觸。這個(gè)4096個(gè)內(nèi)核的芯片基于三星的28nm工藝制造,支持多對象檢測和分類,正常工作情況下的功耗卻只有60至70mW。

視覺傳感器也開始應(yīng)用神經(jīng)形態(tài)技術(shù),以Prophesee為例,這家公司基于自己神經(jīng)形態(tài)技術(shù),在去年與索尼聯(lián)合發(fā)布了基于事件的工業(yè)級(jí)視覺傳感器。該公司也在今年7月獲得了創(chuàng)新工場、小米和韋豪創(chuàng)芯的投資。

結(jié)語

從以上案例可以看出,神經(jīng)形態(tài)芯片和人腦結(jié)構(gòu)一樣,在處理龐大的多樣化數(shù)據(jù)上上有著不小的優(yōu)勢。而傳統(tǒng)AI和機(jī)器學(xué)習(xí)場景中,許多都需要需要大數(shù)據(jù)支持而且無法完成直接替代,這些應(yīng)用往往也與人類感知器官相關(guān)。

除了嗅覺和視覺外,也有像荷蘭初創(chuàng)公司Innatera這樣專注于音頻和健康的神經(jīng)形態(tài)芯片公司??梢哉f神經(jīng)形態(tài)芯片在發(fā)揮傳感應(yīng)用的全部性能上,具備著現(xiàn)有AI芯片難以媲美的優(yōu)勢。

不過這項(xiàng)技術(shù)在硬件和軟件上尚未成熟,目前大型的神經(jīng)形態(tài)芯片還沒有出現(xiàn),而且已有的一些算法也很可能難以兼容。憑借其低功耗和小體積的優(yōu)勢,神經(jīng)形態(tài)芯片最對口的使用場景也許還是移動(dòng)設(shè)備和AIoT。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    29806

    瀏覽量

    268103
  • 人工智能
    +關(guān)注

    關(guān)注

    1789

    文章

    46652

    瀏覽量

    237071
  • 神經(jīng)形態(tài)芯片

    關(guān)注

    0

    文章

    21

    瀏覽量

    13870
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    芯片 高性能 CPUGPUNPU 微架構(gòu)分析》第二篇閱讀心得:芯片拓?fù)鋵W(xué):并行擴(kuò)展與CPU設(shè)計(jì)的巨頭對決

    1 芯片拓?fù)?b class='flag-5'>結(jié)構(gòu):多核互聯(lián)的藝術(shù) 繼續(xù)深入《芯片》一書,第5-6章探討了芯片拓?fù)?b class='flag-5'>結(jié)構(gòu)與經(jīng)典C
    發(fā)表于 10-29 01:48

    神經(jīng)芯片的主要特點(diǎn)和優(yōu)勢

    神經(jīng)芯片,又稱神經(jīng)芯片神經(jīng)元網(wǎng)絡(luò)芯片,是一種專為實(shí)現(xiàn)網(wǎng)絡(luò)通信和控制功能而設(shè)計(jì)的先進(jìn)半導(dǎo)體
    的頭像 發(fā)表于 07-12 16:42 ?935次閱讀

    人工智能神經(jīng)元的基本結(jié)構(gòu)

    人工智能神經(jīng)元的基本結(jié)構(gòu)是一個(gè)復(fù)雜而深入的話題,涉及到計(jì)算機(jī)科學(xué)、數(shù)學(xué)、神經(jīng)科學(xué)等多個(gè)領(lǐng)域的知識(shí)。 引言 人工智能(Artificial Intelligence,簡稱AI)是計(jì)算機(jī)科學(xué)的一個(gè)分支
    的頭像 發(fā)表于 07-11 11:19 ?933次閱讀

    遞歸神經(jīng)網(wǎng)絡(luò)和循環(huán)神經(jīng)網(wǎng)絡(luò)的模型結(jié)構(gòu)

    遞歸神經(jīng)網(wǎng)絡(luò)是一種旨在處理分層結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò),使其特別適合涉及樹狀或嵌套數(shù)據(jù)的任務(wù)。這些網(wǎng)絡(luò)明確地模擬了層次結(jié)構(gòu)中的關(guān)系和依賴關(guān)系,例如語言中的句法
    的頭像 發(fā)表于 07-10 17:21 ?492次閱讀
    遞歸<b class='flag-5'>神經(jīng)</b>網(wǎng)絡(luò)和循環(huán)<b class='flag-5'>神經(jīng)</b>網(wǎng)絡(luò)的模型<b class='flag-5'>結(jié)構(gòu)</b>

    人工智能神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)是什么

    人工智能神經(jīng)網(wǎng)絡(luò)是一種模擬人腦神經(jīng)網(wǎng)絡(luò)的計(jì)算模型,其結(jié)構(gòu)和功能非常復(fù)雜。 引言 人工智能神經(jīng)網(wǎng)絡(luò)是一種模擬人腦神經(jīng)網(wǎng)絡(luò)的計(jì)算模型,其
    的頭像 發(fā)表于 07-04 09:37 ?424次閱讀

    神經(jīng)網(wǎng)絡(luò)芯片和普通芯片區(qū)別

    神經(jīng)網(wǎng)絡(luò)芯片和普通芯片的區(qū)別是一個(gè)復(fù)雜而深入的話題,涉及到計(jì)算機(jī)科學(xué)、電子工程、人工智能等多個(gè)領(lǐng)域。 定義 神經(jīng)網(wǎng)絡(luò)芯片(Neural Ne
    的頭像 發(fā)表于 07-04 09:30 ?790次閱讀

    神經(jīng)元的結(jié)構(gòu)及功能是什么

    神經(jīng)元是神經(jīng)系統(tǒng)的基本結(jié)構(gòu)和功能單位,它們通過電信號(hào)和化學(xué)信號(hào)進(jìn)行信息傳遞和處理。神經(jīng)元的結(jié)構(gòu)和功能非常復(fù)雜,涉及到許多不同的方面。 一、
    的頭像 發(fā)表于 07-03 11:33 ?928次閱讀

    BP神經(jīng)網(wǎng)絡(luò)的原理、結(jié)構(gòu)及 訓(xùn)練方法

    神經(jīng)網(wǎng)絡(luò)是一種受人類大腦神經(jīng)結(jié)構(gòu)啟發(fā)的計(jì)算模型,由大量的神經(jīng)元(或稱為節(jié)點(diǎn)、單元)通過權(quán)重連接而成。每個(gè)神經(jīng)元接收輸入信號(hào),通過激活函數(shù)
    的頭像 發(fā)表于 07-03 10:08 ?469次閱讀

    神經(jīng)網(wǎng)絡(luò)算法的結(jié)構(gòu)有哪些類型

    神經(jīng)網(wǎng)絡(luò)算法是深度學(xué)習(xí)的基礎(chǔ),它們在許多領(lǐng)域都有廣泛的應(yīng)用,如圖像識(shí)別、自然語言處理、語音識(shí)別等。神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)有很多種類型,每種類型都有其獨(dú)特的特點(diǎn)和應(yīng)用場景。以下是對神經(jīng)網(wǎng)絡(luò)算法
    的頭像 發(fā)表于 07-03 09:50 ?368次閱讀

    科學(xué)計(jì)算的下一輪創(chuàng)新,AI與數(shù)字孿生

    應(yīng)用的行列中來。 ? AI 與數(shù)字孿生 ? 在過去通用計(jì)算負(fù)載的時(shí)代,我們難以采用更大規(guī)模的計(jì)算集群來打造數(shù)字孿生。可隨著AI技術(shù),尤其是生成式AI技術(shù)的出現(xiàn),采用高度定制化的AI
    的頭像 發(fā)表于 05-07 00:16 ?1955次閱讀
    科學(xué)計(jì)算的下一輪創(chuàng)新,AI<b class='flag-5'>超</b><b class='flag-5'>算</b>與數(shù)字孿生

    “捷智”正式入駐國家互聯(lián)網(wǎng)平臺(tái)

    ABSTRACT摘要2024年4月2日,本公司旗下力服務(wù)品牌“捷智”正式入駐國家互聯(lián)網(wǎng)平臺(tái),開設(shè)云gpu旗艦店。我們將借助國家
    的頭像 發(fā)表于 04-12 08:26 ?450次閱讀
    “捷智<b class='flag-5'>算</b>”正式入駐國家<b class='flag-5'>超</b><b class='flag-5'>算</b>互聯(lián)網(wǎng)平臺(tái)

    千億美元打造一個(gè)系統(tǒng),成本越來越高的AI

    和OpenAI合作,打造一個(gè)千億美元級(jí)別的系統(tǒng)。 ? 千億美元打造 AI ? 根據(jù)外媒
    的頭像 發(fā)表于 04-09 00:19 ?2998次閱讀

    人的大腦相當(dāng)于什么水平的 GPU 和 CPU ?

    人腦的基本結(jié)構(gòu)和功能人類的大腦是一個(gè)驚人的機(jī)器,能處理復(fù)雜的信息,使我們能理解和響應(yīng)周圍的世界。它由大約860億個(gè)神經(jīng)元組成,每個(gè)神經(jīng)元可以與其他
    的頭像 發(fā)表于 02-19 13:27 ?598次閱讀
    人的<b class='flag-5'>大腦</b>相當(dāng)于什么水平的 GPU 和 CPU ?

    國產(chǎn)ARM建設(shè)歷程 Arm計(jì)算在領(lǐng)域的實(shí)踐

    ARM 指令集兼容架構(gòu)已成為HPC 主流技術(shù)與未來發(fā)展的重要趨勢,可滿足大型系統(tǒng)與商用HPC 系統(tǒng)的技術(shù)需求。
    的頭像 發(fā)表于 01-25 14:06 ?1174次閱讀
    國產(chǎn)ARM<b class='flag-5'>超</b><b class='flag-5'>算</b>建設(shè)歷程 Arm計(jì)算在<b class='flag-5'>超</b><b class='flag-5'>算</b>領(lǐng)域的實(shí)踐

    一體芯片如何支持Transformer等不同模型?

    后摩智能致力于打造通用人工智能芯片,自主研發(fā)的存一體芯片在支持各類模型方面表現(xiàn)突出,包括YOLO系列網(wǎng)絡(luò)、BEV系列網(wǎng)絡(luò)、點(diǎn)云系列網(wǎng)絡(luò)等。
    的頭像 發(fā)表于 01-05 14:14 ?1261次閱讀