0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

片上光學(xué)深度神經(jīng)網(wǎng)絡(luò)

中科院長春光機(jī)所 ? 來源:中科院長春光機(jī)所 ? 作者:中科院長春光機(jī)所 ? 2022-06-23 14:27 ? 次閱讀

從預(yù)測文本到醫(yī)學(xué)診斷,人工智能 (AI) 在許多系統(tǒng)中都發(fā)揮著重要作用。受人類大腦的啟發(fā),許多人工智能系統(tǒng)都是基于人工神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)的。

在人工神經(jīng)網(wǎng)絡(luò)中,被稱為“神經(jīng)元”的組件獲取輸入的數(shù)據(jù)并進(jìn)行處理從而解決各種問題,例如識(shí)別人臉。神經(jīng)網(wǎng)絡(luò)反復(fù)調(diào)整其神經(jīng)元之間的聯(lián)系,隨著時(shí)間的推移,網(wǎng)絡(luò)會(huì)設(shè)定最適合計(jì)算結(jié)果的參數(shù),從而模仿人腦中的學(xué)習(xí)過程。通過添加神經(jīng)層可以擴(kuò)大網(wǎng)絡(luò),如果一個(gè)神經(jīng)網(wǎng)絡(luò)擁有多層神經(jīng)元,它就被稱為“深度神經(jīng)網(wǎng)絡(luò)”。隨著層數(shù)的增加,該網(wǎng)絡(luò)以更高分辨率讀取更復(fù)雜圖像中數(shù)據(jù)的能力也在增強(qiáng)。

目前,經(jīng)典神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)圖像識(shí)別是在傳統(tǒng)圖像傳感器上創(chuàng)建的,例如智能手機(jī)中的數(shù)碼相機(jī)。圖像傳感器需要將光先轉(zhuǎn)化為電脈沖,再轉(zhuǎn)換為數(shù)字化數(shù)據(jù),從而可以使用計(jì)算機(jī)處理器進(jìn)行處理、分析、存儲(chǔ)和分類。

雖然目前在數(shù)字芯片上的消費(fèi)級圖像分類技術(shù)每秒可以執(zhí)行數(shù)十億次計(jì)算(GHz),這使得它對于大多數(shù)場景來說足夠快。但更復(fù)雜的圖像分類,例如識(shí)別高速移動(dòng)物體、3D 物體識(shí)別,或自動(dòng)駕駛,在實(shí)現(xiàn)過程中卻面臨著許多重大挑戰(zhàn)。

首先,傳統(tǒng)的數(shù)字芯片通常是基于數(shù)字時(shí)鐘的平臺(tái)來實(shí)現(xiàn),例如圖形處理單元(GPU),這將它們的計(jì)算速度限制在時(shí)鐘頻率上(<3 GHz)。同時(shí),傳統(tǒng)電子設(shè)備基于馮諾依曼架構(gòu),將內(nèi)存和處理單元分開,而在這些組件之間來回的數(shù)據(jù)傳輸會(huì)浪費(fèi)時(shí)間和精力。

其次,原始的模擬圖像數(shù)據(jù)通常需要光電轉(zhuǎn)換為數(shù)字電子信號以及需要大內(nèi)存單元來存儲(chǔ)圖像和視頻,從而引發(fā)潛在的隱私問題。

近日,來自賓夕法尼亞大學(xué) Firooz Aflatouni 副教授團(tuán)隊(duì)已經(jīng)在光子微芯片上開發(fā)了一種光學(xué)深度神經(jīng)網(wǎng)絡(luò) PDNN(photonic deep neural network),消除了傳統(tǒng)計(jì)算機(jī)芯片中的四個(gè)主要耗時(shí)的罪魁禍?zhǔn)祝汗怆娦盘柕霓D(zhuǎn)換,模擬信號到數(shù)字信號的轉(zhuǎn)換、大內(nèi)存模塊和基于時(shí)鐘的計(jì)算。

該團(tuán)隊(duì)在 9.3 mm2的光子芯片在約 0.5 ns 內(nèi)實(shí)現(xiàn)整個(gè)圖像分類——這是最理想的數(shù)字計(jì)算機(jī)芯片只能完成一個(gè)計(jì)算步驟所需的時(shí)間。片上網(wǎng)絡(luò)對手寫字母進(jìn)行了二類和四類分類,準(zhǔn)確率分別高于 93.8% 和 89.8%。

該成果發(fā)表在Nature,題為“An on-chip photonic deep neural network for image classification”。

片上光學(xué)深度神經(jīng)網(wǎng)絡(luò)

該新設(shè)備標(biāo)志著第一個(gè)完全在集成光子設(shè)備上以可擴(kuò)展方式實(shí)現(xiàn)的深度神經(jīng)網(wǎng)絡(luò)。在 9.3 mm2的芯片中,線性計(jì)算是通過一個(gè) 5×6 的光柵耦合器陣列和光學(xué)衰減器光學(xué)執(zhí)行的。這些耦合器充當(dāng)輸入像素,輸出分為四個(gè)重疊的 3×4 像素子圖像,并使用納米光子波導(dǎo)饋入分布在三層的其他九個(gè)神經(jīng)元。線性運(yùn)算后,各個(gè)神經(jīng)元通過光電子方式的微環(huán)調(diào)制器的傳輸特性實(shí)現(xiàn)非線性激活函數(shù)。

科學(xué)家們讓他們的微芯片識(shí)別手寫字母。在一組測試中,它必須將 216 個(gè)字母分類為 p 或 d,而在另一組測試中,它必須將 432 個(gè)字母分類為 p、d、a 或 t。該芯片的精度分別高于 93.8% 和 89.8%。相比之下,使用 Keras 庫在 Python 中實(shí)現(xiàn)的 190 個(gè)神經(jīng)元的傳統(tǒng)深度神經(jīng)網(wǎng)絡(luò)在相同圖像上實(shí)現(xiàn)了 96% 的準(zhǔn)確率。

9439aecc-f2bc-11ec-ba43-dac502259ad0.png

圖2:光子深度神經(jīng)網(wǎng)絡(luò)芯片執(zhí)行分類任務(wù)的四分類字母樣本

圖源:賓夕法尼亞大學(xué)

更快、更強(qiáng)

由于該芯片可以在光信號上直接進(jìn)行光速線性處理,所以該芯片可以在 0.5 ns 內(nèi)完成整個(gè)圖像分類。該芯片通過“光學(xué)傳播計(jì)算”來處理信息,這意味著與基于時(shí)鐘的系統(tǒng)不同,計(jì)算是光在芯片上傳播時(shí)發(fā)生的。要了解該芯片處理信息的速度,可以對照電影的典型幀速率,一部電影通常每秒播放24 到 120 幀,而該芯片每秒能夠處理近 20 億幀。

此工作也跳過了將光信號轉(zhuǎn)換為電信號的步驟,因?yàn)樵撔酒梢灾苯幼x取和處理光信號,不需要存儲(chǔ)信息,無需大內(nèi)存單元。

這兩項(xiàng)變化都使其成為一種更快的技術(shù)。

消除內(nèi)存模塊還可以增強(qiáng)數(shù)據(jù)隱私,使用直接讀取圖像數(shù)據(jù)的芯片,不需要照片存儲(chǔ),因此不會(huì)發(fā)生數(shù)據(jù)泄漏。通過加速圖像分類,片上深度神經(jīng)網(wǎng)絡(luò)可以改善自動(dòng)駕駛汽車中的人臉識(shí)別和激光雷達(dá)傳感等應(yīng)用。

一個(gè)以光速讀取信息并提供更高程度網(wǎng)絡(luò)安全的芯片無疑會(huì)在許多領(lǐng)域產(chǎn)生影響;這是過去幾年對這項(xiàng)技術(shù)的研究不斷增加的原因之一。

該項(xiàng)研究的下一步將提升芯片的可擴(kuò)展性,處理三維圖像分類的工作,使用具有更多像素和神經(jīng)元的更大芯片對更高分辨率的圖像進(jìn)行處理。此外,不僅限于圖像和視頻分類,任何可以轉(zhuǎn)換為光域的信號,例如音頻和語音,都可以使用這項(xiàng)技術(shù)進(jìn)行幾乎瞬時(shí)的分類處理。

審核編輯 :李倩

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • 神經(jīng)網(wǎng)絡(luò)

    關(guān)注

    42

    文章

    4733

    瀏覽量

    100415
  • 人工智能
    +關(guān)注

    關(guān)注

    1789

    文章

    46652

    瀏覽量

    237064
  • 光子芯片
    +關(guān)注

    關(guān)注

    3

    文章

    95

    瀏覽量

    24375

原文標(biāo)題:Nature | 每秒可處理近20億張圖的光子芯片

文章出處:【微信號:cas-ciomp,微信公眾號:中科院長春光機(jī)所】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    FPGA在深度神經(jīng)網(wǎng)絡(luò)中的應(yīng)用

    隨著人工智能技術(shù)的飛速發(fā)展,深度神經(jīng)網(wǎng)絡(luò)(Deep Neural Network, DNN)作為其核心算法之一,在圖像識(shí)別、語音識(shí)別、自然語言處理等領(lǐng)域取得了顯著成果。然而,傳統(tǒng)的深度神經(jīng)網(wǎng)絡(luò)
    的頭像 發(fā)表于 07-24 10:42 ?527次閱讀

    殘差網(wǎng)絡(luò)深度神經(jīng)網(wǎng)絡(luò)

    殘差網(wǎng)絡(luò)(Residual Network,通常簡稱為ResNet) 是深度神經(jīng)網(wǎng)絡(luò)的一種 ,其獨(dú)特的結(jié)構(gòu)設(shè)計(jì)在解決深層網(wǎng)絡(luò)訓(xùn)練中的梯度消失和梯度爆炸問題上取得了顯著的突破,并因此成為
    的頭像 發(fā)表于 07-11 18:13 ?938次閱讀

    簡單認(rèn)識(shí)深度神經(jīng)網(wǎng)絡(luò)

    深度神經(jīng)網(wǎng)絡(luò)(Deep Neural Networks, DNNs)作為機(jī)器學(xué)習(xí)領(lǐng)域中的一種重要技術(shù),特別是在深度學(xué)習(xí)領(lǐng)域,已經(jīng)取得了顯著的成就。它們通過模擬人類大腦的處理方式,利用多層神經(jīng)
    的頭像 發(fā)表于 07-10 18:23 ?894次閱讀

    rnn是遞歸神經(jīng)網(wǎng)絡(luò)還是循環(huán)神經(jīng)網(wǎng)絡(luò)

    RNN(Recurrent Neural Network)是循環(huán)神經(jīng)網(wǎng)絡(luò),而非遞歸神經(jīng)網(wǎng)絡(luò)。循環(huán)神經(jīng)網(wǎng)絡(luò)是一種具有時(shí)間序列特性的神經(jīng)網(wǎng)絡(luò),能夠處理序列數(shù)據(jù),具有記憶功能。以下是關(guān)于循環(huán)
    的頭像 發(fā)表于 07-05 09:52 ?463次閱讀

    深度神經(jīng)網(wǎng)絡(luò)概述及其應(yīng)用

    深度神經(jīng)網(wǎng)絡(luò)(Deep Neural Networks, DNNs)作為機(jī)器學(xué)習(xí)的一種復(fù)雜形式,是廣義人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Networks, ANNs)的重要分支。它們
    的頭像 發(fā)表于 07-04 16:08 ?638次閱讀

    循環(huán)神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)的區(qū)別

    循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Network,RNN)和卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network,CNN)是深度學(xué)習(xí)領(lǐng)域中兩種非常重要的神經(jīng)網(wǎng)絡(luò)
    的頭像 發(fā)表于 07-04 14:24 ?1009次閱讀

    深度神經(jīng)網(wǎng)絡(luò)與基本神經(jīng)網(wǎng)絡(luò)的區(qū)別

    在探討深度神經(jīng)網(wǎng)絡(luò)(Deep Neural Networks, DNNs)與基本神經(jīng)網(wǎng)絡(luò)(通常指傳統(tǒng)神經(jīng)網(wǎng)絡(luò)或前向神經(jīng)網(wǎng)絡(luò))的區(qū)別時(shí),我們需
    的頭像 發(fā)表于 07-04 13:20 ?571次閱讀

    深度神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)方法

    深度神經(jīng)網(wǎng)絡(luò)(Deep Neural Networks, DNNs)作為人工智能領(lǐng)域的重要技術(shù)之一,通過模擬人腦神經(jīng)元之間的連接,實(shí)現(xiàn)了對復(fù)雜數(shù)據(jù)的自主學(xué)習(xí)和智能判斷。其設(shè)計(jì)方法不僅涉及網(wǎng)絡(luò)
    的頭像 發(fā)表于 07-04 13:13 ?370次閱讀

    卷積神經(jīng)網(wǎng)絡(luò)與循環(huán)神經(jīng)網(wǎng)絡(luò)的區(qū)別

    深度學(xué)習(xí)領(lǐng)域,卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Networks, CNN)和循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Networks, RNN)是兩種極其重要
    的頭像 發(fā)表于 07-03 16:12 ?2193次閱讀

    bp神經(jīng)網(wǎng)絡(luò)深度神經(jīng)網(wǎng)絡(luò)

    BP神經(jīng)網(wǎng)絡(luò)(Backpropagation Neural Network)是一種常見的前饋神經(jīng)網(wǎng)絡(luò),它使用反向傳播算法來訓(xùn)練網(wǎng)絡(luò)。雖然BP神經(jīng)網(wǎng)絡(luò)在某些方面與
    的頭像 發(fā)表于 07-03 10:14 ?592次閱讀

    卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練的是什么

    卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Networks,簡稱CNN)是一種深度學(xué)習(xí)模型,廣泛應(yīng)用于圖像識(shí)別、視頻分析、自然語言處理等領(lǐng)域。本文將詳細(xì)介紹卷積神經(jīng)網(wǎng)絡(luò)的基本概念、結(jié)構(gòu)
    的頭像 發(fā)表于 07-03 09:15 ?319次閱讀

    深度學(xué)習(xí)與卷積神經(jīng)網(wǎng)絡(luò)的應(yīng)用

    隨著人工智能技術(shù)的飛速發(fā)展,深度學(xué)習(xí)和卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network, CNN)作為其中的重要分支,已經(jīng)在多個(gè)領(lǐng)域取得了顯著的應(yīng)用成果。從圖像識(shí)別、語音識(shí)別
    的頭像 發(fā)表于 07-02 18:19 ?747次閱讀

    卷積神經(jīng)網(wǎng)絡(luò)和bp神經(jīng)網(wǎng)絡(luò)的區(qū)別

    化能力。隨著深度學(xué)習(xí)技術(shù)的不斷發(fā)展,神經(jīng)網(wǎng)絡(luò)已經(jīng)成為人工智能領(lǐng)域的重要技術(shù)之一。卷積神經(jīng)網(wǎng)絡(luò)和BP神經(jīng)
    的頭像 發(fā)表于 07-02 14:24 ?2329次閱讀

    深度神經(jīng)網(wǎng)絡(luò)模型有哪些

    深度神經(jīng)網(wǎng)絡(luò)(Deep Neural Networks,DNNs)是一類具有多個(gè)隱藏層的神經(jīng)網(wǎng)絡(luò),它們在許多領(lǐng)域取得了顯著的成功,如計(jì)算機(jī)視覺、自然語言處理、語音識(shí)別等。以下是一些常見的深度
    的頭像 發(fā)表于 07-02 10:00 ?1041次閱讀

    詳解深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)與卷積神經(jīng)網(wǎng)絡(luò)的應(yīng)用

    在如今的網(wǎng)絡(luò)時(shí)代,錯(cuò)綜復(fù)雜的大數(shù)據(jù)和網(wǎng)絡(luò)環(huán)境,讓傳統(tǒng)信息處理理論、人工智能與人工神經(jīng)網(wǎng)絡(luò)都面臨巨大的挑戰(zhàn)。近些年,深度學(xué)習(xí)逐漸走進(jìn)人們的視線,通過
    的頭像 發(fā)表于 01-11 10:51 ?1832次閱讀
    詳解<b class='flag-5'>深度</b>學(xué)習(xí)、<b class='flag-5'>神經(jīng)網(wǎng)絡(luò)</b>與卷積<b class='flag-5'>神經(jīng)網(wǎng)絡(luò)</b>的應(yīng)用