搜索歷史

清空
搜索熱詞
      0
      • 聊天消息
      • 系統(tǒng)消息
      • 評(píng)論與回復(fù)
      VIP于 到期 續(xù)費(fèi)
      登錄后你可以
      • 下載海量資料
      • 學(xué)習(xí)在線課程
      • 觀看技術(shù)視頻
      • 寫文章/發(fā)帖/加入社區(qū)
      會(huì)員中心
      創(chuàng)作中心
      發(fā)布
      創(chuàng)作活動(dòng)

      完善資料讓更多小伙伴認(rèn)識(shí)你，還能領(lǐng)取20積分哦，立即完善>

      3天內(nèi)不再提示

      重大突破！在光學(xué)芯片上直接訓(xùn)練人工神經(jīng)網(wǎng)絡(luò)

      堅(jiān)白 ? 來源：電子發(fā)燒友網(wǎng) ? 作者：堅(jiān)白 ? 2019-03-05 13:26 ? 次閱讀
      斯坦福大學(xué)研究人員已經(jīng)證明，在光學(xué)芯片上直接訓(xùn)練人工神經(jīng)網(wǎng)絡(luò)是可能的。這一重大突破表明，光學(xué)電路可以執(zhí)行基于電子技術(shù)的人工神經(jīng)網(wǎng)絡(luò)的關(guān)鍵功能，并且可以更便宜、更快和更節(jié)能的方式來執(zhí)行諸如語音或圖像識(shí)別等復(fù)雜任務(wù)。
      研究人員已經(jīng)證明，神經(jīng)網(wǎng)絡(luò)可以使用光學(xué)電路(圖中的藍(lán)色矩形)進(jìn)行訓(xùn)練。在整個(gè)網(wǎng)絡(luò)中，會(huì)有幾個(gè)連接在一起。激光輸入(綠色)信息，通過光學(xué)(黑色)芯片。該芯片使用非均勻波束執(zhí)行對(duì)人工神經(jīng)網(wǎng)絡(luò)至關(guān)重要的操作，它是由曲線段表示的。這些部分將兩個(gè)相鄰的部分連接在一起，并通過調(diào)整光學(xué)相位(紅色和藍(lán)色物體)的設(shè)置來調(diào)諧，它們的作用就像可以在訓(xùn)練期間調(diào)整以執(zhí)行給定任務(wù)的“轉(zhuǎn)軌”。這一研究結(jié)果由斯坦福大學(xué)研究組的Tyler W. Hughes所證明。
      “使用光學(xué)芯片比數(shù)字計(jì)算機(jī)更有效地執(zhí)行神經(jīng)網(wǎng)絡(luò)，可以解決更復(fù)雜的問題?！彼固垢４髮W(xué)研究小組的Shanhui Fan說?！袄纾@將增強(qiáng)人工神經(jīng)網(wǎng)絡(luò)執(zhí)行自動(dòng)駕駛汽車所需任務(wù)的能力，或者對(duì)口頭問題作出適當(dāng)?shù)姆磻?yīng)。它還能以我們現(xiàn)在無法想象的方式改善我們的生活?！?/div>
      人工神經(jīng)網(wǎng)絡(luò)是一種人工智能，它使用連接的單元以類似于大腦處理信息的方式處理信息。使用這些網(wǎng)絡(luò)來執(zhí)行一個(gè)復(fù)雜的任務(wù)，例如語音識(shí)別，需要對(duì)算法進(jìn)行關(guān)鍵步驟的訓(xùn)練，以適應(yīng)不同的輸入，如不同的單詞。
      盡管光學(xué)人工神經(jīng)網(wǎng)絡(luò)最近被實(shí)驗(yàn)證明，但訓(xùn)練步驟是在傳統(tǒng)的數(shù)字計(jì)算機(jī)上使用一個(gè)模型進(jìn)行的，然后將最后的設(shè)置輸入到光學(xué)電路中。在光學(xué)學(xué)會(huì)的擁有很高影響力的研究雜志上，斯坦福大學(xué)報(bào)告了一種直接在設(shè)備中訓(xùn)練這些網(wǎng)絡(luò)的方法，這種方法是通過實(shí)現(xiàn)“光學(xué)模擬”算法來實(shí)現(xiàn)的，這是訓(xùn)練常規(guī)神經(jīng)網(wǎng)絡(luò)的標(biāo)準(zhǔn)方法。
      “使用物理設(shè)備而不是計(jì)算機(jī)模型進(jìn)行訓(xùn)練可以使訓(xùn)練過程更加精確。”Hughes說?！按送?，由于訓(xùn)練步驟是神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)過程中非常昂貴的部分，因此執(zhí)行這一步驟對(duì)于提高人工網(wǎng)絡(luò)的計(jì)算效率、速度和功耗至關(guān)重要。”
      基于光的網(wǎng)絡(luò)
      雖然神經(jīng)網(wǎng)絡(luò)處理通常使用傳統(tǒng)計(jì)算機(jī)執(zhí)行，但仍有大量工作要設(shè)計(jì)專門為神經(jīng)網(wǎng)絡(luò)計(jì)算而優(yōu)化的硬件?；诠鈱W(xué)的設(shè)備有很大的興趣，因?yàn)樗鼈兛梢圆⑿袌?zhí)行，同時(shí)使用比電子設(shè)備更少的能量。
      在這項(xiàng)新的工作中，研究人員通過設(shè)計(jì)一種傳統(tǒng)計(jì)算機(jī)訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法設(shè)計(jì)了一種光學(xué)芯片，這對(duì)實(shí)現(xiàn)全光神經(jīng)網(wǎng)絡(luò)提出了重大挑戰(zhàn)。
      一個(gè)人工神經(jīng)網(wǎng)絡(luò)可以被認(rèn)為是一個(gè)黑匣子，有大量的人工神經(jīng)網(wǎng)絡(luò)。在訓(xùn)練過程中，每個(gè)訓(xùn)練單元都會(huì)有一些變化，然后對(duì)系統(tǒng)進(jìn)行測試，看看算法的性能是否有所提高。
      “我們的方法不僅可以幫助你預(yù)測轉(zhuǎn)向哪個(gè)方向，而且還可以幫助你預(yù)測你應(yīng)該把每一種方法都轉(zhuǎn)化成更接近預(yù)期的性能?！盚ughes說?！拔覀兊姆椒ù蟠蠹涌炝擞?xùn)練的速度，特別是對(duì)于大型網(wǎng)絡(luò)，因?yàn)槲覀儾⑿械孬@得了關(guān)于每種方法的信息?！?/div>
      片上訓(xùn)練
      新的訓(xùn)練協(xié)議工作在光路上，通過改變光學(xué)相位的設(shè)置來調(diào)整光路。將待處理的激光束編碼信息發(fā)射到光路中，通過光束進(jìn)行光路傳輸，并對(duì)其進(jìn)行調(diào)整，以訓(xùn)練神經(jīng)網(wǎng)絡(luò)算法。
      在新的訓(xùn)練協(xié)議中，激光器首先通過光路輸入。在設(shè)備上，計(jì)算與預(yù)期結(jié)果的差異。然后，該信息被用來產(chǎn)生一個(gè)新的光信號(hào)，該光信號(hào)通過光網(wǎng)絡(luò)以相反的方向發(fā)送回來。在這個(gè)過程中，研究人員通過測量每個(gè)光束周圍的光強(qiáng)度，展示了如何并行地檢測神經(jīng)網(wǎng)絡(luò)性能將如何隨著光束的設(shè)置而變化。根據(jù)這些信息可以改變相位設(shè)置，并且過程可以重復(fù)，直到神經(jīng)網(wǎng)絡(luò)產(chǎn)生期望的結(jié)果。
      研究人員通過教授一種執(zhí)行復(fù)雜功能的算法，例如在一組點(diǎn)內(nèi)提取復(fù)雜的特征，用光學(xué)模擬測試了他們的訓(xùn)練技術(shù)。他們發(fā)現(xiàn)，光學(xué)實(shí)現(xiàn)功能與傳統(tǒng)計(jì)算機(jī)相似。
      “我們的工作證明，你可以利用物理定律來實(shí)現(xiàn)計(jì)算機(jī)科學(xué)算法，”Fan說。“通過在光領(lǐng)域?qū)@些網(wǎng)絡(luò)進(jìn)行訓(xùn)練，它表明光神經(jīng)網(wǎng)絡(luò)系統(tǒng)可以單獨(dú)使用光學(xué)來實(shí)現(xiàn)某些更高的性能。”
      目前，研究人員正計(jì)劃進(jìn)一步優(yōu)化該系統(tǒng)，并希望利用它實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)任務(wù)的實(shí)際應(yīng)用。他們?cè)O(shè)計(jì)的一般方法可用于各種神經(jīng)網(wǎng)絡(luò)體系結(jié)構(gòu)和其他應(yīng)用，如光學(xué)。
      聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
      收藏 人收藏

        評(píng)論

        相關(guān)推薦

        Python自動(dòng)訓(xùn)練人工神經(jīng)網(wǎng)絡(luò)

        人工神經(jīng)網(wǎng)絡(luò)（ANN）是機(jī)器學(xué)習(xí)中一種重要的模型，它模仿了人腦神經(jīng)元的工作方式，通過多層節(jié)點(diǎn)（神經(jīng)元）之間的連接和權(quán)重調(diào)整來學(xué)習(xí)和解決問題。Python由于其強(qiáng)大的庫支持（如Tenso
        的頭像 發(fā)表于 07-19 11:54 ?158次閱讀

        脈沖神經(jīng)網(wǎng)絡(luò)怎么訓(xùn)練

        脈沖神經(jīng)網(wǎng)絡(luò)（SNN, Spiking Neural Network）的訓(xùn)練是一個(gè)復(fù)雜但充滿挑戰(zhàn)的過程，它模擬了生物神經(jīng)元通過脈沖（或稱為尖峰）進(jìn)行信息傳遞的方式。以下是對(duì)脈沖神經(jīng)網(wǎng)絡(luò)
        的頭像 發(fā)表于 07-12 10:13 ?288次閱讀

        20個(gè)數(shù)據(jù)可以訓(xùn)練神經(jīng)網(wǎng)絡(luò)嗎

        當(dāng)然可以，20個(gè)數(shù)據(jù)點(diǎn)對(duì)于訓(xùn)練一個(gè)神經(jīng)網(wǎng)絡(luò)來說可能非常有限，但這并不意味著它們不能用于訓(xùn)練。實(shí)際上，神經(jīng)網(wǎng)絡(luò)可以
        的頭像 發(fā)表于 07-11 10:29 ?320次閱讀

        怎么對(duì)神經(jīng)網(wǎng)絡(luò)重新訓(xùn)練

        重新訓(xùn)練神經(jīng)網(wǎng)絡(luò)是一個(gè)復(fù)雜的過程，涉及到多個(gè)步驟和考慮因素。 引言 神經(jīng)網(wǎng)絡(luò)是一種強(qiáng)大的機(jī)器學(xué)習(xí)模型，廣泛應(yīng)用于圖像識(shí)別、自然語言處理、語音識(shí)別等領(lǐng)域。然而，隨著時(shí)間的推移，數(shù)據(jù)分布可能會(huì)
        的頭像 發(fā)表于 07-11 10:25 ?302次閱讀

        BP神經(jīng)網(wǎng)絡(luò)和人工神經(jīng)網(wǎng)絡(luò)的區(qū)別

        BP神經(jīng)網(wǎng)絡(luò)和人工神經(jīng)網(wǎng)絡(luò)（Artificial Neural Networks，簡稱ANNs）之間的關(guān)系與區(qū)別，是神經(jīng)網(wǎng)絡(luò)領(lǐng)域中一個(gè)基礎(chǔ)且重要的話題。本文將從定義、結(jié)構(gòu)、算法、應(yīng)用及
        的頭像 發(fā)表于 07-10 15:20 ?377次閱讀

        BP神經(jīng)網(wǎng)絡(luò)的基本結(jié)構(gòu)和訓(xùn)練過程

        BP神經(jīng)網(wǎng)絡(luò)，全稱為反向傳播神經(jīng)網(wǎng)絡(luò)（Backpropagation Neural Network），是一種在機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘和模式識(shí)別等領(lǐng)域廣泛應(yīng)用的人工
        的頭像 發(fā)表于 07-10 15:07 ?1394次閱讀
        BP<b class='flag-5'>神經(jīng)網(wǎng)絡(luò)</b>的基本結(jié)構(gòu)和<b class='flag-5'>訓(xùn)練</b>過程

        如何利用Matlab進(jìn)行神經(jīng)網(wǎng)絡(luò)訓(xùn)練

        ，使得神經(jīng)網(wǎng)絡(luò)的創(chuàng)建、訓(xùn)練和仿真變得更加便捷。本文將詳細(xì)介紹如何利用Matlab進(jìn)行神經(jīng)網(wǎng)絡(luò)訓(xùn)練，包括網(wǎng)絡(luò)創(chuàng)建、數(shù)據(jù)預(yù)處理、
        的頭像 發(fā)表于 07-08 18:26 ?830次閱讀

        人工神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練的基本原理

        圖像識(shí)別、語音識(shí)別、自然語言處理等。本文將介紹人工神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練的基本原理。 1. 神經(jīng)網(wǎng)絡(luò)的基本概念 1.1 神經(jīng)元
        的頭像 發(fā)表于 07-05 09:16 ?326次閱讀

        人工神經(jīng)網(wǎng)絡(luò)模型的分類有哪些

        人工神經(jīng)網(wǎng)絡(luò)（Artificial Neural Networks, ANNs）是一種模擬人腦神經(jīng)元網(wǎng)絡(luò)的計(jì)算模型，它在許多領(lǐng)域，如圖像識(shí)別、語音識(shí)別、自然語言處理、預(yù)測分析等有著廣泛的應(yīng)用。本文將
        的頭像 發(fā)表于 07-05 09:13 ?442次閱讀

        人工智能神經(jīng)網(wǎng)絡(luò)芯片的介紹

        人工智能神經(jīng)網(wǎng)絡(luò)芯片是一類專門為深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)算法設(shè)計(jì)的處理器。它們具有高性能、低功耗、可擴(kuò)展等特點(diǎn)，廣泛應(yīng)用于圖像識(shí)別、語音識(shí)別、自然語言處理等領(lǐng)域。以下是關(guān)于
        的頭像 發(fā)表于 07-04 09:33 ?335次閱讀

        bp神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)區(qū)別是什么

        BP神經(jīng)網(wǎng)絡(luò)（Backpropagation Neural Network）和卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Network，簡稱CNN）是兩種不同類型的人工神經(jīng)網(wǎng)絡(luò)
        的頭像 發(fā)表于 07-03 10:12 ?516次閱讀

        卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練的是什么

        、訓(xùn)練過程以及應(yīng)用場景。 1. 卷積神經(jīng)網(wǎng)絡(luò)的基本概念 1.1 卷積神經(jīng)網(wǎng)絡(luò)的定義 卷積神經(jīng)網(wǎng)絡(luò)是一種前饋深度學(xué)習(xí)模型，其核心思想是利用卷積操作提取輸入數(shù)據(jù)的局部特征，并通過多層結(jié)構(gòu)進(jìn)
        的頭像 發(fā)表于 07-03 09:15 ?219次閱讀

        如何訓(xùn)練和優(yōu)化神經(jīng)網(wǎng)絡(luò)

        神經(jīng)網(wǎng)絡(luò)是人工智能領(lǐng)域的重要分支，廣泛應(yīng)用于圖像識(shí)別、自然語言處理、語音識(shí)別等多個(gè)領(lǐng)域。然而，要使神經(jīng)網(wǎng)絡(luò)在實(shí)際應(yīng)用中取得良好效果，必須進(jìn)行有效的訓(xùn)
        的頭像 發(fā)表于 07-01 14:14 ?267次閱讀

        Kaggle知識(shí)點(diǎn)：訓(xùn)練神經(jīng)網(wǎng)絡(luò)的7個(gè)技巧

        。訓(xùn)練神經(jīng)網(wǎng)絡(luò)的挑戰(zhàn)在訓(xùn)練數(shù)據(jù)集的新示例之間取得平衡。七個(gè)具體的技巧，可幫助您更快地訓(xùn)練出更好的神經(jīng)網(wǎng)絡(luò)
        的頭像 發(fā)表于 12-30 08:27 ?543次閱讀
        Kaggle知識(shí)點(diǎn)：<b class='flag-5'>訓(xùn)練</b><b class='flag-5'>神經(jīng)網(wǎng)絡(luò)</b>的7個(gè)技巧

        如何訓(xùn)練這些神經(jīng)網(wǎng)絡(luò)來解決問題？

        在神經(jīng)網(wǎng)絡(luò)建模中，經(jīng)常會(huì)出現(xiàn)關(guān)于神經(jīng)網(wǎng)絡(luò)應(yīng)該有多復(fù)雜的問題，即它應(yīng)該有多少層，或者它的濾波器矩陣應(yīng)該有多大。這個(gè)問題沒有簡單的答案。與此相關(guān)，討論網(wǎng)絡(luò)過擬合和欠擬合非常重要。過擬合是模
        發(fā)表于 11-24 15:35 ?637次閱讀
        如何<b class='flag-5'>訓(xùn)練</b>這些<b class='flag-5'>神經(jīng)網(wǎng)絡(luò)</b>來解決問題？