0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

清華光芯片取得新突破,邁向AI光訓練

Felix分析 ? 來源:電子發(fā)燒友 ? 作者:吳子鵬 ? 2024-08-13 01:23 ? 次閱讀

電子發(fā)燒友網(wǎng)報道(文/吳子鵬)近日,清華大學發(fā)布官方消息稱,清華大學電子工程系方璐教授課題組、自動化系戴瓊海院士課題組另辟蹊徑,首創(chuàng)了全前向智能光計算訓練架構(gòu),研制了“太極-II”光訓練芯片,實現(xiàn)了光計算系統(tǒng)大規(guī)模神經(jīng)網(wǎng)絡的高效精準訓練。

目前,這一研究成果已經(jīng)于北京時間8月7日正式刊登在《自然》期刊上,主題為“光神經(jīng)網(wǎng)絡全前向訓練”。

“太極”光訓練芯片快速進化

去年10月,清華大學就發(fā)布消息稱,方璐教授課題組、戴瓊海院士課題組聯(lián)合攻關,提出了一種“掙脫”摩爾定律的全新計算架構(gòu):光電模擬芯片,算力達到目前高性能商用芯片的三千余倍。

2023年10月26日,清華大學光電模擬芯片的研究成果發(fā)布在《自然》期刊上,這篇論文幫助大家科普了光電模擬芯片的理念和實現(xiàn)方式。根據(jù)論文,這是一種光電深度融合的計算框架,結(jié)合了基于電磁波空間傳播的光計算,與基于基爾霍夫定律的純模擬電子計算。在芯片制程上,該芯片不再受限于摩爾定律;在數(shù)據(jù)傳輸上,該芯片用光傳輸取代了電信號傳輸,打破了傳統(tǒng)芯片架構(gòu)中數(shù)據(jù)轉(zhuǎn)換速度、精度與功耗相互制約的物理瓶頸。

今年4月份,這項研究正式推出了“太極”芯片,可實現(xiàn)160TOPS/W的系統(tǒng)級能效。論文第一作者、清華大學電子系博士生徐智昊表示,“太極”芯片采用的是干涉—衍射分布式廣度光計算架構(gòu),自頂向下的編碼拆分-解碼重構(gòu)機制,將復雜智能任務化繁為簡,拆分為多通道高并行的子任務,構(gòu)建的分布式‘大感受野’淺層光網(wǎng)絡對子任務分而治之,突破物理模擬器件多層深度級聯(lián)的固有計算誤差。

從“太極”芯片到“太極-II”芯片,只有不到半年的時間,但是其中的進步是非常明顯的。根據(jù)論文信息,“太極”芯片依然依賴傳統(tǒng)的光通信架構(gòu),需要GPU進行離線建模,要求高度匹配的前向-反向傳播模型,也就需要物理系統(tǒng)精準對齊,“太極-II”芯片不再依賴電計算進行離線的建模與訓練,大規(guī)模神經(jīng)網(wǎng)絡的精準高效光訓練終于得以實現(xiàn)。

據(jù)介紹,“太極-Ⅱ”芯片的面世,填補了智能光計算在大規(guī)模神經(jīng)網(wǎng)絡訓練這一核心領域的空白。除了加速AI模型訓練外,其還在高性能智能成像、高效解析拓撲光子系統(tǒng)等方面表現(xiàn)出卓越性能,為人工智能大模型、通用人工智能、復雜智能系統(tǒng)的高效精準訓練開辟了新路徑。

更進一步說,“太極-Ⅱ”芯片的發(fā)布對“光子傳播對稱性”研究有重要意義,將神經(jīng)網(wǎng)絡訓練中的前向與反向傳播都等效為光的前向傳播。據(jù)論文第一作者、電子系博士生薛智威介紹,在太極-II架構(gòu)下,梯度下降中的反向傳播化為了光學系統(tǒng)的前向傳播,光學神經(jīng)網(wǎng)絡的訓練利用數(shù)據(jù)-誤差兩次前向傳播即可實現(xiàn)。兩次前向傳播具備天然的對齊特性,保障了物理梯度的精確計算。如此實現(xiàn)的訓練精度高,便能夠支撐大規(guī)模的網(wǎng)絡訓練。

芯片制造上,“太極”芯片光學部分的加工最小線寬僅采用百納米級,電路部分僅采用180nm CMOS工藝,已取得比7nm制程的高性能芯片多個數(shù)量級的性能提升。芯片成本僅為目前先進計算芯片的幾十分之一,這是一種真正的芯片換道超車。

光芯片是計算芯片的未來?

曾幾何時,摩爾定律被譽為“硅谷的節(jié)拍器”,但近年來業(yè)界關于“摩爾定律是否失效”的討論越來越多。尤其是在AI時代,算力需求的爆發(fā)式增長讓摩爾定律正在失效的影響被進一步放大。在過去的幾十年中,摩爾定律一直被認為是計算機行業(yè)的基石之一,當其失效之后,會有更多的創(chuàng)新技術來引領高性能計算的發(fā)展,比如芯片制造層面的先進封裝,再比如量子計算、光計算等。

在AI時代的未來里,光芯片被寄予厚望。微電子芯片采用電流信號來作為信息的載體,而光芯片則采用頻率更高的光波來作為信息載體,具有更低的傳輸損耗 、更寬的傳輸帶寬、更小的時間延遲,以及更強的抗電磁干擾能力。

光芯片的核心是用波導來代替電芯片的銅導線,來做芯片和板卡上的信號傳輸,因此光芯片主要由發(fā)光器件(產(chǎn)生光)和光波導(引導光傳播的裝置)組成。當光在波導里面?zhèn)鬏數(shù)臅r候,波導和波導之間出現(xiàn)光信號干涉,用這個物理過程來模擬線性計算這一類的計算過程,即通過光在傳播和相互作用之中的信息變化來進行計算。

光芯片的發(fā)展并不是完全革新微電子芯片的技術路徑,而是一種融合,因此光電轉(zhuǎn)化也很關鍵。在電轉(zhuǎn)光部分,激光器芯片主要用于發(fā)射信號,原理是以電激勵源方式,以半導體材料為增益介質(zhì),將注入電流的電能激發(fā),通過光學諧振放大選模,從而輸出激光,實現(xiàn)電光轉(zhuǎn)換。激光器芯片用到的增益介質(zhì)包括GaAs(砷化鎵)、InP(磷化銦)、Si(硅基)等。在光轉(zhuǎn)電部分,探測器通過光電效應識別光信號,轉(zhuǎn)化為電信號。

光芯片的生產(chǎn)流程基本可以分為芯片設計、基板制造、磊晶成長和晶粒制造四個流程,主要技術壁壘在后兩點,其中磊晶成長也稱外延生長,是技術壁壘最高的環(huán)節(jié)。因此,與微電子芯片側(cè)重于光刻工藝追求先進制程不同,光芯片性能的提升不完全依靠尺寸的減小,更注重外延結(jié)構(gòu)設計與生長。

在光芯片的研發(fā)上,國內(nèi)除了清華大學,中科院的進展也是非??斓?。比如,去年6月中國科學院半導體研究所集成光電子學國家重點實驗室微波光電子課題組李明研究員-祝寧華院士團隊研制出一款超高集成度光學卷積處理器,實現(xiàn)了“傳輸即計算,結(jié)構(gòu)即功能”的計算架構(gòu),具有大帶寬、低延時、低功耗等優(yōu)點。

目前,國內(nèi)的光芯片和光模塊廠商包括芯思杰、瑞識科技、新亮智能、度亙激光、長瑞光電、立芯光電、源杰半導體、銳晶激光、索爾思光電、長光華芯、華工科技、光迅科技、新易盛、云嶺光電、敏芯半導體、博創(chuàng)科技、中際旭創(chuàng)、縱慧芯光、曦智科技、劍橋科技、凌越光電、盛為芯等。這些企業(yè)主要關注數(shù)通市場,應用領域包括5G和數(shù)據(jù)中心光通信等。

不過,在數(shù)通市場的企業(yè)端,目前國內(nèi)也還處于落后的位置,高端光器件的國產(chǎn)化率還比較低,比如25G及以上的光芯片,?國產(chǎn)化率就比較低,其中25G光芯片的國產(chǎn)化率為20%,更高速率的國產(chǎn)化率僅為5%。在25G及以上的光模塊里,光芯片的成本占比超過了60%,且速率越高占比越高,可見光芯片的重要性。

在光計算芯片方面,國內(nèi)光計算芯片公司光本位科技已完成首顆算力密度和算力精度均達到商用標準的光計算芯片流片,峰值算力為1700TOPS,對標的是英偉達的A100,產(chǎn)業(yè)落地也在破曉之際。

結(jié)語

根據(jù)LightCounting的數(shù)據(jù)測算,全球光芯片市場規(guī)模將從2022年的27億美元增長至2027年的56億美元,CAGR為16%。其中絕大部分的光芯片仍然主要用于數(shù)據(jù)傳輸,在計算層面光芯片還在起步階段,但概念探索和成果落地的速度非常快,國內(nèi)清華大學和中科院更是捷報頻傳,有望實現(xiàn)國產(chǎn)高性能計算芯片的換道超車。?

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 光芯片
    +關注

    關注

    3

    文章

    92

    瀏覽量

    10811
收藏 人收藏

    評論

    相關推薦

    AI訓練:清華光芯片研究取得突破

    行業(yè)芯事行業(yè)資訊
    電子發(fā)燒友網(wǎng)官方
    發(fā)布于 :2024年08月12日 10:58:43

    蘋果承認使用谷歌芯片訓練AI

    蘋果公司最近在一篇技術論文中披露,其先進的人工智能系統(tǒng)Apple Intelligence背后的兩個關鍵AI模型,是在谷歌設計的云端芯片上完成預訓練的。這一消息標志著在尖端AI
    的頭像 發(fā)表于 07-30 17:03 ?597次閱讀

    AI訓練的基本步驟

    AI(人工智能)訓練是一個復雜且系統(tǒng)的過程,它涵蓋了從數(shù)據(jù)收集到模型部署的多個關鍵步驟。以下是對AI訓練過程的詳細闡述,包括每個步驟的具體內(nèi)容,并附有相關代碼示例(以Python和sc
    的頭像 發(fā)表于 07-17 16:57 ?833次閱讀

    世界首款!又是清華:類腦互補視覺芯片“天眸芯”

    近日,清華大學在類腦視覺感知芯片領域取得重要突破清華大學依托精密儀器系的類腦計算研究中心施路平教授團隊,提出一種基于視覺原語的互補雙通路類
    的頭像 發(fā)表于 06-04 08:36 ?278次閱讀
    世界首款!又是<b class='flag-5'>清華</b>:類腦互補視覺<b class='flag-5'>芯片</b>“天眸芯”

    清華類腦視覺芯片取得重大突破,“天眸芯”登上Nature封面

    電子發(fā)燒友網(wǎng)報道(文/李寧遠)5月30日,來自清華大學類腦計算研究中心團隊的類腦互補視覺芯片“天眸芯”登上了《Nature》封面。 文章名為“A vision chip
    的頭像 發(fā)表于 06-01 00:54 ?4392次閱讀
    <b class='flag-5'>清華</b>類腦視覺<b class='flag-5'>芯片</b><b class='flag-5'>取得</b>重大<b class='flag-5'>突破</b>,“天眸芯”登上Nature封面

    華光光電808nm高功率半導體激光芯片研究取得重大技術突破

    近日,華光光電808nm高功率半導體激光芯片研究取得重大技術突破。經(jīng)過公司研發(fā)團隊持續(xù)地科研攻關,華光光電成功研制出25W高功率高可靠性激光
    的頭像 發(fā)表于 04-26 10:54 ?953次閱讀
    <b class='flag-5'>華光</b>光電808nm高功率半導體激光<b class='flag-5'>芯片</b>研究<b class='flag-5'>取得</b>重大技術<b class='flag-5'>突破</b>

    Open AI進軍芯片業(yè)技術突破與市場機遇

    Sam希望獲得資金支持一個雄心勃勃的項目,目的是創(chuàng)建先進芯片,減少對目前AI芯片市場領導者英偉達的依賴,芯片算力對于訓練
    發(fā)表于 01-22 14:37 ?299次閱讀
    Open <b class='flag-5'>AI</b>進軍<b class='flag-5'>芯片</b>業(yè)技術<b class='flag-5'>突破</b>與市場機遇

    計算芯片AI芯片國產(chǎn)化的關鍵突破

    大模型訓練和推理的硬件以通用圖形處理單元(GPU)為主,2022年全球GPU市場規(guī)模達到448.3億美元,美國AI芯片巨頭英偉達公司占有80%的市場份額并仍在持續(xù)攀升。
    發(fā)表于 01-19 14:12 ?1364次閱讀
    硅<b class='flag-5'>光</b>計算<b class='flag-5'>芯片</b>:<b class='flag-5'>AI</b><b class='flag-5'>芯片</b>國產(chǎn)化的關鍵<b class='flag-5'>突破</b>口

    AI芯片、模塊和芯片的發(fā)展趨勢

    根據(jù) OpenAI 官網(wǎng),AI 模型訓練計算量自 2012 年起每 3.4 個月就增長一倍。以 GPT-3 模型為例,根據(jù) lambdalabs 數(shù)據(jù),該模型參數(shù)規(guī)模達 1750 億,完整訓練運算量
    的頭像 發(fā)表于 12-29 10:07 ?1257次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>芯片</b>、<b class='flag-5'>光</b>模塊和<b class='flag-5'>光</b><b class='flag-5'>芯片</b>的發(fā)展趨勢

    華光光電兩項新技術被評價為國際先進水平

    近日,山東華光光電子股份有限公司兩項新技術取得突破,經(jīng)山東電子學會組織專家進行鑒定,評價為國際先進水平。
    的頭像 發(fā)表于 11-25 10:37 ?672次閱讀
    <b class='flag-5'>華光</b>光電兩項新技術被評價為國際先進水平

    清華研制出首個全模擬光電智能計算芯片ACCEL

    是已完成了原理樣片。 清華大學研究團隊提出光電融合的全新計算框架:結(jié)合基于電磁波空間傳播的計算,與基于基爾霍夫定律的全模擬電子計算,在一枚芯片突破了大規(guī)模計算單元集成、高效非線性、
    的頭像 發(fā)表于 11-05 18:10 ?1130次閱讀

    清華大學團隊在超高性能計算芯片領域取得突破

    清華大學團隊在超高性能計算芯片領域取得突破,相關研究發(fā)表在Nature上。
    的頭像 發(fā)表于 10-29 09:20 ?893次閱讀
    <b class='flag-5'>清華</b>大學團隊在超高性能計算<b class='flag-5'>芯片</b>領域<b class='flag-5'>取得</b>新<b class='flag-5'>突破</b>

    我國芯片突破!清華大學全球首枚!

    芯片!一枚芯片,集成記憶和計算的能力,保護用戶隱私的同時還具備類似人腦的自主學習,能效相較先進工藝下的專用集成電路系統(tǒng)有約75倍提升。這是清華大學集成電路學院團隊研
    的頭像 發(fā)表于 10-14 08:11 ?493次閱讀
    我國<b class='flag-5'>芯片</b><b class='flag-5'>突破</b>!<b class='flag-5'>清華</b>大學全球首枚!

    存算一體芯片突破!清華大學研制出首顆存算一體芯片

    這幾天清華大學又火出圈了。但這次并不是因為招生搶人和飯?zhí)?,而?b class='flag-5'>清華大學的芯片研發(fā)團隊研制出全球首顆全系統(tǒng)集成的存算一體芯片。這是我國、乃至全世界對半導體行業(yè)的又一重大
    的頭像 發(fā)表于 10-11 14:39 ?931次閱讀

    清華大學重磅消息:全球首顆!我國芯片領域取得重大突破

    ,清華大學集成電路學院教授吳華強、副教授高濱基于存算一體計算范式,研制出全球首顆全系統(tǒng)集成的、支持高效片上學習(機器學習能在硬件端直接完成)的憶阻器存算一體芯片,在支持片上學習的憶阻器存算一體芯片領域
    的頭像 發(fā)表于 10-11 08:39 ?640次閱讀
    <b class='flag-5'>清華</b>大學重磅消息:全球首顆!我國<b class='flag-5'>芯片</b>領域<b class='flag-5'>取得</b>重大<b class='flag-5'>突破</b>