0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

指數(shù)級增長的AI計算量,給光子計算帶來了新的機遇

E4Life ? 來源:電子發(fā)燒友網(wǎng) ? 作者:周凱揚 ? 2023-07-04 01:06 ? 次閱讀

電子發(fā)燒友網(wǎng)報道(文/周凱揚)在生成式AI爆發(fā)和計算量指數(shù)增長的當(dāng)下,不少傳統(tǒng)的AI加速器以及網(wǎng)絡(luò)芯片公司都因此受益,紛紛在已有的架構(gòu)上針對AI或HPC進行優(yōu)化。但與此同時,也有不少企業(yè)將希望寄托于創(chuàng)新的硅光計算架構(gòu)上,指望光子能帶來全新的計算與互聯(lián)方案。

Lightmatter

2021年,Lightmatter推出了Envise這一通用光子AI加速器方案,可以完成各種先進AI模型(GPT-3、Megatron)以及主要神經(jīng)網(wǎng)絡(luò)(BERT-Large、DLRM、ResNet-50)的高性能推理。與之一同推出的還有Lightmatter針對AI應(yīng)用專門打造的軟件棧,Idiom,用于在Envise上編譯和執(zhí)行神經(jīng)網(wǎng)絡(luò)模型,并提供查錯、分析和優(yōu)化的工具。

最有野心的自然還是一同公布的晶圓級光子互聯(lián)方案,Passage。該方案基于硅光和共封裝光學(xué)(CPO)方案,將Chiplet處理器互聯(lián)在一起。就像是我們在英偉達HGX A100上看到的PCB/電路方案一樣,只不過這次NVSwitch這樣的互聯(lián)方案換成了光子通路,芯片與芯片之間的互聯(lián)帶寬最高可達100Tbps。根據(jù)Lightmatter提供的示意圖,他們直接跳過了2.5D CPO和3D CPO的方案,轉(zhuǎn)為集成激光器件的3D CPO方案。

為了應(yīng)對這股AI潮,并成功在未來將更多光子產(chǎn)品交付給客戶,比如大型云服務(wù)廠商、半導(dǎo)體公司等,Lightmatter在今年5月底開啟了C輪融資,最終成功從SIP Global、谷歌、HPE等企業(yè)獲得了1.54億美元的融資,為公司迄今以來最大的一筆融資。為了進一步提高其設(shè)計實力,Lightmatter還在去年招募了谷歌Tensor項目主導(dǎo)人以及英特爾數(shù)據(jù)中心封裝的主導(dǎo)人。

曦智科技

曦智科技作為光子計算的領(lǐng)頭廠商之一,于2021年底發(fā)布了其第二代光子計算處理器PACE。PACE采用了64x64的光學(xué)矩陣乘法器作為核心,整個處理器由一塊集成硅光芯片和一塊CMOS微電子芯片3D封裝堆疊而成。該結(jié)構(gòu)下的PACE單個光子芯片中集成了10000多個光子器件,加上1GHz的時鐘頻率,據(jù)曦智科技的說法,PACE運行某些神經(jīng)網(wǎng)絡(luò)算法的速度可達彼時高端GPU的數(shù)百倍。

而這僅僅是曦智科技在光子矩陣計算(oMAC)上的應(yīng)用,為了進一步打破內(nèi)存墻,他們需要在互聯(lián)技術(shù)上有所突破。近日,曦智科技發(fā)布了全新的大數(shù)據(jù)互聯(lián)解決方案,Hummingbird。Hummingbird是全球首個光子片上網(wǎng)絡(luò)(oNOC)處理器,專為特定領(lǐng)域的AI負載所設(shè)計。

wKgaomSineOACtf-AADWbReBwos103.jpg
Hummingbird PCIe板卡 / 曦智科技


在Hummingbird上,曦智科技為64個核心打造了一個低延遲的全通廣播網(wǎng)絡(luò),加上64個發(fā)射器與512個接收器,Hummingbird提供了一個靈活配置的高密度光學(xué)拓撲結(jié)構(gòu)。此外,Hummingbird采用了光學(xué)IC與電子IC共封裝進PCIe卡的方式,因此可以直接用于標準服務(wù)器中。曦智科技表示他們將在今年第三季度推出Hummingbird PCIe卡和SDK,并在今年的閃存峰會和HotChips上展示Demo和更多情報。

寫在最后

其實追求光子計算的原因并不僅僅只有突破計算或互聯(lián)瓶頸而已,在AI把計算量進一步拔高的當(dāng)下,在維持性能擴張速度的同時控制功耗和碳排放已經(jīng)變得越來越難了。要想解決這個問題,就不得不換一種出路,利用光子計算的結(jié)構(gòu)來抵消晶體管的能耗。

固然光子計算芯片對于大部分半導(dǎo)體公司,還屬于和量子計算一樣夠不著的概念。但現(xiàn)在看來,隨著晶圓廠在硅光工藝上的成熟,EDA廠商逐漸完善的光電設(shè)計工具,光子計算依然是值得深入探索的新興技術(shù)領(lǐng)域。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 光子計算
    +關(guān)注

    關(guān)注

    0

    文章

    14

    瀏覽量

    3072
收藏 人收藏

    評論

    相關(guān)推薦

    新思科技探索AI+EDA的更多可能性

    芯片設(shè)計復(fù)雜性的快速指數(shù)增長開發(fā)者帶來了巨大的挑戰(zhàn),整個行業(yè)不僅要向埃米發(fā)展、Muiti-
    的頭像 發(fā)表于 08-29 11:19 ?363次閱讀

    AI4Science黑客松光子計算挑戰(zhàn)賽成功舉辦

    經(jīng)過數(shù)月角逐,第二屆AI4Science黑客松競賽日前落下帷幕。在曦智科技主持的光子計算挑戰(zhàn)賽中,參賽選手何自強和來自東北大學(xué)的參賽隊伍The Power of Light獲得完賽優(yōu)勝獎。
    的頭像 發(fā)表于 08-07 09:58 ?333次閱讀

    RISC-V在中國的發(fā)展機遇有哪些場景?

    聯(lián)網(wǎng)市場的重要參與者,擁有龐大的用戶基數(shù)和豐富的應(yīng)用場景。RISC-V在中國的發(fā)展將受益于這一市場需求的增長。 2. 人工智能(AIAI算力需求:隨著人工智能技術(shù)的廣泛應(yīng)用,對算力的需求不斷增加
    發(fā)表于 07-29 17:14

    存內(nèi)計算WTM2101編譯工具鏈 資料

    工藝條件下將AI計算效率提升2個數(shù)量級,充分滿足快速發(fā)展的神經(jīng)網(wǎng)絡(luò)模型指數(shù)增長的算力需求。 witin_mapper是知存科技自研的用于
    發(fā)表于 05-16 16:33

    高性能AI芯片設(shè)計的溫控與電磁干擾問題

    人工智能 (AI) 系統(tǒng)及其大型數(shù)據(jù)集、機器學(xué)習(xí)算法和計算硬件的高速發(fā)展,為各種領(lǐng)域帶來了重大機遇,但也帶來了巨大的挑戰(zhàn)。
    發(fā)表于 04-28 10:47 ?370次閱讀

    Arm 的使命是助力應(yīng)對 AI 無止盡的能源需求

    社會帶來的益處將超乎我們的想象。為了運行這些復(fù)雜的 AI 工作負載,全球數(shù)據(jù)中心所需的計算需要以指數(shù)
    的頭像 發(fā)表于 04-26 11:28 ?326次閱讀

    Arm 的使命是助力應(yīng)對 AI 無止盡的能源需求

    這些復(fù)雜的 AI 工作負載,全球數(shù)據(jù)中心所需的計算需要以指數(shù)規(guī)模進行擴展。然而,這種對計算
    發(fā)表于 04-23 13:35 ?156次閱讀

    AI時代如何確保計算安全?

    正如其他技術(shù)革新一樣,人工智能 (AI) 為人們的數(shù)字體驗帶來了機遇,但同時也伴隨著諸多挑戰(zhàn)。
    的頭像 發(fā)表于 04-09 17:07 ?348次閱讀

    FPGA的力量:2024年AI計算領(lǐng)域的黑馬?

    隨著人工智能(AI)的快速發(fā)展,其對計算能力的需求也在持續(xù)增長。傳統(tǒng)的中央處理器(CPU)和圖形處理器(GPU)雖然在AI計算中占據(jù)主導(dǎo)地位
    的頭像 發(fā)表于 03-07 09:37 ?773次閱讀
    FPGA的力量:2024年<b class='flag-5'>AI</b><b class='flag-5'>計算</b>領(lǐng)域的黑馬?

    邊緣計算與云計算:有什么區(qū)別?

    邊緣計算和云計算是兩種不同的計算范式,它們有不同的用途,但在某些場景下也可以相互補充。在當(dāng)今日益數(shù)字化的世界中,對計算資源的需求呈指數(shù)
    的頭像 發(fā)表于 02-19 13:26 ?373次閱讀
    邊緣<b class='flag-5'>計算</b>與云<b class='flag-5'>計算</b>:有什么區(qū)別?

    什么是AI邊緣計算,AI邊緣計算的特點和優(yōu)勢介紹

    隨著人工智能的迅猛發(fā)展,AI邊緣計算成為了熱門話題。那么什么是AI邊緣計算呢?簡單來說,它是將人工智能技術(shù)引入邊緣計算的新興領(lǐng)域,旨在將
    的頭像 發(fā)表于 02-01 11:42 ?699次閱讀

    墨芯人工智能CEO王維:需要重新定義和設(shè)計AI計算

    AI時代,我們需要重新定義和設(shè)計AI計算機。僅依靠硅基的摩爾定律,2年翻一倍的線性增長的算力供給遠不能滿足指數(shù)
    的頭像 發(fā)表于 01-12 11:12 ?926次閱讀

    什么是光電量子計算芯片?

    什么是光電量子計算芯片? 光電量子計算芯片,也被稱為光子量子計算芯片,是一種新型的計算芯片,利用光子
    的頭像 發(fā)表于 01-09 14:42 ?714次閱讀

    可以計算光最佳形狀的光子芯片?

    就在最近,一個由多個大學(xué)的研究人員組成的國際團隊突破了這一難題,讓光學(xué)無線系統(tǒng)的數(shù)據(jù)傳輸不再有障礙,該研究團隊制造出的新型光子芯片可計算出光的最佳形狀,從而讓光以最佳的效率穿過任何環(huán)境,相關(guān)研究成果發(fā)表在《自然-光子學(xué)》雜志上。
    的頭像 發(fā)表于 12-06 16:03 ?549次閱讀

    什么是邊緣計算?邊緣計算的優(yōu)勢和應(yīng)用場景

    現(xiàn)今,數(shù)十億物聯(lián)網(wǎng)和移動設(shè)備收集的數(shù)據(jù)呈指數(shù)增長,正在推動從發(fā)送數(shù)據(jù)到云進行處理和存儲向分布式模型的轉(zhuǎn)變,在此趨勢下,部分計算發(fā)生在網(wǎng)絡(luò)邊緣,更靠近數(shù)據(jù)的創(chuàng)建位置。
    的頭像 發(fā)表于 11-29 11:35 ?1108次閱讀
    什么是邊緣<b class='flag-5'>計算</b>?邊緣<b class='flag-5'>計算</b>的優(yōu)勢和應(yīng)用場景