0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

用光電混合突破算力邊界,WAIC上這家企業(yè)大秀肌肉

Felix分析 ? 來源:電子發(fā)燒友 ? 作者:吳子鵬 ? 2024-07-09 00:24 ? 次閱讀

電子發(fā)燒友網(wǎng)報道(文/吳子鵬)當(dāng)前,摩爾定律遇到了非常大的挑戰(zhàn),傳統(tǒng)硅器件要實現(xiàn)性能提升需要付出高昂的代價。在這個大背景下,光電混合被認(rèn)為是未來計算芯片突破性能瓶頸的有效手段。就連有全球半導(dǎo)體風(fēng)向標(biāo)之稱的ISSCC會議對光電混合也是高度關(guān)注,在2024年世界人工智能大會(以下簡稱:WAIC 2024)上,曦智科技所展示的領(lǐng)先的光電混合技術(shù)同樣得到了廣泛的關(guān)注。

wKgaomaLvlSAbDYfAAE0rUBeevw272.jpg
WAIC 2024觀眾參觀曦智科技展臺


面向AI大模型所需要的計算和互連兩大關(guān)鍵環(huán)節(jié),曦智科技展示了首款基于片上光網(wǎng)絡(luò)技術(shù)(oNOC)的全長、全高、雙插槽PCIe Gen3的人工智能推理卡OptiHummingbird,CPO共封裝光學(xué) (Co-Packaged Optics)方面技術(shù)儲備,以及其他光計算、光互連硬件等。

打造硅光技術(shù)和光電混合算力新范式

很多人將光電混合定義為未來的科技之光,這其實并不夸張,硅光芯片和光通信等前沿技術(shù)在計算和傳輸方面所體現(xiàn)出來的優(yōu)勢是巨大的。比如,光子芯片具有高速、大帶寬和低功耗的特點,可以更好地實現(xiàn)海量數(shù)據(jù)的高效處理,并避免電信號的傳輸噪聲和傳輸延遲。同時,硅光計算芯片能夠在單芯片內(nèi)融入多種光子器件,不僅有更高的集成度,而且能夠兼容傳統(tǒng)的硅半導(dǎo)體器件和制造工藝。

曦智科技OptiHummingbird里面的芯片便是采用先進的封裝技術(shù),將硅光芯片和微電子芯片通過中間層進行垂直封裝。在這顆芯片內(nèi)部,微電子芯片提供了64個計算核,硅光芯片則提供oNOC(Optical Network on Chip)片上光網(wǎng)絡(luò)。oNOC可以實現(xiàn)單個電芯片(EIC)內(nèi)部的數(shù)據(jù)傳輸,也可以實現(xiàn)封裝內(nèi)部多個電芯片(EIC)之間的數(shù)據(jù)通信,因此oNOC是實現(xiàn)片上多核異構(gòu)計算的核心技術(shù)。通過oNOC技術(shù)和光電混合,使得搭載相關(guān)芯片的OptiHummingbird加速卡具有非常高的計算能效,只需要被動散熱,硬件功耗僅為65W。

為打造集成硅光技術(shù)與光電混合的算力新范式,曦智科技目前擁有多項前沿的技術(shù)儲備。比如oMAC光子矩陣計算:通過光來替代傳統(tǒng)的電子進行數(shù)據(jù)處理,可執(zhí)行線性運算,主要指乘法與加法,也可理解為矩陣-矩陣或矩陣-向量之間的乘法;oNET片間光網(wǎng)絡(luò):光芯片起到類似optical BUS的作用,將單元內(nèi)部需要傳輸?shù)臄?shù)據(jù)集中起來,通過光傳播介質(zhì)(如光纖)與其他單元進行數(shù)據(jù)交互。

基于這些前沿的技術(shù),曦智科技也展示了一些前沿的成果,比如曦智科技第二代光子計算處理器PACE,PACE的核心是64x64的光學(xué)矩陣乘法器,由一塊集成硅光芯片和一塊CMOS微電子芯片以3D封裝形式堆疊而成。PACE的單個光子芯片中集成超過10000個光子器件,運行1GHz系統(tǒng)時鐘。在展會現(xiàn)場,曦智科技演示了PACE在解決最大割問題上的速度,顯著優(yōu)于該產(chǎn)品發(fā)布時市場上領(lǐng)先的GPU芯片。

助力實現(xiàn)資源池化和全光互連

除了光電混合的計算能力,曦智科技也在積極布局光電傳輸,現(xiàn)階段這方面的需求是巨大的。舉兩個典型的市場需求,第一個是數(shù)據(jù)中心采用計算和存儲分離式架構(gòu),很大程度上依賴于PCIe和CXL等低延遲互連,通過光互連實現(xiàn)CXL是非常有效的手段;第二是全光底座的打造,通過超大規(guī)模全光組網(wǎng)、城域池化波分和全光綜合接入等關(guān)鍵技術(shù),實現(xiàn)超大帶寬、超低時延、超高可靠的連接網(wǎng)絡(luò),在全光底座和計算單元的連接上,也有巨大的光電混合需求。

WAIC 2024上,曦智科技展示了首款兼容PCIe和CXL協(xié)議的數(shù)據(jù)中心計算光互連硬件產(chǎn)品Photowave,具有標(biāo)準(zhǔn)PCIe卡、OCP 3.0 SFF卡和有源光纜等多種產(chǎn)品形態(tài)。該產(chǎn)品系列可配置x16、x8 、x4 、x2等不同通道數(shù),適用于服務(wù)器平臺、CXL交換機、存儲應(yīng)用以及xPU之間的互連,兼容性強。Photowave具有非常明顯的低延遲和能效優(yōu)勢,設(shè)計數(shù)據(jù)傳輸延遲低于20納秒,其中有源光纜延遲低至1納秒以下,功耗也降至15瓦以下。這里需要特別提到的是,Photowave的核心技術(shù)便是oNET片間光網(wǎng)絡(luò),oNET和CXL的融合是一種強強聯(lián)合,可以幫助數(shù)據(jù)中心更好地實現(xiàn)資源池化和橫向擴展。

wKgZomaLvt6AAEvHAABfURUWFb8220.jpg
曦智科技Photowave計算光互連硬件產(chǎn)品


曦智科技工作人員表示,Photowave讓數(shù)據(jù)中心主要資源全部解耦和池化,支持單模和多模光纖實現(xiàn),最大支持?jǐn)?shù)十米的傳輸距離,并且資源可靈活調(diào)配和增減。

曦智科技還展示了基于OCS的跨服務(wù)器XPU光互連。OCS(Optical Circuit Switching)是一種基于光學(xué)交叉開關(guān)原理的光信號控制交換技術(shù),其核心功能是在光層面對信號進行快速、靈活的路由和切換,使服務(wù)器端口實現(xiàn)直接光學(xué)互連,過程中無需光電轉(zhuǎn)換,能耗大幅度降低。

綜合而言,曦智科技在光互連方面提供的產(chǎn)品包括互連線纜、OBO板載光組件、OCP轉(zhuǎn)接卡和互連板卡。

結(jié)語

Yole的統(tǒng)計數(shù)據(jù)顯示,2022年全球硅光市場規(guī)模達到6,800萬美元,受益于用于提升光纖網(wǎng)絡(luò)容量的數(shù)據(jù)中心收發(fā)器的推動,預(yù)期2028年全球硅光市場規(guī)模將達到6億美元,其間硅光芯片年復(fù)合增長率預(yù)估為44%。當(dāng)前,光傳輸在數(shù)據(jù)中心領(lǐng)域已經(jīng)得到了廣泛的認(rèn)可,隨著硅器件的計算瓶頸愈發(fā)明顯,未來光電混合的計算芯片也有巨大的發(fā)展前景。無論是計算還是傳輸,曦智科技都已經(jīng)走在了產(chǎn)業(yè)前沿。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 算力
    +關(guān)注

    關(guān)注

    1

    文章

    833

    瀏覽量

    14567
  • 曦智科技
    +關(guān)注

    關(guān)注

    0

    文章

    22

    瀏覽量

    5797
  • 光電芯片
    +關(guān)注

    關(guān)注

    0

    文章

    21

    瀏覽量

    57
收藏 人收藏

    評論

    相關(guān)推薦

    【書籍評測活動NO.43】 芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析

    的應(yīng)用需求。 12年前,我與本書作者相識時,他向我提出一個想法:建立中關(guān)村在線高性能計算頻道。該頻道隸屬于核心硬件事業(yè)部,聚焦芯片相關(guān)的產(chǎn)品技術(shù)分析、評測,并為企業(yè)客戶提供內(nèi)部參考。后來這個想法被否決
    發(fā)表于 09-02 10:09

    大模型時代的需求

    現(xiàn)在AI已進入大模型時代,各企業(yè)都爭相部署大模型,但如何保證大模型的,以及相關(guān)的穩(wěn)定性和性能,是一個極為重要的問題,帶著這個極為重要的問題,我需要在此書中找到答案。
    發(fā)表于 08-20 09:04

    IaaS+on+DPU(IoD)+下一代高性能底座技術(shù)白皮書

    DPU 是當(dāng)下基礎(chǔ)設(shè)施的核心創(chuàng)新之一。如果把 CPU 比做大腦,那么 GPU 就好比是肌肉,而 DPU 就是神經(jīng)中樞。CPU 承載了應(yīng)用生態(tài),提供了通用型
    發(fā)表于 07-24 15:32

    浪潮信息攜全棧智產(chǎn)品和方案亮相WAIC 2024

    7月4日,2024世界人工智能大會(WAIC2024)在上海開幕。大會聚焦大模型、、機器人、自動駕駛等重點領(lǐng)域,吸引眾多國內(nèi)外知名人工智能企業(yè)參會。作為全球領(lǐng)先的IT基礎(chǔ)設(shè)施供應(yīng)商
    的頭像 發(fā)表于 07-05 18:04 ?1330次閱讀

    馭光突破邊界:曦智科技多款產(chǎn)品及解決方案亮相WAIC

    ,吸引眾多現(xiàn)場觀眾駐足觀看了解。 ? 光子網(wǎng)絡(luò)產(chǎn)品線:新型數(shù)據(jù)搬運 由于人工智能、云計算、物聯(lián)網(wǎng)等技術(shù)的發(fā)展,當(dāng)今社會正面臨著數(shù)據(jù)量的指數(shù)級增長,網(wǎng)絡(luò)的發(fā)展需要高速率、高帶寬、高能效的互連技術(shù)作為支撐。光子技術(shù)憑借其低
    發(fā)表于 07-05 15:48 ?180次閱讀
    馭光<b class='flag-5'>突破</b><b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>邊界</b>:曦智科技多款產(chǎn)品及解決方案亮相<b class='flag-5'>WAIC</b>

    九章云極DataCanvas Alaya NeW智操作系統(tǒng)震撼亮相WAIC 2024

    大模型、、機器人、自動駕駛等關(guān)鍵領(lǐng)域,集中展示“人工智能+”創(chuàng)新應(yīng)用的最新成果。九章云極DataCanvas公司作為大模型、智產(chǎn)業(yè)代表企業(yè)再度參展
    的頭像 發(fā)表于 07-05 14:53 ?418次閱讀
    九章云極DataCanvas Alaya NeW智<b class='flag-5'>算</b>操作系統(tǒng)震撼亮相<b class='flag-5'>WAIC</b> 2024

    華為云技術(shù)新突破:Flexus X 實例以其柔性加速企業(yè)一鍵

    實例),正是為滿足這些日益嚴(yán)苛的需求而設(shè)計。通過引入創(chuàng)新的柔性技術(shù),F(xiàn)lexus X 實例不僅提供了前所未有的性能優(yōu)化能力,還帶來了資源配置的極大靈活性和顯著的成本效益,成為推動企業(yè)數(shù)字化轉(zhuǎn)型的強大動力。 柔性
    的頭像 發(fā)表于 07-03 15:42 ?567次閱讀
    華為云技術(shù)新<b class='flag-5'>突破</b>:Flexus X 實例以其柔性<b class='flag-5'>算</b><b class='flag-5'>力</b>加速<b class='flag-5'>企業(yè)</b>一鍵<b class='flag-5'>上</b>云

    助力企業(yè)數(shù)智化云躍級提升,云耀 X 實例柔性一直加速一直快

    在云計算的大潮中,彈性一度成為行業(yè)追逐的熱點。然而,隨著業(yè)務(wù)需求的日益復(fù)雜化和精細(xì)化,傳統(tǒng)的粗顆粒度已經(jīng)難以滿足企業(yè)對于
    的頭像 發(fā)表于 05-27 11:02 ?486次閱讀
    助力<b class='flag-5'>企業(yè)</b>數(shù)智化<b class='flag-5'>上</b>云躍級提升,云耀 X 實例柔性<b class='flag-5'>算</b><b class='flag-5'>力</b>一直加速一直快

    如何讓企業(yè)云更省心?云耀 X 實例一鍵柔性隨心配!

    簡稱:云耀 X 實例),它以獨特的柔性設(shè)計,為企業(yè)帶來了前所未有的靈活性和性能提升。 柔性引領(lǐng)未來發(fā)展趨勢 在當(dāng)今數(shù)字化轉(zhuǎn)型的大背景
    的頭像 發(fā)表于 05-22 20:00 ?768次閱讀
    如何讓<b class='flag-5'>企業(yè)</b><b class='flag-5'>上</b>云更省心?云耀 X 實例一鍵柔性<b class='flag-5'>算</b><b class='flag-5'>力</b>隨心配!

    力系列基礎(chǔ)篇——101:從零開始了解

    相信大家已經(jīng)感受到,我們正處在一個人工智能時代。如果要問在人工智能時代最重要的是什么?那必須是:!
    的頭像 發(fā)表于 04-24 08:05 ?1002次閱讀
    <b class='flag-5'>算</b>力系列基礎(chǔ)篇——<b class='flag-5'>算</b><b class='flag-5'>力</b>101:從零開始了解<b class='flag-5'>算</b><b class='flag-5'>力</b>

    十問:超,通存比

    鄔賀銓指出,現(xiàn)有測算方法難以精準(zhǔn)衡量。國內(nèi)企業(yè)服務(wù)器的出貨量并不等于國內(nèi)市場的使用量,而且進口國外的服務(wù)器未統(tǒng)計在內(nèi);服務(wù)器出貨量也不等于架量,更不等于已經(jīng)加電使用量。通常服務(wù)器
    的頭像 發(fā)表于 04-13 11:40 ?3593次閱讀

    Sora需求引發(fā)業(yè)界對集結(jié)國內(nèi)AI企業(yè)的探討

    據(jù)周鴻祎觀察,Sora視頻分析所需恐遠(yuǎn)超千億規(guī)模模型。因而,考慮到如今國內(nèi)芯片供應(yīng)受限,問題至關(guān)重要。事實,Meta已有約50萬臺
    的頭像 發(fā)表于 02-25 10:03 ?446次閱讀

    智能規(guī)模超通用,大模型對智能提出高要求

    電子發(fā)燒友網(wǎng)報道(文/李彎彎)是設(shè)備通過處理數(shù)據(jù),實現(xiàn)特定結(jié)果輸出的計算能力,常用FLOPS作為計量單位。FLOPS是Floating-point Operations Per Second
    的頭像 發(fā)表于 02-06 00:08 ?5442次閱讀

    大茉莉X16-P,5800M大稱王稱霸

    Rykj365
    發(fā)布于 :2024年01月25日 14:54:52

    弘信電子與AI服務(wù)器合資,助力國產(chǎn)芯片落地

    此外,弘信電子近期在AI業(yè)務(wù)取得了突破性進展,這并非源自本土化的積累,而是依賴于團隊敏銳的戰(zhàn)略眼光和強烈的創(chuàng)新動力。此次投資是弘信電子在AI
    的頭像 發(fā)表于 12-25 09:30 ?644次閱讀