0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

AI芯片、光模塊和光芯片的發(fā)展趨勢

智能計算芯世界 ? 來源:智能計算芯世界 ? 2023-12-29 10:07 ? 次閱讀

根據(jù) OpenAI 官網(wǎng),AI 模型訓練計算量自 2012 年起每 3.4 個月就增長一倍。以 GPT-3 模型為例,根據(jù) lambdalabs 數(shù)據(jù),該模型參數(shù)規(guī)模達 1750 億,完整訓練運算量達3640PFlop/s-days(以 3640PFlop/s 速度進行運算,需要 3640 天)。模型完成單次訓練約需要 355 個 CPU 年并耗費 460 萬美元(假設采用 Nvidia Tesla V100 芯片)。

高算力需求迫切,推動AI基礎設施建設。高訓練算力需要與相應基礎設施匹配,根據(jù)《2022—2023中國人工智能算力發(fā)展評估報告》預計,2023 年全球 AI 支出增速有望達 27.9%,而中國智能算力規(guī)模將達 427EFlop/s,同比增長 59%。

AI 芯片:算力核心構(gòu)成,自主可控推動國產(chǎn)化

人工智能芯片是 AI 算力的核心構(gòu)成。目前主流的 AI 芯片中 GPU 占據(jù)絕對百分比,根據(jù)IDC 數(shù)據(jù),2022 年 GPU 在中國人工智能芯片市場中占有率為 89%。根據(jù)我們測算,假設國內(nèi)每日訪問單個語言大模型的人數(shù)達到 3 億的情況下,對 GPU 需求臺數(shù)為 13889 塊。

Nvidia H100 是目前最先進的人工智能芯片。2023 年 3 月 22 日 Nvidia 推出新款人工智能芯片 GPU H100,與公司上一代產(chǎn)品 A100 相比性能得到大幅提升,在主流 AI 和 HPC模型中,采用 InfiniBand 互連技術的 H100 性能最高可達 A100 的 30 倍。

9ff4262a-a5df-11ee-8b88-92fbcf53809c.png

國產(chǎn)AI芯片短板明顯,下一代產(chǎn)品推進順利。通過對國內(nèi)寒武紀、華為昇騰和沐曦等國產(chǎn)公司旗下的 AI 旗艦芯片與 Nvidia H100 SXM 的性能指標對比,可以看到國產(chǎn) AI 芯片與 Nvidia H100 在性能上仍存在較大差距。同時國產(chǎn)芯片公司仍在加快研發(fā)推進下一代 AI芯片產(chǎn)品,并有望在未來對標Nvidia H100,如寒武紀在研的思元590、沐曦在研的MXC500等。

a0061196-a5df-11ee-8b88-92fbcf53809c.png

美國對 AI 芯片出口管制,自主可控要求下國產(chǎn)芯片需求迫切。2022 年 10 月 7 日美國商務部工業(yè)安全局(BIS)發(fā)布《美國商務部對中華人民共和國(PRC)關于先進計算和半導體實施新的出口管制制造》細則,其中管制物項 3A090、4A090 包含高性能 AI 芯片產(chǎn)品,而Nvidia A100 和 H100 均符合管制要求。在此背景下,Nvidia 推出性能閹割的中國特供版芯片 A800 和 H800。我們認為在國內(nèi)自主可控大背景下,國內(nèi) AI 產(chǎn)業(yè)對國產(chǎn)芯片需求迫切,或加大對國產(chǎn)芯片公司支持力度,國產(chǎn) AI 芯片有望迎來技術進步和市場機遇。

a0217454-a5df-11ee-8b88-92fbcf53809c.png

光模塊:新型網(wǎng)絡架構(gòu)對高端光模塊用量增加

高算力需要與高效傳輸架構(gòu)相匹配。AI 大模型通常由多個服務器作為節(jié)點,并通過高速網(wǎng)絡架構(gòu)組成集群合作完成模型訓練。因此在模型中東西向流量(數(shù)據(jù)中心服務器間的傳輸流量)大幅增加,而模型訓練過程中南北向流量(客戶端與服務器間的傳輸流量)較少,由于葉脊網(wǎng)絡架構(gòu)相較傳統(tǒng)三層架構(gòu)更適用于東西向流量傳輸,成為現(xiàn)代數(shù)據(jù)中心主流網(wǎng)絡架構(gòu)。

a036ea32-a5df-11ee-8b88-92fbcf53809c.png

葉脊網(wǎng)絡架構(gòu)大幅增加對光模塊數(shù)量需求。由于葉脊網(wǎng)絡架構(gòu)中東西向流量大,因此服務器與交換機相連均需使用光模塊,從而大幅增加對光模塊數(shù)量需求。同時 AI 大模型的高流量對帶寬提出更高要求,800G 光模塊相較 200G/400G 光模塊具有高帶寬、功耗低等優(yōu)點,有望在 AI 大模型網(wǎng)絡架構(gòu)中滲透率提升。

a04acd72-a5df-11ee-8b88-92fbcf53809c.png

以 Nvidia DGX H100 網(wǎng)絡架構(gòu)為例。該架構(gòu)適配 Nvidia H100 GPU,采用葉脊網(wǎng)絡架構(gòu),分為 1-4 個 SU 單元類型(8 個 GPU 組成一個 H100 服務器節(jié)點,32 個服務器節(jié)點組成一個 SU 單元)。其中 4-SU 單元架構(gòu)由 127 個服務器節(jié)點組成(其中一個節(jié)點用于安裝 UFM 網(wǎng)絡遙測裝置),具有 1016 個 H100 GPU、32 個葉交換機、16 個脊交換機。

以 Nvidia DGX H100 架構(gòu)為例測算 GPU 與光模塊的對應數(shù)量。在 4-SU 的 Nvidia DGX H100 架構(gòu)中,每 32 臺服務器節(jié)點組成一個 SU 單元,并與 8 臺葉交換機相連,因此服務器節(jié)點與葉交換機之間共有 1024 個連接(32×8×4);32 臺葉交換機需分別與 16 臺脊交換機相連,因此葉交換機與脊交換機之間共有 512 個連接(32×16);

在 Nvidia DGX H100 的目前方案中,脊-葉連接采用 800G 光模塊,需要 1024 個 800G 光模塊;葉-服務器連接中,每個服務器節(jié)點通過一個 800G 光模塊與兩臺葉交換機向上連接,需要 512 個 800G 光模塊(128×4),同時每臺葉交換機通過一個 400G 光模塊與一個服務器節(jié)點連接,需要 1024 個 400G 光模塊(128×8)。

國產(chǎn)光模塊廠商在 2022 年全球光模塊企業(yè) TOP10 排名中占據(jù) 7 席。TOP10 中國內(nèi)企業(yè)為中際旭創(chuàng)(Innolight)、華為(Huawei)、光迅科技(Accelink)、海信(Hisense)、新易盛(Eoptolink)、華工正源(HGG)、索爾思光電(已被華西股份收購)。而在高端光模塊領域,中際旭創(chuàng)已在 2022 年實現(xiàn) 800G 光模塊批量出貨。光芯片:光模塊核心部件,國產(chǎn)化空間開闊

通信是指通過電光轉(zhuǎn)換以光信號為介質(zhì)的傳輸系統(tǒng)。光通信系統(tǒng)的傳輸過程中首先發(fā)射端(TOSA)通過激光器芯片將電信號轉(zhuǎn)換為光信號,經(jīng)過光纖傳輸至接收端(ROSA),接收端通過探測器芯片將光信號轉(zhuǎn)換為電信號,最終實現(xiàn)信號傳輸。

a05ab9da-a5df-11ee-8b88-92fbcf53809c.png

光芯片是決定光通信系統(tǒng)信號傳輸效率和網(wǎng)絡可靠性的關鍵。光芯片是實現(xiàn)光電信號轉(zhuǎn)換的基礎元件,按照功能可以分為激光器芯片(LD)和探測器芯片(PD)。按細分型號分:激光器芯片可分為 VCSEL、FP、DFB 和 EML;探測器芯片可分為 PIN 和 APD。

a079624a-a5df-11ee-8b88-92fbcf53809c.png

高端光芯片市場國產(chǎn)化率仍有待提高。目前在 10G 及以下光芯片市場中,源杰科技等國內(nèi)公司已占據(jù)較高市場份額(部分高技術難度領域如 10G VCSEL/EML 激光器芯片市場國產(chǎn)化率低于 40%),但在 25G 及以上光芯片市場,市場份額仍大多由Ⅱ-Ⅳ、Lumentum 和Broadcom 等國外公司占據(jù)。伴隨國內(nèi)光模塊企業(yè)在全球市場中占據(jù)主導地位,出于保供的安全考慮,或為國內(nèi)光芯片企業(yè)在高端領域發(fā)展迎來新機遇。

審核編輯:湯梓紅

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • gpu
    gpu
    +關注

    關注

    27

    文章

    4590

    瀏覽量

    128131
  • 光模塊
    +關注

    關注

    73

    文章

    1207

    瀏覽量

    58620
  • 光芯片
    +關注

    關注

    3

    文章

    92

    瀏覽量

    10811
  • AI芯片
    +關注

    關注

    17

    文章

    1828

    瀏覽量

    34660

原文標題:算力競賽,開啟AI芯片、光模塊和光芯片需求

文章出處:【微信號:AI_Architect,微信公眾號:智能計算芯世界】歡迎添加關注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關推薦

    “三高一降”伏儲能系統(tǒng)趨勢及其模擬芯片解決方案

    的應用和解決方案對于提升系統(tǒng)效率、降低成本以及增強可靠性至關重要。本文將簡要介紹儲系統(tǒng)的基本運作原理,以及儲系統(tǒng)在高壓化發(fā)展趨勢下,模擬芯片的機會及納芯微解決方案。
    的頭像 發(fā)表于 08-13 13:09 ?2004次閱讀
    “三高一降”<b class='flag-5'>光</b>伏儲能系統(tǒng)<b class='flag-5'>趨勢</b>及其模擬<b class='flag-5'>芯片</b>解決方案

    儲系統(tǒng)的基本運作原理和發(fā)展趨勢

    的應用和解決方案對于提升系統(tǒng)效率、降低成本以及增強可靠性至關重要。本文將簡要介紹儲系統(tǒng)的基本運作原理,以及儲系統(tǒng)在高壓化發(fā)展趨勢下,模擬芯片的機會及納芯微解決方案。
    的頭像 發(fā)表于 07-18 14:31 ?463次閱讀
    <b class='flag-5'>光</b>儲系統(tǒng)的基本運作原理和<b class='flag-5'>發(fā)展趨勢</b>

    芯片與傳統(tǒng)芯片的區(qū)別

    材料差異: 硅芯片主要使用硅作為材料,而傳統(tǒng)芯片則使用硅晶體。硅芯片利用硅的光學特性,而傳統(tǒng)芯片
    的頭像 發(fā)表于 07-12 09:33 ?2742次閱讀

    百億模塊市場!芯片加速國產(chǎn)化,國內(nèi)廠商深挖高速芯片潛力

    電子發(fā)燒友網(wǎng)報道(文/莫婷婷)當前,國內(nèi)大模型市場開始進入應用落地階段,AI應用的快速發(fā)展推動模塊需求的釋放,上游的
    的頭像 發(fā)表于 05-25 00:57 ?3982次閱讀
    百億<b class='flag-5'>光</b><b class='flag-5'>模塊</b>市場!<b class='flag-5'>光</b><b class='flag-5'>芯片</b>加速國產(chǎn)化,國內(nèi)廠商深挖高速<b class='flag-5'>光</b><b class='flag-5'>芯片</b>潛力

    高速發(fā)展趨勢與應用前景

    高速耦是一種能夠在高速數(shù)據(jù)傳輸中完成光電信號轉(zhuǎn)換的器件,具有快速響應、高頻帶寬和低功耗的特點,被廣泛應用于通信、數(shù)據(jù)中心、醫(yī)療和工業(yè)等領域。隨著數(shù)字化和網(wǎng)絡化的不斷深入,高速耦的需求日益增長,其發(fā)展趨勢備受關注。
    的頭像 發(fā)表于 04-19 16:55 ?333次閱讀

    隨著AI算力需求不斷增強,800G模塊的需求不斷增大

    2024年,硅方案將逐漸在400G和800G模塊的需求中占據(jù)市場份額,而1.6T時代也將逐年提升。這將為模塊廠家?guī)砑夹g更新的機遇,需
    的頭像 發(fā)表于 04-11 10:54 ?464次閱讀
    隨著<b class='flag-5'>AI</b>算力需求不斷增強,800G<b class='flag-5'>光</b><b class='flag-5'>模塊</b>的需求不斷增大

    中國網(wǎng)絡交換芯片市場發(fā)展趨勢

    中國網(wǎng)絡交換芯片市場的發(fā)展趨勢受多種因素影響,包括技術進步、政策推動、市場需求以及全球產(chǎn)業(yè)鏈的變化等。以下是對該市場發(fā)展趨勢的一些分析。
    的頭像 發(fā)表于 03-18 14:02 ?633次閱讀

    國產(chǎn)隔離芯片的質(zhì)量控制與發(fā)展趨勢

    本文將從結(jié)構(gòu)、制造工藝、測試手段等方面對國產(chǎn)隔離芯片的質(zhì)量控制進行分析,并展望其未來的發(fā)展趨勢。
    的頭像 發(fā)表于 02-02 16:14 ?749次閱讀
    國產(chǎn)隔離<b class='flag-5'>芯片</b>的質(zhì)量控制與<b class='flag-5'>發(fā)展趨勢</b>

    伏行業(yè)發(fā)展現(xiàn)狀與發(fā)展趨勢報告

    2023年12月15日,由中國光伏行業(yè)協(xié)會和宿遷市人民政府共同主辦的“2023伏行業(yè)年度大會”在江蘇宿遷成功舉辦。中國光伏行業(yè)協(xié)會名譽理事長王勃華出席會議并作伏行業(yè)發(fā)展現(xiàn)狀與發(fā)展趨勢
    發(fā)表于 12-26 11:32 ?530次閱讀
    <b class='flag-5'>光</b>伏行業(yè)<b class='flag-5'>發(fā)展</b>現(xiàn)狀與<b class='flag-5'>發(fā)展趨勢</b>報告

    國產(chǎn)耦的崛起與未來趨勢

    本文將詳細分析國產(chǎn)耦的發(fā)展趨勢,探討其未來發(fā)展的關鍵因素與前景。
    的頭像 發(fā)表于 12-06 11:01 ?510次閱讀
    國產(chǎn)<b class='flag-5'>光</b>耦的崛起與未來<b class='flag-5'>趨勢</b>

    器件的最新研究和發(fā)展趨勢

    此次,我們將報道旨在實現(xiàn)互連的器件的最新研究和發(fā)展趨勢。
    的頭像 發(fā)表于 11-29 09:41 ?854次閱讀
    <b class='flag-5'>光</b>器件的最新研究和<b class='flag-5'>發(fā)展趨勢</b>

    千兆模塊和萬兆模塊發(fā)展趨勢

    本篇文章將深入探討千兆模塊和萬兆模塊的領先技術和研發(fā)趨勢。首先介紹了
    的頭像 發(fā)表于 11-20 12:47 ?666次閱讀

    千兆模塊和萬兆模塊發(fā)展前景與市場分析

    隨著互聯(lián)網(wǎng)技術的不斷發(fā)展,千兆模塊和萬兆模塊作為網(wǎng)絡傳輸?shù)暮诵牟考?,如今在?shù)據(jù)傳輸領域已得到廣泛的應用。本文將從技術
    的頭像 發(fā)表于 11-06 14:57 ?398次閱讀

    了解千兆模塊和萬兆模塊的優(yōu)勢與劣勢

    千兆模塊和萬兆模塊是當前光纖通信領域中常見的兩種模塊。它們分別適用于不同的網(wǎng)絡通信需求,并
    的頭像 發(fā)表于 10-30 11:36 ?700次閱讀

    千兆模塊和萬兆模塊已經(jīng)過時了嗎?

    領域。本文從千兆和萬兆模塊的技術特點和市場趨勢分析入手,探討它們是否已經(jīng)過時,以及它們是否可以適應未來網(wǎng)絡的發(fā)展趨勢。
    的頭像 發(fā)表于 10-09 10:00 ?399次閱讀