0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

DPU:第三顆主力芯片 為CPU“減負”

架構(gòu)師技術(shù)聯(lián)盟 ? 來源:架構(gòu)師技術(shù)聯(lián)盟 ? 2023-07-27 10:55 ? 次閱讀

2020年,半導體行業(yè)圈有了新的熱點——DPU(Data Processing Unit,數(shù)據(jù)處理器)。自被英偉達CEO黃仁勛稱為“數(shù)據(jù)中心第三顆主力芯片”后,DPU就以驚人的速度崛起,成為整個行業(yè)甚至整個社會的關(guān)注重點。

到2023年,經(jīng)過三年的發(fā)展,DPU呈現(xiàn)出新的格局:自研、初創(chuàng)DPU芯片發(fā)展突飛猛進,DPU應(yīng)用開始逐漸落地,ChatGPT等AIGC應(yīng)用對高算力的需求,進一步推動了DPU發(fā)展。

世界排名前五的芯片公司都在DPU賽道占位,DPU成了“兵家必爭之地”。據(jù)賽迪顧問發(fā)布的數(shù)據(jù),預計到2025年全球DPU產(chǎn)業(yè)市場規(guī)模將超過245.3億美元(約1771億人民幣),DPU市場有望實現(xiàn)跳躍式增長,迎來黃金發(fā)展期。

2023年的DPU格局如何?未來如何發(fā)展?8月4日,北京將舉行“第三屆DPU峰會”,將有來自中國工程院、電信運營商、傳統(tǒng)芯片廠商、初創(chuàng)公司等在內(nèi)的30多位資深行業(yè)代表,分享國內(nèi)外DPU最新進展與實踐。

DPU:為CPU“減負”

人類發(fā)展經(jīng)歷了三次大分工,群居生活中,為了使群體更能生存下去需要加快工作效率,因而產(chǎn)生了分工。馬克思主義認為,社會分工是生產(chǎn)力發(fā)展的結(jié)果,促進著生產(chǎn)力的發(fā)展。

而縮小到計算機這一相對微觀的視角,在馮諾依曼架構(gòu)這一以計算和存儲為核心、CPU居于中心地位的傳統(tǒng)架構(gòu)下,CPU作為“大管家”,統(tǒng)一調(diào)度所有基礎(chǔ)資源:網(wǎng)絡(luò)數(shù)據(jù)包收發(fā)過程中需要CPU參與協(xié)議棧的處理,GPU所處理的數(shù)據(jù)也需要CPU來協(xié)調(diào)。虛擬化、存儲、網(wǎng)絡(luò)、加解密、壓縮解壓…都要經(jīng)過CPU處理。

f1c65698-2c0f-11ee-a368-dac502259ad0.png

(馮諾依曼架構(gòu))

但這并不總是效率最高的方式。CPU的定位是通用計算,在一些特定領(lǐng)域,CPU的效率遠不及一些專用芯片,比如在I/O密集的應(yīng)用場景中,智能網(wǎng)卡的數(shù)據(jù)傳輸效率更高。

隨著生成式人工智能、數(shù)據(jù)科學、自動駕駛、元宇宙等新興應(yīng)用的加速落地,全球各行各業(yè)對大規(guī)模算力的需求急速攀升,算力正逐步成為新時代的核心生產(chǎn)力,CPU越來越難以負擔一些復雜的計算,需要進行任務(wù)分工。

舉個栗子。

從前有個馮諾依曼餐館,剛開業(yè)時顧客少,只需要CPU一個員工即可,作為一個通用的CPU,他身兼數(shù)職,顧客點菜溝通——收銀——做菜——傳菜——收拾——備菜都是CPU完成,CPU一條龍?zhí)幚碣\順暢!

隨著店鋪口碑建立顧客增多,CPU越來越忙。CPU的薪資是1.5萬一個月,作為本店的大廚,其實他更擅長做菜,讓他分時分力做小二的活計太浪費。并且有些顧客有特殊需求,需要有更多服務(wù)技巧的小二去接待,擅長做菜的CPU并沒有用武之地。于是,馮諾依曼餐館招了1名收銀員DPU(3000元/月),專門負責點菜溝通和收銀;招了1名店小二GPU(3500元/月),負責傳菜、收拾和備菜。CPU發(fā)揮自己的特長,專注于菜品研制和做菜。這樣一重新分工,餐館的工作效率和服務(wù)質(zhì)量蹭蹭提高,生意越來越好了!

f1db97b0-2c0f-11ee-a368-dac502259ad0.png

(CPU-DPU-GPU分工協(xié)作)

正如開餐館一樣,重新分工后,CPU負責整個IT生態(tài)的定義及處理通用計算任務(wù),GPU負責數(shù)據(jù)并行的任務(wù)如圖形圖像、深度學習、矩陣運算等加速計算任務(wù),DPU則承擔起安全、網(wǎng)絡(luò)、存儲和AI等其它專用業(yè)務(wù)的加速處理。DPU與CPU、GPU地位平等,相互交互、相互協(xié)調(diào)來完成計算任務(wù)。DPU專門負責IO的處理和數(shù)據(jù)傳輸(點菜收銀),這些以前由CPU處理的工作被卸載,讓CPU可以專注于業(yè)務(wù)的計算(做菜),從而提升系統(tǒng)的整體效率。

f1f57db0-2c0f-11ee-a368-dac502259ad0.png

(DPU主要任務(wù))

2023年DPU格局

2023年DPU賽道繼續(xù)大熱,芯片巨頭、初創(chuàng)公司、云廠商、傳統(tǒng)設(shè)備廠商紛紛開始發(fā)力DPU,推出新的產(chǎn)品或解決方案。

在DPU技術(shù)路線上,各家選擇略有不同。DPU有ASIC、FPGA和SoC三種實現(xiàn)路徑,在成本、編程簡易性和靈活性方面各有利弊。業(yè)內(nèi)人士透露,目前DPU主流的市場方案包括以Arm核為主的架構(gòu)、FPGA+CPU架構(gòu),以及SoC架構(gòu),前兩者已經(jīng)在云計算廠商得到批量部署,整體看SoC方案則是今后的趨勢。

DPU的主要場景是數(shù)據(jù)中心,潛在客戶主要是云廠商。目前,包括阿里、騰訊等在內(nèi)的大型公有云廠商,都通過自研或投資加入DPU賽道;私有云廠商需求復雜,DPU產(chǎn)品需要與業(yè)務(wù)場景緊密相關(guān),誰能吃透客戶業(yè)務(wù)場景、跟用戶走得更近、誰的定制能力更強,機會就越大。

除數(shù)據(jù)中心以外,智能駕駛、數(shù)據(jù)通信、網(wǎng)絡(luò)安全等也是DPU的下游應(yīng)用領(lǐng)域。未來,智能駕駛每個車機節(jié)點都可視為小型數(shù)據(jù)中心,并將產(chǎn)生大量的數(shù)據(jù)處理、轉(zhuǎn)發(fā)、交換和存儲需求,每輛智能駕駛汽車都有望配備DPU。

總體而言,DPU目前尚處于起步階段,但可以確定的是,未來數(shù)年內(nèi)DPU市場在全球?qū)⑹且黄{海。當前國內(nèi)外DPU廠商基本處于相同的發(fā)力節(jié)點,?任重而道遠,國內(nèi)DPU廠商需要加強與云廠商、產(chǎn)業(yè)鏈上下游廠商等各方的深度合作,攜手打造更好、更開放的DPU生態(tài)。






審核編輯:劉清

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • SoC芯片
    +關(guān)注

    關(guān)注

    1

    文章

    587

    瀏覽量

    34765
  • DPU
    DPU
    +關(guān)注

    關(guān)注

    0

    文章

    350

    瀏覽量

    24048
  • 虛擬機
    +關(guān)注

    關(guān)注

    1

    文章

    889

    瀏覽量

    27840
  • 自動駕駛
    +關(guān)注

    關(guān)注

    781

    文章

    13475

    瀏覽量

    165378
  • ChatGPT
    +關(guān)注

    關(guān)注

    28

    文章

    1519

    瀏覽量

    7030

原文標題:2023直擊DPU:“第三顆”主力芯片

文章出處:【微信號:架構(gòu)師技術(shù)聯(lián)盟,微信公眾號:架構(gòu)師技術(shù)聯(lián)盟】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    IaaS+on+DPU(IoD)+下一代高性能算力底座技術(shù)白皮書

    數(shù)據(jù)中心的第三顆主力芯片”,主要通過其專用處理器優(yōu)化數(shù)據(jù)中心的網(wǎng)絡(luò)、存儲、安全等處理性能,助力服務(wù)器運行效率顯著提升,有效降低成本。因此,在新型數(shù)據(jù)中心建設(shè)時,圍繞 DPU 構(gòu)建數(shù)據(jù)
    發(fā)表于 07-24 15:32

    中科馭數(shù)發(fā)布第三DPU芯片K2 Pro,較上一代能耗降低30%

    基于該芯片的自研芯片架構(gòu)和專用的指令集技術(shù)。 ? 該公司表示,之所以發(fā)布一整套技術(shù)而非單芯片,是因為它們相互依賴、相互增強,共同構(gòu)成了一個高效、靈活且功能強大的
    的頭像 發(fā)表于 07-01 07:32 ?3276次閱讀

    中科馭數(shù)發(fā)布高性能DPU芯片K2-Pro

    在信息技術(shù)領(lǐng)域,每一次芯片技術(shù)的突破都代表著行業(yè)的一次飛躍。近日,DPU領(lǐng)域的領(lǐng)軍企業(yè)中科馭數(shù)宣布,成功研發(fā)并發(fā)布了其第三DPU芯片——“
    的頭像 發(fā)表于 06-21 11:41 ?616次閱讀

    重新定義DPU——中科馭數(shù)2024產(chǎn)品發(fā)布會,6月19日誠邀蒞臨!

    數(shù)據(jù)中心正經(jīng)歷著前所未有的變革,DPU作為數(shù)據(jù)中心第三顆主力芯片,正引領(lǐng)行業(yè)步入一個高效、靈活的算力新時代。 中科馭數(shù)在業(yè)內(nèi)率先完成
    的頭像 發(fā)表于 06-18 16:17 ?424次閱讀

    “Spark+Hive”在DPU環(huán)境下的性能測評 | OLAP數(shù)據(jù)庫引擎選型白皮書(24版)DPU部分節(jié)選

    在奇點云2024年版《OLAP數(shù)據(jù)庫引擎選型白皮書》中,中科馭數(shù)聯(lián)合奇點云針對Spark+Hive這類大數(shù)據(jù)計算場景下的主力引擎,測評DPU環(huán)境下對比CPU環(huán)境下的性能提升效果。特此節(jié)選該章節(jié)內(nèi)容,與大家共享。
    的頭像 發(fā)表于 05-30 16:09 ?347次閱讀
    “Spark+Hive”在<b class='flag-5'>DPU</b>環(huán)境下的性能測評 | OLAP數(shù)據(jù)庫引擎選型白皮書(24版)<b class='flag-5'>DPU</b>部分節(jié)選

    三顆LED低壓并聯(lián)照明電路LOWVOLTAGEP2SGEVB評估套件數(shù)據(jù)手冊

    電子發(fā)燒友網(wǎng)站提供《三顆LED低壓并聯(lián)照明電路LOWVOLTAGEP2SGEVB評估套件數(shù)據(jù)手冊.rar》資料免費下載
    發(fā)表于 04-15 15:56 ?0次下載
    <b class='flag-5'>三顆</b>LED低壓并聯(lián)照明電路LOWVOLTAGEP2SGEVB評估套件數(shù)據(jù)手冊

    三顆LTM4702并聯(lián)空載緩慢發(fā)熱,同時在緩慢發(fā)熱的過程中設(shè)計輸出電壓緩慢降低的原因?

    1.8MHz,第二第三顆<80%1.4MHz,三顆相位120°, 設(shè)置了快速啟動PGSET引腳電阻499K?;緟?shù)如此,因為在我之前設(shè)計LT8640S等電源中空載并未有發(fā)熱和電壓
    發(fā)表于 03-06 06:06

    瀾起科技:DDR5第三子代RCD芯片將隨新一代CPU平臺規(guī)模出貨

    瀾起科技近日在接受機構(gòu)調(diào)研時分享了關(guān)于DDR5內(nèi)存子代RCD芯片的最新動態(tài)。據(jù)瀾起科技預測,DDR5第二子代RCD芯片的需求將在2024年超過第一子代RCD芯片。更進一步,DDR5第三
    的頭像 發(fā)表于 02-02 10:27 ?739次閱讀

    星Galaxy S24+搭載Exynos 2400芯片,CPU性能提升1.7倍,AI處理能

    據(jù)了解,Exynos 2400 CPU包含一主頻高達 3.2 GHz的Cortex-X4、兩主頻 2.9 GHz的Cortex-A720以及
    的頭像 發(fā)表于 01-18 09:54 ?761次閱讀

    《數(shù)據(jù)處理器:DPU編程入門》DPU計算入門書籍測評

    一、DPU計算框架 通過一周多的時間翻閱這本書,基本上這本書是一本比較全面的,面向架構(gòu)的新手指導數(shù)據(jù)。它在書中詳盡介紹了關(guān)于DPU在計算機架構(gòu)中的應(yīng)用。 對于DPU來說,是一種平行于CPU
    發(fā)表于 12-24 10:54

    《數(shù)據(jù)處理器:DPU編程入門》讀書筆記

    ,讓用戶可以不用關(guān)注DPU的底層硬件接口而直接對硬件進行編程。 此外,DPU是數(shù)據(jù)中心基礎(chǔ)架構(gòu)的處理芯片,預測至少30%的CPU資源用于執(zhí)行數(shù)據(jù)中心基礎(chǔ)設(shè)施架構(gòu),而這些任務(wù)都可以卸載到
    發(fā)表于 12-21 10:47

    淺談DPUCPU、GPU的關(guān)系

    CPU的一大部分算力卸載給GPU之后,人們發(fā)現(xiàn)可以把很多其他功能也外包出去,于是又有了智能網(wǎng)卡,或者叫做DPU
    發(fā)表于 12-14 11:44 ?692次閱讀
    淺談<b class='flag-5'>DPU</b>和<b class='flag-5'>CPU</b>、GPU的關(guān)系

    什么是DPU?

    和服務(wù)器內(nèi),CPU和GPU已經(jīng)被廣泛地用于各個新型超大規(guī)模數(shù)據(jù)中心。 這些數(shù)據(jù)中心通過功能強大的新型處理器連接在一起,DPU( Data Processing Unit ,數(shù)據(jù)處理器)已經(jīng)成為了以數(shù)據(jù)
    發(fā)表于 11-03 10:55

    【書籍評測活動NO.23】數(shù)據(jù)處理器:DPU編程入門

    資格! “DPU將是未來計算的大支柱之一。CPU用于通用計算,GPU用于加速計算,而DPU在數(shù)據(jù)中心移動數(shù)據(jù),進行數(shù)據(jù)處理。” ——NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛于 GT
    發(fā)表于 10-24 15:21

    求助,GPS定位到三顆星為什么還不能實現(xiàn)定位?

    GPS定位到三顆星為什么還不能實現(xiàn)定位?
    發(fā)表于 10-16 06:58