0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

DPU市場(chǎng)新十字路口,第三方不如自研?

E4Life ? 來源:電子發(fā)燒友網(wǎng) ? 作者:周凱揚(yáng) ? 2024-04-14 06:00 ? 次閱讀
電子發(fā)燒友網(wǎng)報(bào)道(文/周凱揚(yáng))在1G/10G的網(wǎng)絡(luò)發(fā)展階段,就已經(jīng)有了標(biāo)準(zhǔn)網(wǎng)卡NIC投入應(yīng)用,滿足基本的數(shù)據(jù)包傳輸和接收工作。但隨著云計(jì)算、虛擬化、機(jī)密計(jì)算等追求更高性能和更多功能的場(chǎng)景出現(xiàn),傳統(tǒng)的網(wǎng)卡已經(jīng)無法滿足大家的需求,CPU需要進(jìn)一步減輕在網(wǎng)絡(luò)、存儲(chǔ)和安全負(fù)載,所以整個(gè)行業(yè)邁入了智能網(wǎng)卡階段。
在SmartNIC智能網(wǎng)卡階段,絕大多數(shù)產(chǎn)品都是基于FPGA打造的,但數(shù)據(jù)中心對(duì)IO性能要求越來越高,就連如今的這些網(wǎng)卡都需要參與更多的數(shù)據(jù)處理工作,也就慢慢轉(zhuǎn)向人們口中常說的DPU,在高速的NIC數(shù)據(jù)路徑上加入更多的處理器核心,靠軟件定義網(wǎng)絡(luò)。從2020年開始,DPU市場(chǎng)廣受資本市場(chǎng)追捧,不少廠商都在這個(gè)階段開啟了收購(gòu),然后紛紛將產(chǎn)品更名為xPU。
從技術(shù)路線上,DPU也被分成了三種,一種是NIC與FPGA或CPU核心依靠PCIe等技術(shù)相連的混合解決方案,另一種是NIC和處理器核心高度集成在一個(gè)SoC內(nèi)的方案,最后則是純粹的高度并行化FPGA方案。
然而到了2024年,DPU市場(chǎng)明顯達(dá)到了一個(gè)新的十字路口。首先DPU在超大規(guī)模云服務(wù)商的受歡迎程度越來越高,DPU也成了他們實(shí)現(xiàn)差異化最佳的方式之一。幾大DPU廠商仍在推陳出新,但由于產(chǎn)量、封閉等原因,我們還是沒能看到DPU以更大的規(guī)模在服務(wù)器上鋪開,即便是在應(yīng)用最多的超大規(guī)模云服務(wù)商的服務(wù)器上,其部署率也不過剛突破50%。
英偉達(dá),DPU+SuperNIC
2019年3月,英偉達(dá)斥資69億美元收購(gòu)了Mellanox,也因此收獲了其BlueField IP,并開始推行DPU的概念。GTC2020年上,英偉達(dá)很快就宣布了由他們打造的首個(gè)BlueField DPU卡BlueField-2,隨后又公開了將Ampere架構(gòu)的GPU集成在同一張卡上的BlueField-2X,利用GPU來提升其算力。
2021年,英偉達(dá)宣布了其最新的BlueField-3,集成了至多16個(gè)Arm A78核心,支持PCIe 5.0。但也就是從這一代開始,英偉達(dá)對(duì)于BlueField的定位出現(xiàn)了分支,也就是全新的SuperNIC。在英偉達(dá)的描述中SuperNIC又是一個(gè)用于提升網(wǎng)絡(luò)性能的設(shè)備,與SmartNIC、DPU和IPU聽起來好像也沒有什么不同。但SuperNIC專門針對(duì)AI加速網(wǎng)絡(luò)做了優(yōu)化。
BlueField DPU路線圖 / 英偉達(dá)
其中BlueField-3 DPU和過去的DPU產(chǎn)品定位保持一致,用于卸載和加速網(wǎng)絡(luò)、存儲(chǔ)、安全和管理功能。而BlueField-3 SuperNIC則主要用于網(wǎng)絡(luò)活動(dòng)更密集、需要大量并行運(yùn)算的場(chǎng)景,也就是AI服務(wù)器/GPU服務(wù)器。
在拓展效率上,SuperNIC也要更強(qiáng)一些。比如在單個(gè)系統(tǒng)中,往往只能容納1到2個(gè)BlueField-3 DPU,卻可以容納至多8個(gè)BlueField SuperNIC。而且單個(gè)系統(tǒng)中,GPU與SuperNIC 1:1的比例能夠進(jìn)一步提升AI服務(wù)器的效率。
今年即將推出的BlueField 4將進(jìn)一步增加晶體管規(guī)模的同時(shí),網(wǎng)絡(luò)性能將用于支持800Gbps的數(shù)據(jù)中心網(wǎng)絡(luò)。不僅如此,英偉達(dá)決心在其算力上實(shí)現(xiàn)巨大提升,從BlueField-3的1.5TOPS,直接暴漲到1000TOPS。
AMD,SmartNIC+Pensando
為了在服務(wù)器市場(chǎng)搶占更多的市場(chǎng)份額,我們可以看到AMD這幾年不斷地在CPU和GPU的設(shè)計(jì)上推陳出新,一點(diǎn)點(diǎn)地蠶食英特爾的市場(chǎng)份額,除此之外在SmartNIC和DPU領(lǐng)域,AMD也有所布局。
首先是SmartNIC,作為FPGA大廠,Xilinx在被AMD收購(gòu)前已經(jīng)有了優(yōu)秀的Alveo系列SmartNIC產(chǎn)品陣容,尤其是在對(duì)延遲極為敏感的金融電子交易領(lǐng)域,AMD Alveo系列加速卡可謂一騎絕塵。以最新的Alveo UL3524為例,其收發(fā)延遲可以降低至3ns以下。
在DPU上,AMD也欲與英偉達(dá)、英特爾同臺(tái)競(jìng)爭(zhēng)。2022年4月,AMD宣布斥資19億美元購(gòu)買DPU廠商Pensando。Pensando作為市面為數(shù)不多的DPU廠商,主要優(yōu)勢(shì)在于極高的性能。從其路線圖上來看,目前AMD已經(jīng)實(shí)現(xiàn)了第一代DPU Capri(200G)和第二代Elba(400G)兩大DPU的量產(chǎn)。AMD去年也發(fā)布了基于其P4 DPU管線結(jié)合16個(gè)Arm A72核心的Giglio,在第二代的Elba DPU的基礎(chǔ)上對(duì)功耗和性能進(jìn)行了進(jìn)一步優(yōu)化。
Pensando DPU路線圖 / AMD
AMD預(yù)計(jì)在今年會(huì)發(fā)布第三代Pensando DPU,Salina。Salina將采用5nm工藝打造,實(shí)現(xiàn)兩倍于上一代的性能,與英偉達(dá)的BlueField 4一樣支持800G網(wǎng)絡(luò)。而且AMD在Pensando DPU上做好了前向兼容,節(jié)省了應(yīng)用程序開發(fā)所需的時(shí)間。
也正是在收購(gòu)后不久,AMD就宣布其Pensando卡成為首批支持由戴爾、HPE和聯(lián)想等頭部服務(wù)器供應(yīng)商提供的VMware vSphere 8的DPU解決方案之一,在vSphere 的支持下,服務(wù)器的CPU網(wǎng)絡(luò)服務(wù)負(fù)載將進(jìn)一步降低。除了服務(wù)器廠商之外,AMD Pensando也已經(jīng)收獲了Azure、IBM Cloud和Oracle Cloud等云服務(wù)客戶。
在AMD去年Q1的財(cái)報(bào)會(huì)議上,AMD提到他們的Pensando DPU正在為微軟的Azure提供加速連接服務(wù)。在支持的實(shí)例中,每個(gè)設(shè)備都部署了六個(gè)高性能的AMD Pensando DPU,所有用戶程序的虛擬機(jī)都能訪問這些DPU。微軟的加速連接作為一項(xiàng)vNIC租賃業(yè)務(wù),用戶可以通過開啟該服務(wù)來改善網(wǎng)絡(luò)連接效率,相比傳統(tǒng)的SmartNIC而言,每秒連接數(shù)提升超過10倍。
大量普及卻“封閉”的DPU生態(tài)
要說市面上最為普及的DPU,那必定是亞馬遜的AWS Nitro系列產(chǎn)品,盡管亞馬遜并沒有用到DPU這個(gè)名字。2016年,亞馬遜收購(gòu)了以色列公司Annapurna Labs,隨后就在內(nèi)部開啟了最早的自研服務(wù)器芯片計(jì)劃,Nitro。
截至今日,亞馬遜自研的AWS Nitro芯片已經(jīng)迭代了5個(gè)版本,AWS云服務(wù)上500多種實(shí)例都集成了AWS Nitro芯片??紤]到AWS全球第一大云服務(wù)商的規(guī)模,AWS Nitro可謂是名副其實(shí)的第一大DPU。
然而,AWS Nitro是并不對(duì)外出售的,屬于AWS獨(dú)占的自研產(chǎn)品。很明顯,自研的DPU更能節(jié)省成本,并針對(duì)自己的服務(wù)器架構(gòu)量體裁衣,這樣一個(gè)大幅提高競(jìng)爭(zhēng)力的產(chǎn)品,亞馬遜自然不會(huì)選擇對(duì)外出售。
采取同樣策略的基本是云服務(wù)廠商,包括阿里巴巴和微軟。阿里云的MoC卡/神龍芯片CIPU也是類似的產(chǎn)品,從2016年起,阿里巴巴就開始自研相關(guān)的虛擬化芯片了,直到2018年MoC卡的正式落地。2021年云棲大會(huì),阿里云發(fā)布了第四代神龍架構(gòu),實(shí)現(xiàn)了網(wǎng)絡(luò)和存儲(chǔ)操作的完全硬件卸載,進(jìn)一步增強(qiáng)存儲(chǔ)IO和網(wǎng)絡(luò)IO性能,并率先支持大規(guī)模的彈性RDMA加速。
去年年初,微軟正式宣布收購(gòu)DPU開發(fā)商Fungible。這家DPU廠商一度陷入市場(chǎng)競(jìng)爭(zhēng)較大,但產(chǎn)品難產(chǎn)的局面,此前被傳出售給Meta失敗后,已經(jīng)在采取裁員和縮減產(chǎn)品組合。隨著微軟收購(gòu)后,其團(tuán)隊(duì)都將加入微軟的數(shù)據(jù)中心基礎(chǔ)設(shè)施建設(shè)開發(fā)團(tuán)隊(duì)。盡管收購(gòu)至今,微軟還沒有拿出對(duì)應(yīng)的產(chǎn)品,但可以想象其DPU方案必定會(huì)廣泛用于Azure云服務(wù)器,從而拋棄第三方的方案,或是為后者統(tǒng)一接口。
寫在最后
據(jù)市場(chǎng)研究公司Dell'Oro Group的預(yù)測(cè),從DPU概念興起的2020年到2028年,市場(chǎng)總值將維持25%的年復(fù)合增長(zhǎng)率,其中絕大多數(shù)市場(chǎng)份額來自排名前四的美國(guó)云服務(wù)廠商,其次才是來自中國(guó)的前四大云服務(wù)廠商。
排除掉自研的云服務(wù)廠商們,DPU市場(chǎng)并不算大,在20億美元左右,但持續(xù)增長(zhǎng)的勢(shì)頭并沒有減弱。即便是第三方DPU方案商,比如英偉達(dá)、AMD、英特爾、Marvell、Achronix和云豹智能等,也有機(jī)會(huì)憑借著更高的性能和AI服務(wù)器的熱潮,打進(jìn)頭部云服務(wù)商的服務(wù)器中。但對(duì)于更小規(guī)模的組織來說,他們依然面臨著選擇受限、部署困難的問題。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • DPU
    DPU
    +關(guān)注

    關(guān)注

    0

    文章

    343

    瀏覽量

    24044
  • AI服務(wù)器
    +關(guān)注

    關(guān)注

    2

    文章

    94

    瀏覽量

    4815
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    十字路口交通燈設(shè)計(jì)

    使用仿真軟件仿真
    發(fā)表于 09-20 11:17 ?0次下載

    維天地低代碼開發(fā)平臺(tái)助力第三方質(zhì)檢行業(yè)數(shù)據(jù)可視化

    第三方檢驗(yàn)是由獨(dú)立于買賣雙方利益之外的第三方機(jī)構(gòu)(例如專業(yè)的監(jiān)督檢驗(yàn)機(jī)構(gòu))執(zhí)行的,這些機(jī)構(gòu)以公正、公平、權(quán)威的非當(dāng)事人身份,依據(jù)雙方共同認(rèn)可的法律、標(biāo)準(zhǔn)和合同等進(jìn)行商品的符合性檢驗(yàn)和認(rèn)證活動(dòng)
    的頭像 發(fā)表于 08-09 13:59 ?143次閱讀
    <b class='flag-5'>三</b>維天地低代碼開發(fā)平臺(tái)助力<b class='flag-5'>第三方</b>質(zhì)檢行業(yè)數(shù)據(jù)可視化

    請(qǐng)問esp8266會(huì)開放使用第三方云服務(wù)器嗎?

    如題,esp8266會(huì)開放使用第三方云服務(wù)器嗎,如百度,阿里云服務(wù)器?
    發(fā)表于 07-12 11:40

    是否有可能在支持gdb的第三方集成開發(fā)環(huán)境中使用DAS配置調(diào)試?

    是否有可能在支持 gdb 的第三方集成開發(fā)環(huán)境中使用 DAS 配置調(diào)試?
    發(fā)表于 07-02 07:29

    微軟或?qū)㈤_放Xbox主機(jī)授權(quán)給第三方廠商

    據(jù)悉,5 月 26 日,知名媒體 Windows Central 的編輯 Jez Corden 揭露了微軟即將遵循第三方手柄流程,允許在其 XBOX 主機(jī)上引入第三方產(chǎn)品。
    的頭像 發(fā)表于 05-27 15:18 ?518次閱讀

    MacPaw將在歐盟成員國(guó)推出第三方應(yīng)用商店Setapp

    5月14日,MacPaw正式宣布將在今年5月14日在歐盟成員國(guó)面向蘋果iPhone推出第三方應(yīng)用商城Setapp。今年2月起,MacPaw已著手籌備該平臺(tái)。S
    的頭像 發(fā)表于 05-14 10:14 ?266次閱讀

    谷歌開放ZenDeviceEffects API,助第三方應(yīng)用實(shí)現(xiàn)睡前屏幕管理

    據(jù)報(bào)道,谷歌近日在安卓 15 開發(fā)者預(yù)覽版 2 中推出了全新 ZenDeviceEffects API,允許第三方應(yīng)用訪問數(shù)字健康的就寢模式功能。
    的頭像 發(fā)表于 05-08 16:41 ?364次閱讀

    Labview如何內(nèi)嵌操作第三方EXE程序!

    自己在網(wǎng)上搜了下相關(guān)資料,能把第三方EXE內(nèi)嵌進(jìn)入容器里,但是有個(gè)問題,這個(gè)第三方軟件必須手動(dòng)拖到容器正中間,手動(dòng)最大化。請(qǐng)問有什么方法可以自動(dòng)實(shí)現(xiàn)嗎? 下圖是我內(nèi)嵌的POLL 軟件。如圖!
    發(fā)表于 04-18 14:26

    微軟或?qū)⒁?b class='flag-5'>第三方數(shù)字游戲商店至Xbox平臺(tái)

    微軟選擇引入這些第三方游戲平臺(tái),一面可以增加自身擁有的硬件資源和服務(wù)優(yōu)勢(shì);另一面,也是為了吸引那些在電腦端能夠自由選擇游戲購(gòu)買渠道的游戲用戶。據(jù)悉,此前的Xbox系列產(chǎn)品都是只內(nèi)置自家的商城。
    的頭像 發(fā)表于 03-27 15:51 ?380次閱讀

    Meta Quest頭顯將支持多款安卓第三方應(yīng)用并行

    Meta已悄然啟動(dòng)了與此相關(guān)的功能,意味著Quest頭顯可同時(shí)操作多個(gè)第三方Android應(yīng)用。在此之前,Quest對(duì)第三方Android應(yīng)用有嚴(yán)格限制,用戶每次僅能打開一個(gè),無法實(shí)現(xiàn)同屏幕并行多個(gè)第三方應(yīng)用進(jìn)程。
    的頭像 發(fā)表于 03-11 10:58 ?571次閱讀

    蘋果iOS 17.4版允許歐盟地區(qū)用戶使用第三方應(yīng)用商店下載應(yīng)用

    3月6日,蘋果正式推出iOS 17.4版本,首次符合歐州《數(shù)字市場(chǎng)法》規(guī)定,引入“第三方應(yīng)用商店”選項(xiàng),讓iPhone用戶能從非App Store處下載應(yīng)用程序。
    的頭像 發(fā)表于 03-06 10:51 ?671次閱讀

    MacPaw將于4月在歐洲市場(chǎng)推出Setapp第三方應(yīng)用商城

    3月1日?qǐng)?bào)道,知名廠商MacPaw于今日發(fā)表聲明,宣稱其自有的第三方應(yīng)用商城Setapp將進(jìn)軍歐洲市場(chǎng),發(fā)布會(huì)定于今年4月舉行,并且官網(wǎng)預(yù)告了可供用戶試用的候選頁面,以吸引更多人參與到Setapp移動(dòng)版本Beta的測(cè)試中來。
    的頭像 發(fā)表于 03-01 10:16 ?424次閱讀

    調(diào)用第三方API接口會(huì)遇到哪些問題?如何解決?

    在實(shí)際工作中,我們經(jīng)常需要在項(xiàng)目中調(diào)用第三方API接口,獲取數(shù)據(jù),或者上報(bào)數(shù)據(jù),進(jìn)行數(shù)據(jù)交換和通信。
    的頭像 發(fā)表于 11-30 11:05 ?1912次閱讀
    調(diào)用<b class='flag-5'>第三方</b>API接口會(huì)遇到哪些問題?如何解決?

    python第三方庫(kù)有哪些

    Python 作為一門功能強(qiáng)大的編程語言,擁有豐富的第三方庫(kù),幾乎覆蓋了各個(gè)領(lǐng)域的應(yīng)用。下面是一些常見且廣泛應(yīng)用的 Python 第三方庫(kù)的總結(jié),希望能為您提供幫助。 NumPy(Numerical
    的頭像 發(fā)表于 11-29 14:31 ?1933次閱讀

    汽車第三方檢測(cè)公司與汽車材料零部件檢測(cè)公司的服務(wù)差異:從檢測(cè)范圍到應(yīng)用領(lǐng)域

    汽車第三方檢測(cè)公司與汽車材料零部件檢測(cè)公司的服務(wù)差異,在于從檢測(cè)范圍到應(yīng)用領(lǐng)域上的區(qū)別,兩者都是為購(gòu)車者和其他企業(yè)客戶提供獨(dú)立、公正的第三方檢測(cè)服務(wù)。這是Amanda王莉的第76篇文章,點(diǎn)這里關(guān)注我
    的頭像 發(fā)表于 10-19 08:33 ?849次閱讀
    汽車<b class='flag-5'>第三方</b>檢測(cè)公司與汽車材料零部件檢測(cè)公司的服務(wù)差異:從檢測(cè)范圍到應(yīng)用領(lǐng)域