0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

教大家應(yīng)該怎樣選擇最佳的DPU智能網(wǎng)卡

NVIDIA英偉達(dá)企業(yè)解決方案 ? 來源:NVIDIA英偉達(dá)中國 ? 作者:NVIDIA英偉達(dá)中國 ? 2021-10-12 09:44 ? 次閱讀

許多人都在討論 DPU(數(shù)據(jù)處理器智能網(wǎng)卡,但卻忽略了一個簡單的問題:智能網(wǎng)卡是什么,智能網(wǎng)卡有什么作用?

網(wǎng)卡(NIC),全稱網(wǎng)絡(luò)接口卡,是一張 PCIe 卡,可以插入服務(wù)器或存儲盒,實現(xiàn)與以太網(wǎng)連接。而 DPU 智能網(wǎng)卡超越了簡單的連接,并在網(wǎng)卡上實現(xiàn)了網(wǎng)絡(luò)流量處理,相比其他的基礎(chǔ)網(wǎng)卡,這些處理必須交由 CPU 來執(zhí)行。

部分供應(yīng)商對 DPU 智能網(wǎng)卡的定義是完全集中在應(yīng)用上的,但是這樣定義并不準(zhǔn)確,因為不同的供應(yīng)商有不同的架構(gòu)。例如,一張 DPU 智能網(wǎng)卡可以基于 ASICFPGA 和 SoC 芯片。然而,只生產(chǎn)一種網(wǎng)卡的廠商通常會認(rèn)為只有他們的網(wǎng)卡才稱得上是智能網(wǎng)卡。

ASIC 型網(wǎng)卡

高性價比

高廠商開發(fā)成本

編程及可擴展

其靈活性受限于預(yù)設(shè)定功能

FPGA 型網(wǎng)卡

性能好,但價格昂貴

編程難度大

特定應(yīng)用的優(yōu)化

SoC 型網(wǎng)卡 + CPU

性價比較好

可編程處理器

最高靈活性

最簡單的可編程性

不同的實現(xiàn)方式在成本、編程的難易程度和靈活性方面各有利弊。ASIC 的成本效益最高,性價比有可能最佳,但靈活性有限。NVIDIA ConnectX-5 等 ASIC 型網(wǎng)卡有一個可編程的數(shù)據(jù)路徑,配置起來相對簡單。然而,其功能是由 ASIC 內(nèi)定義的功能所決定的,這可能導(dǎo)致某些應(yīng)用無法得到支持。

相比之下,NVIDIA Innova-2 Flex 等 FPGA 型網(wǎng)卡具有高度可編程性。只要有足夠的時間和精力,在 FPGA 可用資源的限制范圍內(nèi),它可以相對有效地支持幾乎任何功能。但眾所周知,F(xiàn)PGA 編程難,價格高。

對于更復(fù)雜的用例,如 NVIDIA BlueField DPU 可編程智能網(wǎng)卡 一類的 SoC 型智能網(wǎng)卡似乎是最好的 DPU 智能網(wǎng)卡實現(xiàn)選項:具有良好的性價比、易于編程且靈活性高。

單一討論特定供應(yīng)商如何實現(xiàn) DPU 智能網(wǎng)卡,并不能回答其功能問題和架構(gòu)設(shè)計的問題。NVIDIA 實際上提供基于上述每一種架構(gòu)的產(chǎn)品,這些產(chǎn)品都可以歸類為 DPU 智能網(wǎng)卡。事實上,客戶可以根據(jù)需求,將這些產(chǎn)品分別用于不同的應(yīng)用。因此,對 ASIC、FPGA、SoC 等實現(xiàn)選項的關(guān)注顛覆了“形式服從功能”的理念,而這種理念是最佳架構(gòu)的基礎(chǔ)。

筆者并沒有把重點放在架構(gòu)設(shè)計上,而是調(diào)整了《個人電腦雜志》百科全書條目,對什么是 DPU 智能網(wǎng)卡,給出了一個更實用的定義:

DPU 智能網(wǎng)卡:

DPU 型網(wǎng)絡(luò)接口卡(網(wǎng)絡(luò)適配器)可以卸載通常由系統(tǒng) CPU 所負(fù)責(zé)處理的任務(wù)。DPU 智能網(wǎng)卡使用其板載的處理器,來執(zhí)行任何加密/解密、防火墻、TCP/IP 和 HTTP 網(wǎng)絡(luò)處理不同任務(wù)的組合。智能網(wǎng)卡非常適合于高流量的網(wǎng)絡(luò)服務(wù)器。

定義中有兩點需注意:第一點,它更專注于功能而非架構(gòu)設(shè)計;第二點,定義中以“……使用其板載處理器……來執(zhí)行任何……網(wǎng)絡(luò)處理任務(wù)組合”這一敘述中的暗示。由此可見,嵌入式處理器是實現(xiàn)靈活執(zhí)行絕大部分網(wǎng)絡(luò)功能的關(guān)鍵。

用戶可以進(jìn)一步拓展這一定義為“只需添加 DPU 智能網(wǎng)卡,就有可能執(zhí)行網(wǎng)絡(luò)、存儲或 GPU 虛擬化”。除網(wǎng)絡(luò)服務(wù)器外,智能網(wǎng)卡也同樣適用于電信、安全、機器學(xué)習(xí)、軟件定義存儲和超融合基礎(chǔ)設(shè)施服務(wù)器。

網(wǎng)卡類別

我們可以通過網(wǎng)絡(luò)適配器所支持的功能,以及用于加速的不同應(yīng)用來區(qū)分三類網(wǎng)卡:

基礎(chǔ)網(wǎng)卡

智能網(wǎng)卡

智慧網(wǎng)卡

NVIDIA BlueField DPU 從智能網(wǎng)卡中脫穎而出成為了新興類別。

基礎(chǔ)網(wǎng)卡只能移動網(wǎng)絡(luò)流量,并且除了可能的 SRIOV 和基本的 TCP 加速外,具有很少,甚至沒有卸載功能。它不能節(jié)省任何 CPU 周期,也不能卸載數(shù)據(jù)包轉(zhuǎn)發(fā)或數(shù)據(jù)流的處理。NVIDIA 已不再出售基礎(chǔ)網(wǎng)卡。

NVIDIA ConnectX 適配器系列具有可編程數(shù)據(jù)路徑,并且可以加速公有云用例中十分重要的多個功能。因此,此類網(wǎng)卡可定義為智慧網(wǎng)卡(iNIC)。如今,與公有云提供商一樣,可能本地企業(yè)、電信公司和私有云也需要這種可編程性和加速功能。它還可以被稱為首字母不帶大寫“S”的高級智能網(wǎng)卡(smarterNIC)。

許多客戶需要 DPU 智能網(wǎng)卡功能,而往往卻只能找到其他供應(yīng)商提供的 FPGA 型網(wǎng)卡,或者是 FPGA 加上有自定義能力的專有處理引擎而組成的網(wǎng)卡。但是,當(dāng)客戶需要一款最符合他們的特殊處理流程的網(wǎng)卡時,客戶通常會最終選擇 ConnectX 系列 iNIC,因為 ConnectX 能實現(xiàn)特定應(yīng)用所需要的功能,亦能夠提供這些供應(yīng)商號稱的“智能網(wǎng)卡”所具備的功能,性能和靈活性,而功耗和成本卻遠(yuǎn)低于這些智能網(wǎng)卡。

因此,根據(jù)部分其他業(yè)界內(nèi)所使用的智能網(wǎng)卡定義,NVIDIA的 ConnectX NIC 確實是他們定義的“智能網(wǎng)卡”,雖然我們只把它稱為智慧網(wǎng)卡,或有高級智能的網(wǎng)卡。NVIDIA 的 FPGA 型網(wǎng)卡(Innova)也同樣是傳統(tǒng)意義上的智能網(wǎng)卡,而我們的 SoC 型網(wǎng)卡(BlueField)才是最智能的智能網(wǎng)卡,可以將它稱之為天才型的智能網(wǎng)卡(Genius NIC)。

到底什么才是智能網(wǎng)卡的完整定義?DPU 智能網(wǎng)卡是一個具有加速能力并可卸載服務(wù)器(或存儲服務(wù)器)的 CPU 功能的網(wǎng)絡(luò)適配器。那么,該如何建造一個 DPU 智能網(wǎng)卡?哪種智能網(wǎng)卡才可以最好地滿足客戶需要執(zhí)行的不同任務(wù)呢?要弄懂這些問題,必須深挖更多的細(xì)節(jié)。例如,搞清楚到底有哪些數(shù)據(jù)路徑以及虛擬化是可以被加速的,同時,這樣的加速是如何在 DPU 智能網(wǎng)卡上使用的。

編輯:jq

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 芯片
    +關(guān)注

    關(guān)注

    451

    文章

    49738

    瀏覽量

    417753
  • asic
    +關(guān)注

    關(guān)注

    34

    文章

    1176

    瀏覽量

    120010
  • soc
    soc
    +關(guān)注

    關(guān)注

    38

    文章

    4033

    瀏覽量

    217150
  • DPU
    DPU
    +關(guān)注

    關(guān)注

    0

    文章

    350

    瀏覽量

    24048
  • 智能網(wǎng)卡
    +關(guān)注

    關(guān)注

    1

    文章

    52

    瀏覽量

    12202

原文標(biāo)題:選擇最佳 DPU 智能網(wǎng)卡

文章出處:【微信號:NVIDIA-Enterprise,微信公眾號:NVIDIA英偉達(dá)企業(yè)解決方案】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    IaaS+on+DPU(IoD)+下一代高性能算力底座技術(shù)白皮書

    大規(guī)模生產(chǎn)環(huán)境落地應(yīng)用的條件。某種程度上,IoD 技術(shù)已成為下一代高性能算力底座的核心技術(shù)與最佳實踐。 白皮書下載:*附件:IaaS+on+DPU(IoD)+下一代高性能算力底座+技術(shù)白皮書(1).pdf
    發(fā)表于 07-24 15:32

    基于芯啟源NFP3800DPU芯片的深信服安全加速卡XSX40FNN網(wǎng)卡

    近日,國內(nèi)DPU領(lǐng)域的領(lǐng)軍企業(yè)芯啟源宣布,基于芯啟源NFP3800DPU芯片定制的深信服安全加速卡XSX40FNN網(wǎng)卡已成功應(yīng)用于其防火墻產(chǎn)品,并已批量推向市場。
    的頭像 發(fā)表于 05-29 14:06 ?563次閱讀
    基于芯啟源NFP3800<b class='flag-5'>DPU</b>芯片的深信服安全加速卡XSX40FNN<b class='flag-5'>網(wǎng)卡</b>

    一文看懂DPU與CPU、GPU的關(guān)系

    獨立供電的智能網(wǎng)卡,需要考慮網(wǎng)卡狀態(tài)與計算服務(wù)之間低層信號識 別,在計算系統(tǒng)啟動的過程中或者啟動之后,智能網(wǎng)卡是否已經(jīng)是進(jìn)入服務(wù)狀 態(tài),這些
    發(fā)表于 04-26 10:35 ?1.1w次閱讀
    一文看懂<b class='flag-5'>DPU</b>與CPU、GPU的關(guān)系

    網(wǎng)卡揭秘:如何選擇適合您需求的網(wǎng)卡

    網(wǎng)卡(Network Interface Card,NIC),也稱網(wǎng)絡(luò)適配器,是連接計算機與網(wǎng)絡(luò)的硬件設(shè)備。在光通信系統(tǒng)中,網(wǎng)卡特指光纖網(wǎng)卡,它通過光纖接口與外部網(wǎng)絡(luò)通信,傳輸數(shù)據(jù)。早期的網(wǎng)卡
    的頭像 發(fā)表于 04-10 10:04 ?498次閱讀
    光<b class='flag-5'>網(wǎng)卡</b>揭秘:如何<b class='flag-5'>選擇</b>適合您需求的<b class='flag-5'>網(wǎng)卡</b>

    明天線上見!DPU構(gòu)建高性能云算力底座——DPU技術(shù)開放日最新議程公布!

    算力,是數(shù)字經(jīng)濟時代的新質(zhì)生產(chǎn)力。隨著人工智能、智算中心建設(shè)等需求不斷拓展,DPU在各行各業(yè)數(shù)據(jù)中心的應(yīng)用逐步深入。異構(gòu)算力代表DPU在新質(zhì)生產(chǎn)力建設(shè)中,能否給出別開生面的答案,應(yīng)戰(zhàn)算力難題?
    的頭像 發(fā)表于 04-03 18:12 ?913次閱讀

    FPGA-Based DPU網(wǎng)卡的發(fā)展和應(yīng)用

    采用單芯片的SoC形態(tài),兼顧性能和功耗。FPGA-Based DPU在硬件設(shè)計上的挑戰(zhàn)主要來自芯片面積和功耗。
    發(fā)表于 02-23 14:40 ?1659次閱讀
    FPGA-Based <b class='flag-5'>DPU</b><b class='flag-5'>網(wǎng)卡</b>的發(fā)展和應(yīng)用

    串口與網(wǎng)絡(luò)調(diào)試助手:支持廣播數(shù)據(jù)、支持選擇網(wǎng)卡

    電子發(fā)燒友網(wǎng)站提供《串口與網(wǎng)絡(luò)調(diào)試助手:支持廣播數(shù)據(jù)、支持選擇網(wǎng)卡.zip》資料免費下載
    發(fā)表于 12-27 09:40 ?2次下載

    《數(shù)據(jù)處理器:DPU編程入門》DPU計算入門書籍測評

    一、DPU計算框架 通過一周多的時間翻閱這本書,基本上這本書是一本比較全面的,面向架構(gòu)的新手指導(dǎo)數(shù)據(jù)。它在書中詳盡介紹了關(guān)于DPU在計算機架構(gòu)中的應(yīng)用。 對于DPU來說,是一種平行于CPU和GPU
    發(fā)表于 12-24 10:54

    《數(shù)據(jù)處理器:DPU編程入門》讀書筆記

    首先感謝電子發(fā)燒友論壇提供的試讀機會。 第一周先閱讀了DPU的技術(shù)發(fā)展背景,了解到DPU是結(jié)合了高性能及軟件可編程的多核CPU、高性能網(wǎng)絡(luò)接口,以及各種靈活和可編程的加速引擎。DPU的主要作用是卸載
    發(fā)表于 12-21 10:47

    淺談DPU和CPU、GPU的關(guān)系

    把CPU的一大部分算力卸載給GPU之后,人們發(fā)現(xiàn)可以把很多其他功能也外包出去,于是又有了智能網(wǎng)卡,或者叫做DPU
    發(fā)表于 12-14 11:44 ?692次閱讀
    淺談<b class='flag-5'>DPU</b>和CPU、GPU的關(guān)系

    選擇無線網(wǎng)卡的原則和方法

    選擇無線網(wǎng)卡的原則和方法 無線網(wǎng)卡是一種用于連接電腦或其他設(shè)備與無線網(wǎng)絡(luò)的設(shè)備,它可以通過Wi-Fi信號接收和發(fā)送數(shù)據(jù)。隨著無線網(wǎng)絡(luò)的廣泛應(yīng)用,選擇一款合適的無線
    的頭像 發(fā)表于 12-11 11:38 ?973次閱讀

    《數(shù)據(jù)處理器:DPU編程入門》+初步熟悉這本書的結(jié)構(gòu)和主要內(nèi)容

    成本和提高性能。 2.人工智能和機器學(xué)習(xí):DPU可以在人工智能和機器學(xué)習(xí)應(yīng)用中發(fā)揮重要作用。它可以加速模型訓(xùn)練和推理過程,提高算法的執(zhí)行效率和響應(yīng)速度。這對于需要實時決策和處理大量數(shù)據(jù)的應(yīng)用非常關(guān)鍵,如
    發(fā)表于 12-08 18:03

    什么是DPU?

    是用來做功能強大的實時圖形處理,現(xiàn)在憑借其優(yōu)秀的并行處理能力,已經(jīng)成為各種加速計算任務(wù)的理想選擇。 這使GPU成為了人工智能、深度學(xué)習(xí)和大數(shù)據(jù)分析應(yīng)用的關(guān)鍵。 過去十年中,計算已經(jīng)不僅僅局限在個人電腦
    發(fā)表于 11-03 10:55

    【書籍評測活動NO.23】數(shù)據(jù)處理器:DPU編程入門

    主席 人工智能正在呈爆發(fā)式發(fā)展,成為數(shù)據(jù)中心算力需求的主要驅(qū)動力之一。為了卸載、加速和隔離數(shù)據(jù)中心基礎(chǔ)設(shè)施工作負(fù)載,DPU應(yīng)運而生。本書是一本應(yīng)用NVIDIA BlueField系列DPU
    發(fā)表于 10-24 15:21

    NVIDIA 發(fā)布首部 DPU 和 DOCA 編程入門書籍(互動有禮)

    的開發(fā)者提供實用指南,助力開發(fā)者快速上手,學(xué)習(xí)如何在 DPU 上靈活編程。 隨著人工智能的“iPhone 時刻”到來,每家企業(yè)都將采用生成式人工智能,每個行業(yè)也都將被
    的頭像 發(fā)表于 10-18 16:05 ?366次閱讀
    NVIDIA 發(fā)布首部 <b class='flag-5'>DPU</b> 和 DOCA 編程入門書籍(互動有禮)