0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

NVIDIA DOCA 1.1加速應(yīng)用在DPU上的開發(fā)

星星科技指導(dǎo)員 ? 來源:NVIDIA ? 作者:Scott Ciccone ? 2022-04-14 15:36 ? 次閱讀

NVIDIA發(fā)布NVIDIA DOCA 1.1 —— 用于BlueField DPU(全球最先進(jìn)的數(shù)據(jù)處理器)的軟件框架。最新版本的NVIDIA DOCA將延續(xù)DOCA搶先體驗(yàn)計(jì)劃的強(qiáng)勁勢頭,提供更多的DOCA SDK內(nèi)容、運(yùn)行時(shí)和服務(wù),助力開發(fā)者加速在DPU上的應(yīng)用開發(fā)。

DPU的作用在網(wǎng)絡(luò)功能和虛擬化資源的卸載、加速和隔離中越來越重要?,F(xiàn)代應(yīng)用需要將大量的網(wǎng)絡(luò)操作交給CPU來處理,這成為了在每個(gè)主機(jī)中都配備DPU的強(qiáng)動(dòng)力。相比標(biāo)準(zhǔn)的CPU來言, DPU可以更快、更高效地處理所有這些虛擬化工作(如Open vSwitch(OVS)、SR-IOV、RDMA等)。此外,通過將DPU與主CPU分開運(yùn)行,提供了更高的安全性和操作隔離,并無需CPU或主機(jī)操作系統(tǒng)的參與,便可檢測并阻止惡意行為。

DOCA是釋放DPU潛力的關(guān)鍵。應(yīng)用開發(fā)者和NVIDIA技術(shù)合作伙伴能夠通過DOCA加速交付在每個(gè)數(shù)據(jù)中心節(jié)點(diǎn)中的DPU上運(yùn)行的服務(wù)。DPU為網(wǎng)絡(luò)、安全、存儲(chǔ)和基礎(chǔ)設(shè)施管理創(chuàng)建了一個(gè)隔離的安全服務(wù)域。

DOCA 1.1版本建立在DOCA 1.0的強(qiáng)勁勢頭之上,并包含以下更新:

DOCA FLOW-LIB —— 用于網(wǎng)關(guān)性能的加速,以實(shí)現(xiàn)不同網(wǎng)絡(luò)間互操作性

DOCA FLOW示例應(yīng)用—— 用于URL和DNS過濾與轉(zhuǎn)發(fā)功能

加速有狀態(tài)流表(SFT)—— 用于連接追蹤功能

加速正則表達(dá)式(RegEx)—— 用于與DPI Lib進(jìn)行模式匹配

引入x86平臺(tái)上的DOCA Runtime —— 用于加速在主機(jī)x86處理器上運(yùn)行的應(yīng)用, 不必所有的業(yè)務(wù)都卸載到DPU。

根據(jù)The Linley Group首席分析師Bob Wheeler近日發(fā)布的白皮書,“FLOW-Gateway庫(基于流的網(wǎng)關(guān)庫)基于數(shù)據(jù)通路上的SFT(有狀態(tài)流量表)實(shí)現(xiàn)了一種硬件加速的網(wǎng)關(guān)。與基于DPDK的通用流的API(rte_flow)相比,該庫為過濾和分配網(wǎng)絡(luò)流量的網(wǎng)關(guān)應(yīng)用提供了更高層的抽象。深度包檢測(DPI)庫同樣結(jié)合了SFT和RegEx加速,向應(yīng)用層開放了一個(gè)上層API。它可以根據(jù)一個(gè)編譯后簽名數(shù)據(jù)庫對(duì)數(shù)據(jù)包的Payload進(jìn)行不固定搜索?!?/p>

更多關(guān)于DOCA的信息,敬請(qǐng)閱讀Wheeler的白皮書《基于DPU的硬件加速:軟件視角》。

DOCA軟件棧的各組成部分

下圖是關(guān)于DOCA軟件棧的基本框架:

DOCA有三個(gè)主要組成部分:驅(qū)動(dòng)程序、庫和各種服務(wù)。每個(gè)組成部分都在DPU上運(yùn)行,包括BlueField和BlueField-X(一種緊耦合的DPU-GPU融合解決方案)。DOCA還包含在DPU上正式發(fā)布的或是正在開發(fā)和部署的參考應(yīng)用,如網(wǎng)絡(luò)、安全、存儲(chǔ)、高性能計(jì)算/人工智能、電信和媒體等應(yīng)用。所有這些應(yīng)用都可以從CPU上卸載到DPU上,實(shí)現(xiàn)加速和隔離,從而大幅提高性能和效率,使數(shù)據(jù)中心變成一個(gè)加速的、完全可編程的、安全的且具有公有云的可擴(kuò)展性的先進(jìn)虛擬私有云。

有關(guān)DOCA各組成部分的詳細(xì)介紹,請(qǐng)觀看NVIDIA Ami Badani和Ariel Kit近日在2021年GTC大會(huì)上發(fā)表的題為“通過DOCA和最新的DPU軟件對(duì)數(shù)據(jù)中心基礎(chǔ)設(shè)施的加速功能進(jìn)行編程”的演講。

DOCA優(yōu)點(diǎn)總結(jié)

DOCA旨在幫助開發(fā)者了解NVIDIA的愿景——打造集DPU、CPU和GPU三大支柱為一體的加速數(shù)據(jù)中心。通過DOCA,NVIDIA正在實(shí)現(xiàn)對(duì)DPU所有功能的訪問,同時(shí)簡化在DPU上創(chuàng)建新應(yīng)用或整合現(xiàn)有應(yīng)用到DPU上的操作。DOCA具有以下優(yōu)點(diǎn):

DOCA簡化了使用DPU的基礎(chǔ)設(shè)施應(yīng)用和功能的開發(fā)與部署流程,使應(yīng)用能夠更快面市。

– 統(tǒng)一訪問所有的DPU功能:通過將所有需要的資源放在一處來加速開發(fā),避免跟蹤開發(fā)的發(fā)散和不同的工具。

在底層DPU API構(gòu)建一個(gè)帶抽象層的上層庫:合作伙伴能夠從上層進(jìn)行集成,以實(shí)現(xiàn)快速、簡單和高性能的開發(fā),或從底層進(jìn)行集成,以實(shí)現(xiàn)更精細(xì)的控制。

向前/向后兼容:使用DOCA開發(fā)意味著應(yīng)用可以在BlueField DPU的未來版本上無縫運(yùn)行,同時(shí)獲得更高的性能和擴(kuò)展性。

基于容器化服務(wù)的DPU配置和部署 :DOCA包含用于簡化DPU設(shè)置、配置和各種服務(wù)編排的工具。

DOCA開發(fā)容器和SDK管理器——用于增強(qiáng)開發(fā)者體驗(yàn),使您能夠在任何系統(tǒng)上運(yùn)用容器化的開發(fā)者環(huán)境創(chuàng)建最具創(chuàng)新力的應(yīng)用,并使用SDK管理器輕松升級(jí)DPU卡和移植您的運(yùn)行時(shí)應(yīng)用運(yùn)行在DPU 的 Arm核上。

發(fā)布了DOCA 1.1版本之后,NVIDIA還將繼續(xù)為DOCA庫、驅(qū)動(dòng)程序和服務(wù)添加應(yīng)用實(shí)例,助力于廣泛的網(wǎng)絡(luò)、存儲(chǔ)、安全和基礎(chǔ)設(shè)施管理用例等應(yīng)用的開發(fā)。

此外,NVIDIA還將與其生態(tài)系統(tǒng)伙伴合作,提供聯(lián)合解決方案以不斷地推動(dòng)這一強(qiáng)勁勢頭,首個(gè)解決方案即將面世。這個(gè)由DOCA/DPU合作伙伴和搶先體驗(yàn)開發(fā)者組成的生態(tài)系統(tǒng)正在迅速壯大,使客戶能夠接觸到行業(yè)領(lǐng)導(dǎo)者一流的網(wǎng)絡(luò)、安全和存儲(chǔ)解決方案。

關(guān)于作者

Scott Ciccone 于 2020 年作為 Cumulus Networks 收購的一部分加入后,目前擔(dān)任 NVIDIA 的產(chǎn)品營銷總監(jiān)。 Scott 在產(chǎn)品營銷和產(chǎn)品管理方面擁有 20 多年的經(jīng)驗(yàn),擅長在高增長環(huán)境下啟動(dòng)新的業(yè)務(wù)線,包括 Cumulus Networks , Palo Alto Networks 、 Cisco 和 Sun Microsystems 。斯科特在羅切斯特理工學(xué)院獲得生物醫(yī)學(xué)計(jì)算學(xué)士學(xué)位,在巴布森學(xué)院獲得市場營銷工商管理碩士學(xué)位。

審核編輯:郭婷

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 處理器
    +關(guān)注

    關(guān)注

    68

    文章

    18927

    瀏覽量

    227249
  • NVIDIA
    +關(guān)注

    關(guān)注

    14

    文章

    4793

    瀏覽量

    102432
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    IB Verbs和NVIDIA DOCA GPUNetIO性能測試

    NVIDIA DOCA GPUNetIO 是 NVIDIA DOCA SDK 中的一個(gè)庫,專門為實(shí)時(shí)在線 GPU 數(shù)據(jù)包處理而設(shè)計(jì)。它結(jié)合了 GPUDirect RDMA 和 GPUD
    的頭像 發(fā)表于 08-23 17:03 ?263次閱讀
    IB Verbs和<b class='flag-5'>NVIDIA</b> <b class='flag-5'>DOCA</b> GPUNetIO性能測試

    求助,請(qǐng)問TLV2464cpwr通用運(yùn)放有應(yīng)用在audio的典型電路嗎?

    TLV2464cpwr通用運(yùn)放有應(yīng)用在audio的典型電路嗎?
    發(fā)表于 08-08 08:20

    借助NVIDIA DOCA 2.7增強(qiáng)AI 云數(shù)據(jù)中心和NVIDIA Spectrum-X

    NVIDIA DOCA 加速框架為開發(fā)者提供了豐富的庫、驅(qū)動(dòng)和 API,以便為 NVIDIA BlueField
    的頭像 發(fā)表于 05-29 09:22 ?332次閱讀

    基于NVIDIA DOCA 2.6實(shí)現(xiàn)高性能和安全的AI云設(shè)計(jì)

    作為專為 NVIDIA? BlueField? 網(wǎng)絡(luò)平臺(tái)而設(shè)計(jì)的數(shù)據(jù)中心基礎(chǔ)設(shè)施軟件框架,NVIDIA? DOCA? 使廣大開發(fā)者能夠利用其行業(yè)標(biāo)準(zhǔn) API 在
    的頭像 發(fā)表于 02-23 10:02 ?366次閱讀

    NVIDIA DOCA 2.5 長期支持版本發(fā)布

    基礎(chǔ)設(shè)施開發(fā)者的全面軟件框架,NVIDIA DOCA 已被領(lǐng)先的云服務(wù)提供商、企業(yè)和 ISV 創(chuàng)新者所采用,為開發(fā)、優(yōu)化和部署基于 NVIDIA
    的頭像 發(fā)表于 12-26 18:25 ?318次閱讀
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>DOCA</b> 2.5 長期支持版本發(fā)布

    《數(shù)據(jù)處理器:DPU編程入門》DPU計(jì)算入門書籍測評(píng)

    實(shí)踐 最后一部分是數(shù)據(jù)加速應(yīng)用的落地: 基于各個(gè)平臺(tái)的算力解決方案 推薦的存儲(chǔ)解決方案 邊緣計(jì)算方案 網(wǎng)絡(luò)平臺(tái)與融合加速技術(shù) 本書不能幫你完全入門DOCA和相關(guān)的DPU
    發(fā)表于 12-24 10:54

    《數(shù)據(jù)處理器:DPU編程入門》讀書筆記

    首先感謝電子發(fā)燒友論壇提供的試讀機(jī)會(huì)。 第一周先閱讀了DPU的技術(shù)發(fā)展背景,了解到DPU是結(jié)合了高性能及軟件可編程的多核CPU、高性能網(wǎng)絡(luò)接口,以及各種靈活和可編程的加速引擎。DPU
    發(fā)表于 12-21 10:47

    《數(shù)據(jù)處理器:DPU編程入門》+初步熟悉這本書的結(jié)構(gòu)和主要內(nèi)容

    InfiniBand 網(wǎng)絡(luò)連接端口:這些端口提供高速網(wǎng)絡(luò)功能。 軟件完全向后兼容:BlueField-3 DPUNVIDIA DOCA? 軟件框架兼容,確保與現(xiàn)有系統(tǒng)無縫集成。 加速
    發(fā)表于 12-08 18:03

    什么是DPU

    中心的加速計(jì)算模型的第三個(gè)計(jì)算單元。NVIDIA首席執(zhí)行官黃仁勛在本月早些時(shí)候的一次演講中表示:“它將成為未來計(jì)算的三大支柱之一?!?“CPU用于通用計(jì)算,GPU用于加速計(jì)算,而數(shù)據(jù)中心中傳輸數(shù)據(jù)
    發(fā)表于 11-03 10:55

    解碼 DPU 編程,投稿贏取好禮!

    十余位資深系統(tǒng)架構(gòu)師歷經(jīng)數(shù)月編寫而成,定位為 NVIDIA BlueField 系列 DPUNVIDIA DOCA 開發(fā)環(huán)境
    的頭像 發(fā)表于 11-01 20:25 ?334次閱讀
    解碼 <b class='flag-5'>DPU</b> 編程,投稿贏取好禮!

    很好的書籍,學(xué)以致用

    BlueField系列DPUNVIDIA DOCA的實(shí)用指南,使開發(fā)人員和數(shù)據(jù)科學(xué)家能走近DPU的應(yīng)用和編程,是一本非常好的
    發(fā)表于 10-31 08:45

    【書籍評(píng)測活動(dòng)NO.23】數(shù)據(jù)處理器:DPU編程入門

    ? BlueField? 系列 DPU以及搭建 NVIDIA DOCA? 軟件開發(fā)環(huán)境,并通過深入了解 NVIDIA
    發(fā)表于 10-24 15:21

    NVIDIA發(fā)布首部DPUDOCA編程入門書籍

    NVIDIA DOCA 是一個(gè)為 NVIDIA BlueField 系列 DPU 量身定做的軟件開發(fā)環(huán)境,通過打造一個(gè)全面、開放的
    的頭像 發(fā)表于 10-20 15:45 ?551次閱讀

    NVIDIA 發(fā)布首部 DPUDOCA 編程入門書籍(互動(dòng)有禮)

    為使用 NVIDIA BlueField 系列 DPUNVIDIA DOCA 開發(fā)環(huán)境的開發(fā)
    的頭像 發(fā)表于 10-18 16:05 ?354次閱讀
    <b class='flag-5'>NVIDIA</b> 發(fā)布首部 <b class='flag-5'>DPU</b> 和 <b class='flag-5'>DOCA</b> 編程入門書籍(互動(dòng)有禮)

    NVIDIA 發(fā)布首部 DPUDOCA 編程入門書籍

    ? BlueField? 系列 DPUNVIDIA DOCA? 開發(fā)環(huán)境的開發(fā)者提供實(shí)用指南,助力
    發(fā)表于 10-18 11:34 ?298次閱讀
    <b class='flag-5'>NVIDIA</b> 發(fā)布首部 <b class='flag-5'>DPU</b> 和 <b class='flag-5'>DOCA</b> 編程入門書籍