0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

CPU、GPU和DPU的結合,可為AI提供前所未有的安全性和算力

如意 ? 來源:OFweek電子工程網(wǎng) ? 作者:Ai芯天下 ? 2020-10-21 12:15 ? 次閱讀

前言:

因為AI的火熱,NVIDIA GPU的關注度暴增,歷經(jīng)過去幾年的收購和產(chǎn)品線拓展外,NVIDIA已經(jīng)開拓了多條產(chǎn)品線,NVIDIA的未來,不只是GPU ,還有DPU!

NVIDIA的最新布局在數(shù)據(jù)中心領域,CPU和GPU是當之無愧的“處理器巨頭”,他們憑借各自的優(yōu)勢在數(shù)據(jù)中心中建立了無可撼動的地位。但自從Nvidia開始收購ARM之后,我們看到Nvidia已經(jīng)在多個場合顯示了其利用ARM處理器進一步占領數(shù)據(jù)中心服務器市場的決心,而DPU則是NVIDIA最新的一個布局。在GTC 2020 秋季站上,NVIDIA宣布推出一款新型處理器 DPU,以及以 DOCA 為特色的數(shù)據(jù)處理單元,在Nvidia CEO黃仁勛看來,DPU已經(jīng)成為以數(shù)據(jù)為中心的加速計算模型的第三位成員。其中CPU用于通用計算,GPU用于加速計算,而DPU在數(shù)據(jù)中心周圍移動數(shù)據(jù),進行數(shù)據(jù)處理。DPU,就是Data Processing Unit的縮寫,是一款具備了高性能,軟件可編程和多核CPU等特性的新型可編程處理器。在這個SoC中,擁有高性能網(wǎng)絡接口,能夠以有線傳輸?shù)乃俾式馕觥⑻幚頂?shù)據(jù),并將其快速傳輸?shù)紾PU和CPU。這是英偉達耗資69億美元收購的以色列芯片廠商Mellanox所帶來的拳頭產(chǎn)品之一。更重要的是,英偉達方面表示,DPU豐富的、靈活和可編程的加速引擎可減輕和改善AI和機器學習應用的性能。CPU、GPU和DPU的結合,可構成完全可編程的單一AI計算單元,提供前所未有的安全性和算力。

NVIDIA DPU被廣泛采用據(jù)悉,全球領先的服務器制造商均計劃在其企業(yè)級服務器產(chǎn)品中集成NVIDIA DPU,包括華碩、源訊、戴爾技術、富士通、技嘉科技、新華三、浪潮、聯(lián)想、云達科技和超微。除系統(tǒng)提供商的承諾之外,NVIDIA DPU還得到了軟件基礎設施合作伙伴的廣泛支持,包括:

● VMware宣布與NVIDIA展開合作,作為近期宣布的Monterey項目計劃的一部分,將在VMware Cloud Foundation中支持BlueField-2 DPU。

● 紅帽計劃在紅帽企業(yè) Linux 操作系統(tǒng)(RHEL)和紅帽O(jiān)penShift上為BlueField-2 DPU提供支持。這是紅帽開放混合云產(chǎn)品組合的組成部分,95%的財富500強公司都在使用這些產(chǎn)品。

Canonical宣布在其Ubuntu Linux平臺中支持BlueField-2 DPU和DOCA。Ubuntu Linux平臺是公有云中最常用的操作系統(tǒng)。

● 領先的網(wǎng)絡安全提供商Check Point軟件科技正在將BlueField-2 DPU集成到產(chǎn)品技術中。全球成千上萬的機構都在使用Check Point的產(chǎn)品,以抵御網(wǎng)絡攻擊。

DPU打開市場優(yōu)勢BlueField-2 DPU,擁有8個64bit的Arm Cortex A72內(nèi)核,同時還擁有2VLIM加速引擎和Mellanox的ConnertX-6 Dx NIC,同時還集成了行業(yè)領先的50Gb / s PAM4 SerDes和PCIe Gen 4.0接口,這就讓其能提供速度為25Gb / s、50Gb / s或100Gb/ s的兩個端口,或者一個速度高達200Gb/s的以太網(wǎng)和InfiniBand連接。經(jīng)過優(yōu)化的BlueField-2 DPU可從CPU上卸載關鍵的網(wǎng)絡、存儲和安全任務,使企業(yè)能夠將其IT基礎設施轉變?yōu)樽钕冗M的數(shù)據(jù)中心。此類數(shù)據(jù)中心可實現(xiàn)加速、具有完全可編程性,并具有“零信任”安全功能,防止數(shù)據(jù)泄露和網(wǎng)絡攻擊。據(jù)了解,單個BlueField-2 DPU可以提供相當于消耗125個CPU內(nèi)核所提供的數(shù)據(jù)中心服務。由此釋放寶貴的CPU內(nèi)核,以運行各種其他企業(yè)應用程序。

DPU的產(chǎn)品組合除了BlueField-2 DPU之外,英偉達還帶了BlueField-2X DPU,這款產(chǎn)品除了擁有BlueField-2 DPU的所有特性以外,還集成了一個NVIDIA Ampere GPU,這就讓其可以運用AI來執(zhí)行數(shù)據(jù)中心的安全、網(wǎng)絡和存儲等任務。在介紹了這兩款DPU之后,英偉達還帶來了DPU的全新路線圖。英偉達未來兩代的DPU所帶來的性能提升是非常明顯的。 為了方便DPU的開發(fā),英偉達同時還帶來了一款名為DOCA的SDK。據(jù)了解,DOCA為開發(fā)人員提供了一個全面的開放平臺,協(xié)助他們在BlueField系列DPU上打造軟件定義的,硬件加速的網(wǎng)絡、存儲、安全和管理等應用。而DOCA也已經(jīng)完全集成到NVIDIA NGC中,該軟件目錄為第三方應用程序開發(fā)商提供了便捷和容器化的軟件開發(fā)環(huán)境,那就意味著他們可以利用DPU在數(shù)據(jù)中心中的加速服務,并開發(fā),認證和分發(fā)應用程序給其客戶。

結尾:英偉達表示,BlueField-2 DPU目前可提供樣品,預計2021年在服務器制造商的新系統(tǒng)中使用。BlueField-2X DPU正在開發(fā)中,預計將在2021年上市。
責編AJX

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • cpu
    cpu
    +關注

    關注

    68

    文章

    10804

    瀏覽量

    210828
  • NVIDIA
    +關注

    關注

    14

    文章

    4855

    瀏覽量

    102709
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4673

    瀏覽量

    128592
  • AI
    AI
    +關注

    關注

    87

    文章

    29806

    瀏覽量

    268103
收藏 人收藏

    評論

    相關推薦

    【一文看懂】大白話解釋“GPUGPU

    隨著大模型的興起,“GPU”這個詞正頻繁出現(xiàn)在人工智能、游戲、圖形設計等工作場景中,什么是GPU,它與CPU的區(qū)別是什么?以及到底什么是
    的頭像 發(fā)表于 10-29 08:05 ?152次閱讀
    【一文看懂】大白話解釋“<b class='flag-5'>GPU</b>與<b class='flag-5'>GPU</b><b class='flag-5'>算</b><b class='flag-5'>力</b>”

    【「芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】--全書概覽

    本帖最后由 1653149838.791300 于 2024-10-16 22:19 編輯 感謝平臺提供的書籍,厚厚的一本,很有分量,感謝作者的傾力付出成書。 本書主要講芯片CPU
    發(fā)表于 10-15 22:08

    并重:數(shù)據(jù)時代的雙刃劍

    在2024年的今天,人工智能(AI)技術已經(jīng)全面滲透至我們生活的方方面面,從醫(yī)療診斷到智能交通,從金融分析到智能家居,AI正以前所未有的速度重塑我們的世界。這一變革背后,
    的頭像 發(fā)表于 10-08 16:00 ?666次閱讀

    名單公布!【書籍評測活動NO.43】 芯片 | 高性能 CPU/GPU/NPU 微架構分析

    這個想法被否決了,因為投入較大、難以落地,且客戶對的認同遠不及今天這種高度。 這幾年間其實我們聯(lián)系甚少,但是作者一直沒有脫離對芯片的應用和關注。特別是目睹GPU從消費電子轉向
    發(fā)表于 09-02 10:09

    前沿情報局 | 合眾恒躍HZHY-AI500G集成Hailo-8?智能模塊,超高助力邊緣設備實現(xiàn)高性能人工智能!

    HZHY-AI500G,通過PCIE總線集成Hailo-8智能模塊,將NPU處理能力從6TOPS拓展至32TOPS,帶來前所未有的強大
    的頭像 發(fā)表于 07-27 08:45 ?399次閱讀
    前沿情報局 | 合眾恒躍HZHY-<b class='flag-5'>AI</b>500G集成Hailo-8?智能<b class='flag-5'>算</b><b class='flag-5'>力</b>模塊,超高<b class='flag-5'>算</b><b class='flag-5'>力</b>助力邊緣設備實現(xiàn)高性能人工智能!

    服務器為什么選擇GPU

    隨著人工智能技術的快速普及,需求日益增長。智中心的服務器作為支撐大規(guī)模數(shù)據(jù)處理和計算的核心設備,其性能優(yōu)化顯得尤為關鍵。而GPU服務器也進入了大眾的視野,成為高性能計算的首選。那
    的頭像 發(fā)表于 07-25 08:28 ?464次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>服務器為什么選擇<b class='flag-5'>GPU</b>

    IaaS+on+DPU(IoD)+下一代高性能底座技術白皮書

    DPU 是當下基礎設施的核心創(chuàng)新之一。如果把 CPU 比做大腦,那么 GPU 就好比是肌肉,而 D
    發(fā)表于 07-24 15:32

    壁仞科技參與中國移動呼和浩特智中心,共筑AI新基石

    在人工智能浪潮席卷全球的今天,高性能計算中心作為AI技術發(fā)展的核心引擎,正以前所未有的速度重塑著各個行業(yè)的面貌。近日,中國移動智中心(呼和浩特)的盛大上線,不僅標志著我國在智能計算領域邁出了堅實
    的頭像 發(fā)表于 07-09 09:37 ?523次閱讀

    中科馭數(shù):DPU是構建高效智中心基礎設施的必選項

    先生在《基于DPU的高效智中心算底座》主題分享中提出,大模型等智業(yè)務推動需求規(guī)??焖僭?/div>
    的頭像 發(fā)表于 07-08 10:51 ?632次閱讀

    青云科技聯(lián)手摩爾線程,構建國產(chǎn)繁榮生態(tài)

    隨著大數(shù)據(jù)模型與各行業(yè)深度整合,以GPU為代表的智能需求持續(xù)攀升。同時,政府出臺多項扶持政策,積極推行“人工智能+”戰(zhàn)略,激勵AI芯片行業(yè)創(chuàng)新發(fā)展,以更好地賦能各行各業(yè)。國產(chǎn)
    的頭像 發(fā)表于 04-22 09:32 ?443次閱讀

    DPU技術賦能下一代AI基礎設施

    4月19日,在以“重構世界 奔赴未來”為主題的2024中國生成式AI大會上,中科馭數(shù)作為DPU新型基礎設施代表,受邀出席了中國智中心創(chuàng)
    的頭像 發(fā)表于 04-20 11:31 ?786次閱讀

    GPU是顯卡嗎 cpugpu哪個

    很大的區(qū)別,因此它們的計算能力也不同。 首先,我們來看一下CPU(中央處理器)的。CPU是一種通用處理器,它被設計用于處理各種不同類型的任務,包括數(shù)據(jù)處理、指令執(zhí)行、邏輯控制等。
    的頭像 發(fā)表于 01-10 15:45 ?4933次閱讀

    《數(shù)據(jù)處理器:DPU編程入門》讀書筆記

    AI、機器學習、安全、電信和存儲等應用,并提升性能,減輕虛擬化Hypervisor的工作負載。同時,它還具備開放集成功能,未來支持更多功能集成。NVIDIA的DPU
    發(fā)表于 12-21 10:47

    淺談DPUCPU、GPU的關系

    CPU的一大部分卸載給GPU之后,人們發(fā)現(xiàn)可以把很多其他功能也外包出去,于是又有了智能網(wǎng)卡,或者叫做DPU。
    發(fā)表于 12-14 11:44 ?794次閱讀
    淺談<b class='flag-5'>DPU</b>和<b class='flag-5'>CPU</b>、<b class='flag-5'>GPU</b>的關系

    英偉達用AI設計GPU算術電路有何優(yōu)勢

    大量的算術電路陣列為英偉達GPU提供了動力,以實現(xiàn)前所未有的AI、高性能計算和計算機圖形加速。因此,改進這些算術電路的設計對于提升 GPU
    發(fā)表于 12-05 11:05 ?392次閱讀