0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

英偉達(dá)Blackwell架構(gòu),行業(yè)首選

要長高 ? 2024-06-05 15:28 ? 次閱讀

AI快速發(fā)展的當(dāng)下,NVIDIA作為領(lǐng)軍者,近期宣布年度推出新品的策略,由以往的2年一迭代變?yōu)槿缃竦?年一升級。他們表示:“我們正處于每年一次的節(jié)奏中”。在臺北電腦展上,NVIDIA公布了全新的半導(dǎo)體技術(shù)路徑圖,首度公開了即將面世的下一代芯片——Rubin平臺,旨在接替現(xiàn)有的Blackwell。

回顧過往,NVIDIA始終保持著每兩年發(fā)布一次全新架構(gòu)的傳統(tǒng),從2020年的Ampere,到2022年的Hopper,再到2024年的Blackwell,每次的革新都為AI應(yīng)用帶來了巨大的飛躍。以H100為例,作為Hopper架構(gòu)的代表,市場反響熱烈;而B200作為Blackwell架構(gòu)的最新力作,性能更為出色。

至今為止,NVIDIA的Blackwell架構(gòu)已成為AI應(yīng)用的重要推手,使得企業(yè)能在萬億參數(shù)的大型語言模型上進(jìn)行實時生成式AI的構(gòu)建與運行,且成本與能耗比上一代產(chǎn)品降低了1/25。這也是為何Blackwell深受客戶喜愛的原因。

各大廠商紛紛擁抱Blackwell架構(gòu)

Blackwell平臺的問世,無疑是AI技術(shù)的又一次重大突破。目前,NVIDIA的Blackwell產(chǎn)品線包含了NVIDIA Blackwell Tensor Core GPU、GB200 Grace Blackwell超級芯片、GB200 NVL2和GB200 NVL72等多種選擇,覆蓋了從單GPU到多GPU、從x86到Grace、從風(fēng)冷到液冷等各種技術(shù)。這些強大的Blackwell產(chǎn)品將助力AI應(yīng)用在更多領(lǐng)域的普及,為企業(yè)帶來新的發(fā)展契機。

在最近的臺北國際電腦展(COMPUTEX)上,NVIDIA創(chuàng)始人兼首席執(zhí)行官黃仁勛宣布,“從服務(wù)器、網(wǎng)絡(luò)和基礎(chǔ)設(shè)施制造商到軟件開發(fā)商,整個行業(yè)都在準(zhǔn)備利用Blackwell來加速各個領(lǐng)域的AI驅(qū)動創(chuàng)新?!?/p>

臺灣知名醫(yī)療機構(gòu)長庚紀(jì)念醫(yī)院計劃借助NVIDIA Blackwell計算平臺推動生物醫(yī)學(xué)研究,加速影像和語言應(yīng)用,從而改善臨床工作流程,提高患者滿意度。

全球最大電子制造商之一富士康正計劃運用NVIDIA Grace Blackwell開發(fā)AI電動汽車和機器人平臺的智能解決方案,以及日益增長的基于語言的生成式AI服務(wù),為客戶創(chuàng)造更具個性化的體驗。

此外,永擎電子、華碩、技嘉、鴻佰科技、英業(yè)達(dá)、和碩、QCT、Supermicro、緯創(chuàng)資通和緯穎等10家企業(yè)均將提供采用Blackwell架構(gòu)的系統(tǒng),利用NVIDIA GPU和網(wǎng)絡(luò)打造云、專用系統(tǒng)、嵌入式和邊緣AI系統(tǒng)。

NVIDIA MGX支持Blackwell

NVIDIA在去年的COMPUTEX大會上推出了MGX模塊化參考設(shè)計平臺,旨在應(yīng)對全球范圍內(nèi)多樣化的數(shù)據(jù)中心加速計需要。今年的大會上,MGX又加入了對NVIDIA Blackwell產(chǎn)品系列的支持,包括全新NVIDIA GB200 NVL2平臺,此平臺適用于主流大語言模型推理、檢索增強生成及數(shù)據(jù)處理,具有卓越性能。這對于諸如數(shù)據(jù)分析這類新興領(lǐng)域來說尤為適用,此類領(lǐng)域的年支出高達(dá)數(shù)百億美元。

借助NVLink?-C2C互聯(lián)技術(shù)的高帶寬內(nèi)存性能和Blackwell架構(gòu)中的專用解壓縮引擎,數(shù)據(jù)處理速度相較x86 CPU提升最高可達(dá)18倍,能效則提高了8倍。

制造商可先確定服務(wù)器機箱的基本系統(tǒng)架構(gòu),再根據(jù)不同工作負(fù)載選擇GPU、DPU和CPU。目前,已有超過25家合作伙伴的90多套系統(tǒng)采用了MGX參考架構(gòu),較去年的14套系統(tǒng)有明顯增長。采用MGX后,開發(fā)成本大幅降低,最多可降至原來的四分之一,開發(fā)周期也縮短至六個月,比以前縮短了三分之二。

AMD英特爾均支持MGX架構(gòu),并計劃首次打造基于自家CPU的模塊設(shè)計,如AMD的Turin平臺和英特爾的P核心第六代至強處理器(原Granite Rapids)。任何服務(wù)器系統(tǒng)廠商都可借此參考設(shè)計節(jié)省開發(fā)時間,保證設(shè)計和性能的一致性。

NVIDIA最新的GB200 NVL2平臺同樣采用了MGX和Blackwell。在橫向擴展方面,單一節(jié)點即可支持多種系統(tǒng)配置和網(wǎng)絡(luò)選項,實現(xiàn)加速計算與現(xiàn)有數(shù)據(jù)中心基礎(chǔ)設(shè)施的無縫融合。

強大生態(tài)系統(tǒng),推動生成式AI落地部署

英偉達(dá)不僅提供各類軟硬件產(chǎn)品,更與業(yè)界伙伴共同構(gòu)建統(tǒng)一生態(tài)系統(tǒng),為生成式AI的行業(yè)部署提供堅實支撐。

該生態(tài)系統(tǒng)涵蓋全球領(lǐng)先的半導(dǎo)體制造商、NVIDIA的代工合作伙伴TSMC,以及全球電子制造商,為AI工廠提供關(guān)鍵組件。這些合作伙伴在服務(wù)器、供電、冷卻等領(lǐng)域進(jìn)行了諸多創(chuàng)新,如安費諾、奇鋐科技(AVC)、Cooler Master、Colder Products Company(CPC)、丹佛斯、臺達(dá)和光寶科技。

受益于強大生態(tài)系統(tǒng),行業(yè)廠商得以迅速開發(fā)和部署新型數(shù)據(jù)中心基礎(chǔ)設(shè)施,滿足全球企業(yè)需求。通過與戴爾科技、慧與、聯(lián)想等服務(wù)器系統(tǒng)合作伙伴攜手,運用Blackwell技術(shù)、NVIDIA Quantum-2或Quantum-X800 InfiniBand網(wǎng)絡(luò)平臺、NVIDIA Spectrum?-X以太網(wǎng)平臺以及NVIDIA BlueField?-3 DPU,廠商們可進(jìn)一步加快數(shù)據(jù)中心的開發(fā)和部署步伐。

企業(yè)級用戶還可利用NVIDIA AI Enterprise軟件平臺,其中包含NVIDIA NIM推理微服務(wù),創(chuàng)建和運行生產(chǎn)級生成式AI應(yīng)用。

結(jié)語

Blackwell正以驚人速度風(fēng)靡AI加速器市場,成為行業(yè)首選。預(yù)計不久之后,Blackwell恐將面臨供應(yīng)過剩問題。但我們堅信,在英偉達(dá)的引領(lǐng)下,AI技術(shù)必將飛速發(fā)展,為人類社會創(chuàng)造更為美好的未來。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • NVIDIA
    +關(guān)注

    關(guān)注

    14

    文章

    4855

    瀏覽量

    102711
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    29806

    瀏覽量

    268106
收藏 人收藏

    評論

    相關(guān)推薦

    英偉達(dá)Blackwell GPU未來一年訂單爆滿

    據(jù)摩根士丹利(大摩)透露,人工智能(AI)芯片領(lǐng)域的領(lǐng)軍企業(yè)英偉達(dá)(NVIDIA)的管理層在近期的一系列與投資人的會議中,分享了關(guān)于其下一代繪圖處理器(GPU)Blackwell的強勁市場需求情況。
    的頭像 發(fā)表于 10-17 16:52 ?460次閱讀

    英偉達(dá)Blackwell芯片量產(chǎn)加速,Q4預(yù)計出貨達(dá)45萬片

    摩根士丹利最新發(fā)布的報告揭示了英偉達(dá)在AI芯片領(lǐng)域的重大進(jìn)展,其最新力作Blackwell芯片已成功步入量產(chǎn)階段,預(yù)示著英偉達(dá)有望在今年第四
    的頭像 發(fā)表于 09-27 15:02 ?799次閱讀

    英偉達(dá)Blackwell GPU量產(chǎn)加速,Q4營收沖刺百億美元大關(guān)

    近日,全球領(lǐng)先的圖形處理單元(GPU)及人工智能芯片制造商英偉達(dá)傳來重大利好消息。據(jù)摩根士丹利最新發(fā)布的行業(yè)分析報告指出,英偉達(dá)基于
    的頭像 發(fā)表于 09-26 15:58 ?273次閱讀

    英偉達(dá)Blackwell可支持10萬億參數(shù)模型AI訓(xùn)練,實時大語言模型推理

    電子發(fā)燒友網(wǎng)報道(文/李彎彎)在近日的Hot Chips 2024大會上,英偉達(dá)公布了下一代GPU架構(gòu)Blackwell的更多細(xì)節(jié)信息,以及未來的產(chǎn)品路線圖
    的頭像 發(fā)表于 09-04 09:10 ?2781次閱讀

    英偉達(dá)Blackwell架構(gòu)揭秘:下一個AI計算里程碑?# 英偉達(dá)# 英偉達(dá)Blackwell

    英偉達(dá)行業(yè)資訊
    jf_02331860
    發(fā)布于 :2024年08月26日 10:58:09

    英偉達(dá)Blackwell芯片已投產(chǎn),預(yù)告未來AI芯片發(fā)展

    英偉達(dá)創(chuàng)始人兼CEO黃仁勛近日宣布,公司旗下的Blackwell芯片已正式投入生產(chǎn)。這款芯片是英偉達(dá)在AI領(lǐng)域的重要突破,預(yù)計將為未來的智能
    的頭像 發(fā)表于 06-04 09:23 ?1905次閱讀

    英偉達(dá)加速AI芯片迭代,推出Rubin架構(gòu)計劃

    在近日舉辦的COMPUTEX 2024展會上,英偉達(dá)CEO黃仁勛再次展現(xiàn)了公司在人工智能(AI)芯片領(lǐng)域的雄心壯志。他公布了下一代AI芯片架構(gòu)“Rubin”,這是繼今年3月發(fā)布的“Blackw
    的頭像 發(fā)表于 06-03 11:36 ?763次閱讀

    英偉達(dá)業(yè)績強勁,Blackwell AI芯片助推下一波增長?

     在與分析師的電話會議上,英偉達(dá)首席執(zhí)行官黃仁勛透露,公司即將推出的Blackwell AI芯片將于本季度發(fā)貨,下季度產(chǎn)量將有所提升,“隨著下一代Blackwell
    的頭像 發(fā)表于 05-23 15:55 ?448次閱讀

    亞馬遜AWS暫緩采購英偉達(dá)GH200芯片,期待Blackwell更強

    然而,AWS對此予以澄清,稱實際上并未取消任何對英偉達(dá)的訂單。據(jù)其代表解釋,此次從Grace Hopper芯片轉(zhuǎn)向Blackwell芯片的調(diào)整僅限于AWS與英偉
    的頭像 發(fā)表于 05-22 15:05 ?643次閱讀

    進(jìn)一步解讀英偉達(dá) Blackwell 架構(gòu)、NVlink及GB200 超級芯片

    2024年3月19日,[英偉達(dá)]CEO[黃仁勛]在GTC大會上公布了新一代AI芯片架構(gòu)BLACKWELL,并推出基于該架構(gòu)的超級芯片GB20
    發(fā)表于 05-13 17:16

    英偉達(dá)發(fā)布新一代AI芯片架構(gòu)Blackwell GPU

    近日,英偉達(dá)首席執(zhí)行官黃仁勛在GTC 2024會議上發(fā)表主題演講,重磅推出全新AI芯片架構(gòu)Blackwell GPU。這一創(chuàng)新技術(shù)的首款芯片產(chǎn)品命名為GB200,標(biāo)志著
    的頭像 發(fā)表于 03-26 11:19 ?799次閱讀

    英偉達(dá)發(fā)布最強AI加速卡Blackwell GB200

    英偉達(dá)在最近的GTC開發(fā)者大會上發(fā)布了其最新、最強大的AI加速卡——GB200。這款加速卡采用了新一代AI圖形處理器架構(gòu)Blackwell,標(biāo)志著
    的頭像 發(fā)表于 03-20 11:38 ?1042次閱讀

    英偉達(dá)宣布推出新一代GPU Blackwell,SK海力士已量產(chǎn)HBM3E

    英偉達(dá)GTC 2024大會上,英偉達(dá)CEO黃仁勛宣布推出新一代GPU Blackwell,第一款Bla
    的頭像 發(fā)表于 03-20 11:32 ?1098次閱讀
    <b class='flag-5'>英偉</b><b class='flag-5'>達(dá)</b>宣布推出新一代GPU <b class='flag-5'>Blackwell</b>,SK海力士已量產(chǎn)HBM3E

    英偉達(dá)最新一代AI芯片Blackwell GPU,AI算力能力較上代提升30倍!

    黃仁勛說:"我們已經(jīng)來到了一個臨界點,因此需要一種新的計算方式來加速整個行業(yè)的發(fā)展效率。那么英偉達(dá)能夠做什么?當(dāng)然,答案就是——更大的芯片。”接著,英偉
    的頭像 發(fā)表于 03-19 13:39 ?1656次閱讀

    今日看點丨英偉達(dá)發(fā)布最強 AI 加速卡--Blackwell GB200;三星面臨罷工 存儲市場供需引關(guān)注

    1. 英偉達(dá)發(fā)布最強 AI 加速卡--Blackwell GB200 ,今年發(fā)貨 ? 3 月 19 日,英偉達(dá)發(fā)布最強 AI 加速卡--
    發(fā)表于 03-19 11:08 ?1168次閱讀