贏麻了！英偉達(dá)發(fā)布史上最強(qiáng)“巨型GPU”，黃仁勛：CPU擴(kuò)張時(shí)代結(jié)束了

電子發(fā)燒友網(wǎng)報(bào)道（文/梁浩斌）今年英偉達(dá)可謂風(fēng)生水起，過(guò)去五個(gè)月市值增長(zhǎng)近三倍，自上周四公布今年一季度財(cái)報(bào)以來(lái)，截至5月30日股價(jià)也飆漲27%，市值9632億美元，有望進(jìn)入萬(wàn)億美元俱樂部。作為在這一輪生成式AI浪潮中的核心算力硬件供應(yīng)商，已經(jīng)“贏麻了”的英偉達(dá)并未有因此停下腳步，而是趁熱打鐵繼續(xù)推出驚人的算力硬件。

圖源：英偉達(dá)中國(guó)

英偉達(dá)CEO黃仁勛在周一的臺(tái)北Computex展上帶來(lái)了2小時(shí)的激情演講，發(fā)布上推出了GH200 Grace Hopper超級(jí)芯片，以及將多達(dá)256塊GH200超級(jí)芯片整合到一起的DGX GH200“巨型GPU”，同時(shí)還展示了一系列AI相關(guān)的應(yīng)用和產(chǎn)品。

黃仁勛表示：CPU擴(kuò)張的時(shí)代已經(jīng)結(jié)束了。

新計(jì)算時(shí)代：GPU買得越多，省得越多！

在這場(chǎng)2小時(shí)的演講開場(chǎng)，黃仁勛就提出了一個(gè)“暴論”，他表示“CPU擴(kuò)張的時(shí)代已經(jīng)結(jié)束了”。

在加速計(jì)算和AI重塑計(jì)算機(jī)行業(yè)的當(dāng)下，從需要持續(xù)提升算力的數(shù)據(jù)中心可以看到，CPU的需求越來(lái)越少，而GPU的需求則不斷增長(zhǎng)。黃仁勛認(rèn)為，如今的計(jì)算機(jī)是指數(shù)據(jù)中心、是指云服務(wù)，與此同時(shí)可以為未來(lái)“計(jì)算機(jī)”編寫程序的程序員，如今將面臨行業(yè)的變革。

“我們已經(jīng)到達(dá)生成式AI的爆點(diǎn)，從此世界的每一個(gè)角落，都會(huì)有計(jì)算需求。”在這樣的計(jì)算需求背景下，計(jì)算的性價(jià)比也非常重要。黃仁勛舉了兩個(gè)例子證明GPU比CPU在AI計(jì)算時(shí)代更有優(yōu)勢(shì)：

在1000萬(wàn)美元的成本下，可以用于建設(shè)一個(gè)有960顆CPU的數(shù)據(jù)中心，其中可以處理1X LLM（大語(yǔ)言模型）的數(shù)據(jù)量，同時(shí)需要消耗11GWh的能耗；同樣成本下，如果用于建設(shè)一個(gè)有48顆GPU的數(shù)據(jù)中心，不僅可以處理的LLM數(shù)據(jù)量是同成本CPU數(shù)據(jù)中心44倍，在功耗方面還能大幅降低至3.2GWh。

所以，黃仁勛不禁喊出了“The more you buy，The more you save”的口號(hào)，買GPU越多，你省下的錢也就越多。

強(qiáng)到離譜的GH200和DGX GH200

這次發(fā)布會(huì)上最重磅的產(chǎn)品無(wú)疑是GH200 Grace Hopper超級(jí)芯片，在發(fā)布會(huì)上，黃仁勛也公布了該款芯片的細(xì)節(jié)。GH200是基于NVIDIA NVLink-C2C互連技術(shù)，將Arm架構(gòu)的NVIDIA Grace CPU和Hopper架構(gòu)的 GPU實(shí)現(xiàn)互聯(lián)整合，最終實(shí)現(xiàn)高達(dá)900GB/s的總帶寬，這相比傳統(tǒng)的PCIe 5.0通道帶寬要高出7倍，可以滿足需求最嚴(yán)苛的AI 和HPC應(yīng)用。

去年三月，英偉達(dá)在GTC大會(huì)上發(fā)布了基于Arm架構(gòu)的Grace CPU，這款CPU專為計(jì)算加速平臺(tái)設(shè)計(jì)，擁有多達(dá)72個(gè)Armv9 CPU核心，緩存容量高達(dá)198MB，支持LPDDR5X ECC內(nèi)存，帶寬高達(dá)1TB/s，并支持NVLink-C2C和PCIe 5.0兩種互連協(xié)議。

同樣是在去年的GTC大會(huì)上，英偉達(dá)發(fā)布了基于Hopper架構(gòu)的全新H100 GPU，截至目前，H100依然是英偉達(dá)用于AI加速、HPC和數(shù)據(jù)分析等處理的最強(qiáng)GPU。

H100采用臺(tái)積電4nm定制工藝，擁有多達(dá)800億個(gè)晶體管，集成了18432個(gè)CUDA核心、576個(gè)Tenor核心、60MB二級(jí)緩存，并支持6144-bit位寬的HBM3/2e高帶寬內(nèi)存。

而GH200 Grace Hopper，就是將72核的Grace CPU和當(dāng)今世上最強(qiáng)的GPU H100，加上96GB的HBM3顯存、512GB的LPDDR5X內(nèi)存封裝在一起，集成到一片“超級(jí)芯片”上。

圖源：英偉達(dá)中國(guó)

黃仁勛將GH200 Grace Hopper形容為“這是一臺(tái)計(jì)算機(jī)，而不是芯片”。同時(shí)他透露，GH200 Grace Hopper目前已經(jīng)全面投產(chǎn)。

如果GH200 Grace Hopper還不能滿足你的需求，英偉達(dá)還提供了一個(gè)由256個(gè)GH200 Grace Hopper組成的超級(jí)計(jì)算機(jī)系統(tǒng)——DGX GH200，而上一代的系統(tǒng)在不影響性能的前提下只能通過(guò)NVLink將8個(gè)GPU整合成一個(gè)系統(tǒng)。

那么DGX GH200是如何做到將256個(gè)GH200 Grace Hopper連接成一個(gè)系統(tǒng)？GH200 Grace Hopper和NVLink4.0、NVLink Switch System（交換機(jī)系統(tǒng)）是組建DGX GH200的重點(diǎn)。NVLink交換機(jī)系統(tǒng)形成了一個(gè)兩級(jí)、無(wú)阻塞、胖樹NVLink結(jié)構(gòu)，結(jié)合新的NVLink 4.0和第三代NV SWitch，英偉達(dá)可以用一個(gè)前所未有的高帶寬水平來(lái)構(gòu)建大規(guī)模NVLink交換機(jī)系統(tǒng)。通過(guò)計(jì)算節(jié)點(diǎn)外的交換機(jī)模塊，將最高256個(gè)計(jì)算節(jié)點(diǎn)，也就是GPU連接為一個(gè)整體。

最終這個(gè)擁有256個(gè)GH200 Grace Hopper超級(jí)芯片的DGX GH200超級(jí)計(jì)算機(jī)能夠提供高達(dá)能夠提供1 Exaflop（百億億次）級(jí)別的性能、并具有144TB的共享內(nèi)存，內(nèi)容容量幾乎是上一代的500倍。

黃仁勛稱DGX GH200是“巨型GPU”，并預(yù)計(jì)DGX GH200將在今年年底開始供貨并投入使用，Google Cloud、Meta與微軟將會(huì)是首批能夠使用DGX GH200的公司。

除此之外，英偉達(dá)還在使用DGX GH200打造一個(gè)更大規(guī)模的超級(jí)計(jì)算機(jī)，這款被稱為NVIDIA Helios的超級(jí)計(jì)算機(jī)將配備4個(gè)DGX GH200，通過(guò)英偉達(dá)的Quantum-2 InfiniBand交換機(jī)進(jìn)行互連。那么NVIDIA Helios將成為一個(gè)由1024個(gè)GH200 Grace Hopper超級(jí)芯片構(gòu)成的巨型AI計(jì)算系統(tǒng)，這套系統(tǒng)也將會(huì)在今年年底啟用。

AI應(yīng)用遍地開花

發(fā)布會(huì)上，黃仁勛還宣布推出一種名為Avatar Cloud Engine（ACE）的AI模型代工服務(wù)，這種模型主要應(yīng)用在游戲領(lǐng)域，可以為游戲開發(fā)人員提供訓(xùn)練模型，通過(guò)簡(jiǎn)單的操作定制想要的游戲AI模型。

圖源：英偉達(dá)中國(guó)

在演示中，游戲玩家可以用自己的聲音與NPC角色進(jìn)行對(duì)話，由生成式AI加持的NPC，可以根據(jù)玩家的語(yǔ)音實(shí)時(shí)生成不同的回答，增強(qiáng)游戲的沉浸體驗(yàn)。

在內(nèi)容方面，英偉達(dá)目前正在與全球最大的廣告集團(tuán)WPP合作，開發(fā)一款利用NVIDIA Omniverse和AI的內(nèi)容引擎，以更高效地幫助創(chuàng)意團(tuán)隊(duì)制作高質(zhì)量商業(yè)內(nèi)容，并針對(duì)客戶的品牌產(chǎn)出不同的針對(duì)性內(nèi)容，這或許是AI顛覆廣告行業(yè)的一個(gè)嘗試。

除此之外，在工業(yè)領(lǐng)域，英偉達(dá)也正在用AI來(lái)幫助工業(yè)生產(chǎn)提高效率，比如用于模擬和測(cè)試機(jī)器人的英偉達(dá)Isaac Sim；用于自動(dòng)光學(xué)檢測(cè)的英偉達(dá)Metropolis視覺AI框架；用于3D設(shè)計(jì)協(xié)作的英偉達(dá)Omniverse等。

黃仁勛表示，目前富士康工業(yè)互聯(lián)網(wǎng)、宜鼎國(guó)際、和碩、廣達(dá)、緯創(chuàng)等制造業(yè)巨頭都在使用英偉達(dá)的參考工作流程，比如構(gòu)建數(shù)字孿生、模擬協(xié)作機(jī)器人、檢測(cè)自動(dòng)化等。

小結(jié)：

今年AIGC發(fā)展速度超出所有人想象，近期甚至有調(diào)研機(jī)構(gòu)在一個(gè)半月之內(nèi)將今年AI服務(wù)器出貨量增長(zhǎng)預(yù)期從15.4%提升至38.4%。毫無(wú)疑問，黃仁勛和他的英偉達(dá)是在這新一輪AI革命中最大的贏家。

截至5月30日18時(shí)，英偉達(dá)盤前漲近4%，市值突破萬(wàn)億美元，英偉達(dá)成為全球第一家市值破萬(wàn)億美元的芯片公司。