谷歌TPU v5p超越Nvidia H100，成為人工智能領(lǐng)域的競爭對手

谷歌憑借新版TPU v5p成功挑戰(zhàn)Nvidia——這款搭載超級計算機的頂級人工智芯片，擁有更高速度、大容量內(nèi)存及帶寬，顯著優(yōu)于Nvidia的H100。

谷歌借其最先進(jìn)的Gemini人工智能模型，全新推出人工智能訓(xùn)練及推理專用的張量處理單元（TPU）最新版本，顯然有意向Nvidia霸主地位的GPU發(fā)起沖擊。

TPU v5p已在谷歌“AI超級計算機”項目中發(fā)揮重要作用，這并非專業(yè)科研型超算平臺，而是面向各類人工智能應(yīng)用。與Nvidia開放GPU購買策略不同，谷歌高端TPU主要供自家產(chǎn)品和服務(wù)運用。

新架構(gòu)版TPU每個模塊有8960顆芯片，較之上代v4的4096有所提升，且每塊架構(gòu)內(nèi)的總浮點運算次數(shù)（FLOPs）增加至原來的四倍，吞吐能力達(dá)到驚人的4800Gbps。新型架構(gòu)在內(nèi)存及帶寬方面更為出色，高達(dá)95GB的高帶寬內(nèi)存（HBM）遠(yuǎn)超TPU v4的32GB。

面對Nvidia異軍突起的H100，究竟誰更強？值得關(guān)注的是，谷歌的TPU v5p在訓(xùn)練大規(guī)模語言模型上表現(xiàn)突出，效率提升兩倍以上，相比于倉庫版TPU v5e雖然在性價比上稍遜一籌，但仍使其成為當(dāng)前最強版本。

比起Nvidia頂配的H100顯卡——被公認(rèn)為最適合AI任務(wù)專業(yè)級別的顯卡之一，谷歌TPU v5p毫不畏懼。根據(jù)官方數(shù)據(jù)顯示，其訓(xùn)練效能竟超越Nvidia同系列A100 GPU整整四倍！然而，實際對比還需通過嚴(yán)謹(jǐn)?shù)幕鶞?zhǔn)測試才能最終定論。

另傳聞稱，谷歌TPU v4在訓(xùn)練效能上較A100還要提升1.2~1.7倍，此數(shù)據(jù)去年四月便已得到證實。據(jù)此估計，谷歌TPU v5p相較A100性能優(yōu)勢可能位于3.4~4.8倍之間，其競爭力水平相當(dāng)于甚至超過Nvidia的H100，持續(xù)關(guān)注后續(xù)發(fā)展動態(tài)。