谷歌最強(qiáng)大的定制設(shè)計(jì)人工智能加速器—TPU v5p芯片

谷歌正迅速成為 BFF Nvidia 的強(qiáng)大對(duì)手——為其超級(jí)計(jì)算機(jī)提供動(dòng)力的 TPU v5p AI 芯片速度更快，內(nèi)存和帶寬比以往任何時(shí)候都多，甚至擊敗了強(qiáng)大的 H100

TPU v5p——谷歌最強(qiáng)大的定制設(shè)計(jì)人工智能加速器——已被部署為該公司的“人工智能超級(jí)計(jì)算機(jī)”提供動(dòng)力。 這是一種專(zhuān)門(mén)為運(yùn)行人工智能應(yīng)用程序而構(gòu)建的超級(jí)計(jì)算架構(gòu)，而不是通常運(yùn)行科學(xué)工作負(fù)載的超級(jí)計(jì)算機(jī)，因?yàn)?TPU 不適合于此。

最新版本的 TPU 每個(gè) Pod 有 8,960 個(gè)芯片（構(gòu)成系統(tǒng)），而 v4 中有 4,096 個(gè)芯片，并且就每個(gè) Pod 的 FLOP 總可用性而言，其可擴(kuò)展性是其四倍。 這些新 Pod 提供 4,800Gbps 的吞吐量。 新 Pod 還配備 95GB 高帶寬內(nèi)存 (HBM)，而 TPU v4 中則配備 32GB HBM RAM。?

與Nvidia 提供 GPU 供其他公司購(gòu)買(mǎi)不同，谷歌的定制 TPU 仍保留在內(nèi)部，供其自己的產(chǎn)品和服務(wù)使用。 谷歌的 TPU 長(zhǎng)期以來(lái)一直用于為其 Gmail、YouTube 和 Android 等服務(wù)提供支持，最新版本也用于訓(xùn)練 Gemini。

它的功能甚至足以與 Nvidia 廣受歡迎的 H100 GPU 相媲美，后者是處理 AI 工作負(fù)載的最佳顯卡之一。 根據(jù)該公司自己的數(shù)據(jù)，該組件在訓(xùn)練工作負(fù)載方面比 Nvidia 的 A100 GPU 快四倍。

與此同時(shí)，根據(jù) 4 月份發(fā)布的研究顯示，谷歌 TPU v4 的速度預(yù)計(jì)比 A100 快 1.2 至 1.7 倍。 因此，令人難以置信的粗略計(jì)算表明，TPU v5p 的速度大約是 A100 的 3.4 到 4.8 倍，這使其與 H100 相當(dāng)！

審核編輯：劉清