Top500新系統(tǒng)CPU架構(gòu)趨勢(shì)

2023全球自動(dòng)駕駛峰會(huì)將在深圳舉行。峰會(huì)有智猩猩與車東西聯(lián)合發(fā)起主辦，清華大學(xué)鄧志東教授、UniAD作者李弘揚(yáng)、智行者聯(lián)創(chuàng)張放、極佳科技創(chuàng)始人黃冠、BEVFormer一作李志琦等20+位嘉賓已確認(rèn)將演講或圓桌討論。

2018 年至 2023 年新增 Top500 系統(tǒng)數(shù)量

多年來(lái)，提交者對(duì) Top500 名單的興趣逐漸減弱，但這份名單有一些有趣的變化。我們已經(jīng)看到部署的 CPU、加速器甚至互連發(fā)生了巨大變化。最重要的統(tǒng)計(jì)數(shù)據(jù)之一是，排名前 25 的系統(tǒng)中有 9 個(gè)出現(xiàn)在該列表中，這意味著前 25 名系統(tǒng)中的換手率為 36%，但在列表中接下來(lái)的 475 個(gè)位置中只有 8%。

01.?Top500新系統(tǒng)趨勢(shì)

首先，我們強(qiáng)調(diào) 500 強(qiáng)中的絕對(duì)成交量。當(dāng)我們?cè)?2018 年開(kāi)始進(jìn)行這項(xiàng)分析時(shí)，每份新出版物都有超過(guò)四分之一的榜單更替。2020 年，業(yè)界注意到因疫情導(dǎo)致的系統(tǒng)數(shù)量減少。我們現(xiàn)在似乎正處于新的趨勢(shì)線上，該列表略低于 2020 年以來(lái)的平均水平。

2018 年至 2023 年新增 Top500 系統(tǒng)數(shù)量

在此列表中，我們有 48 個(gè)新系統(tǒng)，高于 6 月份的 44 個(gè)。這些是 2022 年列表中新增的 41 個(gè)和 39 個(gè)新系統(tǒng)。此列表中的另一個(gè)顯著變化是 Lenovo 提交 Linpack 運(yùn)行的 Web 托管類型集群較少。

似乎 Top500 榜單正在消亡，也許如今前 25 名、前 50 名或前 100 名會(huì)更有意義。部分原因是中國(guó)沒(méi)有提交國(guó)內(nèi)系統(tǒng)，但中國(guó)供應(yīng)商聯(lián)想正在中國(guó)境外提交系統(tǒng)。

02.?Top500新系統(tǒng)CPU架構(gòu)趨勢(shì)

在本節(jié)中，我們簡(jiǎn)單地通過(guò)查看哪些新系統(tǒng)進(jìn)入 Top500 以及它們使用的 CPU 來(lái)了解 CPU 架構(gòu)趨勢(shì)。讓我們首先看看供應(yīng)商的細(xì)分情況。 ?

2023 年 11 月 CPU 供應(yīng)商新 Top500 系統(tǒng)

AMD 在系統(tǒng)數(shù)量上再次擊敗英特爾，但這只是故事的一部分。AMD 擁有更多系統(tǒng)，而英特爾則部署了更多核心。

2023 年 11 月 X86 CPU 內(nèi)核的新 Top500 系統(tǒng)

當(dāng)我們討論每個(gè)插槽的 CPU 核心數(shù)時(shí)，最大的變化是 32 核系統(tǒng)的下降。此列表中的系統(tǒng)通常比以前的列表中具有更多的 CPU。

2023 年 11 月 新的 Top500 系統(tǒng)每插槽 CPU 核心數(shù)

我們終于看到了AMD EPYC 9004“Genoa”系列的 96 個(gè)核心部件的亮相。我們還看到 56 個(gè)核心部件，通常是較新的 Intel Sapphire Rapids Xeon 部件。

在2023年6月的榜單中，最受歡迎的架構(gòu)是AMD的Zen3或第三代AMD EPYC。在這份榜單中，第四代英特爾至強(qiáng)可擴(kuò)展藍(lán)寶石Rapids確實(shí)表現(xiàn)出色。

2023 年 11 月 CPU 架構(gòu)新 Top500 系統(tǒng)

問(wèn)題在于，這些部件現(xiàn)在不再是“Sapphire Rapids HBM”，而是 Xeon Max。僅 Xeon Max 就可以與 AMD 當(dāng)前一代 Zen 4“Genoa”架構(gòu)保持同步。

以下是正在使用的實(shí)際 SKU：

2023 年 11 月 新的 Top500 系統(tǒng)（按 CPU SKU）

2019 年AMD EPYC 7002 系列羅馬CPU 在 2023 年 11 月的榜單中最受歡迎，這有點(diǎn)瘋狂?。

03.?加速器還是 NVIDIA？

NVIDIA 在 HPC 加速器市場(chǎng)占據(jù)主導(dǎo)地位，因此我們?cè)谄錁?biāo)題中專門專門討論了這一點(diǎn)。在這個(gè)列表中，它遠(yuǎn)沒(méi)有占主導(dǎo)地位，但也很接近了：

2023 年 11 月 供應(yīng)商新推出的 Top500 系統(tǒng)加速器

這是一個(gè)大問(wèn)題：AMD 在哪里？在四份榜單中，AMD MI250X加速器在 Top500 中排名第一，并部署了多個(gè)較小的系統(tǒng)?，F(xiàn)在，AMD缺席了。

可能更有意義的是 NVIDIA A100 的表現(xiàn)相對(duì)較好。NVIDIA H100 在今年的許多大交易中售價(jià)都超過(guò)了建議零售價(jià)。H100 速度更快，但 A100 和 H100 之間的 AI 性能差異比 FP64 側(cè)大得多。

2023 年 11 月 新一代 Top500 系統(tǒng)加速器

從一個(gè)角度來(lái)看，任何擁有 10 個(gè)或更多DGX H100 或 HGX H100系統(tǒng)的 AI 安裝都可以進(jìn)入 Top500 列表。

考慮到 NVIDIA 數(shù)據(jù)中心的收入，感覺(jué) NVIDIA 的客戶正在構(gòu)建的系統(tǒng)根本不關(guān)心 Top500。換句話說(shuō)，部署流行的新型 HPC 加速器的人們并沒(méi)有屈服于 Top500 來(lái)取代聯(lián)想的 Web 服務(wù)器集群。

04.?結(jié)構(gòu)和網(wǎng)絡(luò)趨勢(shì)

這是許多?？催@件作品的人都會(huì)認(rèn)同的一個(gè)。在互連方面，以太網(wǎng)是迄今為止最常見(jiàn)的解決方案。2023 年，InfiniBand 卷土重來(lái)。

2023 年 11 月 按互連類型劃分的新 Top500 系統(tǒng)

這是 Infiniband 的另一個(gè)大列表，特別是在以太網(wǎng)已經(jīng)包含了許多之前的列表之后。

以下是按代劃分的互連詳細(xì)信息。

2023 年 11 月 新的 Top500 系統(tǒng)（按互連生成）

我們實(shí)際上看到了四個(gè) Omni-Path 系統(tǒng)，這超出了我們的預(yù)期。

2023 年 11 月新 Top500 系統(tǒng)以太網(wǎng)速度和供應(yīng)商

聯(lián)想的填充系統(tǒng)比之前的列表中的要少。有五個(gè)僅 CPU 的以太網(wǎng)集群。戴爾的集群使用帶有 NVIDIA A100 PCIe GPU 和 100GbE 的PowerEdge R750xa。

05.?最后的話

看到 NVIDIA 巨大的 GPU 銷量，并知道這些 AI 系統(tǒng)具有互連功能以支持運(yùn)行，從而躋身 Top500 之列，這確實(shí)凸顯了 Top500 面臨的挑戰(zhàn)。在 SC23 上，大筆資金來(lái)自于人工智能解決方案的廣告。AMD 甚至沒(méi)有舉行 SC23 預(yù)簡(jiǎn)報(bào)，因?yàn)樗麄兏嬖V我們他們正在全力發(fā)展人工智能。SC23 上的許多演講都是關(guān)于混合精度計(jì)算如何幫助實(shí)現(xiàn)科學(xué)進(jìn)步而不是使用雙精度。有人可能會(huì)說(shuō)，Top500 的目標(biāo)是追蹤最大的科學(xué)計(jì)算系統(tǒng)。然而，很難說(shuō)所有這些未追蹤的人工智能系統(tǒng)都沒(méi)有取得科學(xué)進(jìn)步。我們現(xiàn)在有一個(gè)列表，很多大型人工智能系統(tǒng)都沒(méi)有提交，中國(guó)國(guó)內(nèi)部署的系統(tǒng)沒(méi)有提交，但是網(wǎng)絡(luò)托管集群正在提交結(jié)果。也許這只是 Frontier 和上榜的兩款新的百億億級(jí)系統(tǒng)之間的差距。盡管如此，感覺(jué) Top500 正在衡量的東西目前很少有人認(rèn)為是有益的。也許隨著時(shí)間的推移，這種情況會(huì)再次改變。

審核編輯：黃飛

?