中國HPC的高潛力與AI融合的未來

前言：

如今生成式AI風(fēng)頭正熱，并且又是一次新產(chǎn)業(yè)革命的引爆點；

而這個引爆點之所以能出現(xiàn)，離不開背后的HPC高性能計算與大數(shù)據(jù)基礎(chǔ)設(shè)施這兩點；

目前新的增長熱點出現(xiàn)，HPC與AI正在加速融合之中。

全球正在進入HPC大周期

受益于其以更高的速度處理大量數(shù)據(jù)的能力，全球超算行業(yè)應(yīng)用主要集中在生命科學(xué)、CAE、機械工程、金融、EDA、地理、機械設(shè)計、政府、學(xué)術(shù)研究、國防和氣象等領(lǐng)域。

根據(jù)Hyperion Research的統(tǒng)計數(shù)據(jù)，2022年全球超算行業(yè)市場規(guī)模為309.55億美元，同比增長4.24%，預(yù)計今年全球HPC市場預(yù)計將增長至500億美元。

云端HPC部署方面，根據(jù)數(shù)據(jù)顯示，2020-2022年，用戶上公有云的速度和應(yīng)用速度加快，促使HPC云上支出增速大大高于HPC線下本地部署規(guī)模，2022年全球HPC云上支出市場規(guī)模達(dá)到63.04億美元，同比增長23.61%。

HPC的高速發(fā)展對底層芯片提出了新的要求

一個完整的計算機系統(tǒng)，通常由硬件系統(tǒng)和軟件系統(tǒng)兩大部分組成，其中硬件是計算機系統(tǒng)運行的基石，而硬件由各種各樣的芯片集合組成。

這意味著在高性能計算高速發(fā)展的時代，對CPU、GPU、TPU、NPU、FPGA、ASIC、SoC等高性能計算芯片，以及通信芯片、接口芯片、存儲芯片等的需求量有望持續(xù)上升。

在百億級市場的積極驅(qū)動下，各大主流芯片企業(yè)皆紛紛入局高性能計算市場并加大投入，以期望在市場紅利期分得一塊蛋糕。

對于高性能計算來說，算力是第一要素，通常需要達(dá)到每秒萬億次級的計算速度，這對系統(tǒng)的處理器、內(nèi)存帶寬、運算方式、系統(tǒng)I / O、存儲等都提出了更高的要求。

如何解決構(gòu)建下一代超級計算機面臨的性能、延遲、功耗及安全性問題，成為了行業(yè)關(guān)注的重點。

全球超級計算機排行榜單

超級計算機，是HPC的主要實現(xiàn)方式之一。

此前，HPC由于其專業(yè)度極高的特點被局限在科研實驗室、大型企業(yè)和特定的學(xué)術(shù)組織研究中。

不過隨著近兩年AI技術(shù)與IoT應(yīng)用之間的互相驅(qū)動，5G將數(shù)據(jù)傳輸管道大大拓寬之后，給了數(shù)據(jù)囤積量進一步拓展的空間，讓HPC也逐漸變得日益重要。

目前，國產(chǎn)高性能計算機已經(jīng)取得了不錯的成績。

在61期全球超級計算機 TOP500 榜單中，中國國家并行計算機工程技術(shù)研究中心（NRCPC）開發(fā)并安裝在位于中國江蘇省無錫市的國家超級計算中心的神威太湖之光以 93 Pflop/s位列第七。

神威·太湖之光超級計算機甚至曾連續(xù)獲得top500四屆冠軍，該系統(tǒng)全部使用中國自主知識產(chǎn)權(quán)的處理器芯片。

天河二號甲（銀河二號甲）是由中國國防科技大學(xué)（NUDT）開發(fā)并部署在中國廣州國家超級計算機中心的系統(tǒng)，目前以 61.4 Pflop/s 被列為第十名。

天河二號采用麒麟操作系統(tǒng)，目前使用英特爾處理器，將來計劃用國產(chǎn)處理器替換。

HPC成國際芯片龍頭爭奪要地

為了做HPC領(lǐng)域的領(lǐng)導(dǎo)者，英偉達(dá)、AMD、英特爾在 HPC 應(yīng)用領(lǐng)域也是進展不斷。

迄今為止，英偉達(dá)已推出了面向HPC和AI訓(xùn)練的 Volta、Ampere、Hopper 等架構(gòu)，并以此為基礎(chǔ)推出了V100、A100、H100等高端 GPU。

其中Hopper H100采用臺積電4 nm工藝，具有800億個晶體管，在性能、效率上遠(yuǎn)超Ampere A100，是英偉達(dá)專為超級計算機設(shè)計的產(chǎn)品。

英偉達(dá)還發(fā)布新一代GH200 Grace Hopper 超級芯片平臺，是一款為大規(guī)模AI和高性能計算應(yīng)用量身打造的加速芯片。

AMD已經(jīng)在高性能計算領(lǐng)域推出一系列性能領(lǐng)先的產(chǎn)品，涵蓋了服務(wù)器CPU、加速器，桌面CPU、移動CPU等眾多領(lǐng)域，全方位覆蓋數(shù)字經(jīng)濟的高算力需求。此外，充分利用小芯片技術(shù)，用先進的2.5D和3D封裝技術(shù)，使AMD能夠靈活的進行異構(gòu)計算解決方案系統(tǒng)級優(yōu)化。

作為高性能計算領(lǐng)域的創(chuàng)新引領(lǐng)者和推動者，英特爾近年來推出了英特爾至強處理器，英特爾至強融核處理器（Xeon Phi）、3D XPoint全新非易失性存儲技術(shù)、英特爾可擴展系統(tǒng)框架（英特爾SSF）以及英特爾Omni-Path架構(gòu) (Intel OPA)等眾多創(chuàng)新產(chǎn)品和技術(shù)。

英特爾基于Xe HPC微架構(gòu)的數(shù)據(jù)中心GPU Ponte Vecchio是迄今最復(fù)雜的SoC，包含1000億個晶體管，提供領(lǐng)先的浮點運算和計算密度，以加速AI、HPC和高級分析工作負(fù)載。

未來計算架構(gòu)的發(fā)展趨勢是CPU和GPU融合集成，從而形成互聯(lián)、互補、互通的融合模式，以縮小計算和存儲單元的通信成本。

HPC與AI互相融合

HPC與AI、大數(shù)據(jù)、數(shù)據(jù)分析和量子計算的融合加速了基礎(chǔ)設(shè)施整合，以實現(xiàn)從小規(guī)模、中型到EB規(guī)模的最佳性能/成本比，并創(chuàng)造出以前沒有涉及的新HPC業(yè)務(wù)市場。

并行化深度學(xué)習(xí)：深度學(xué)習(xí)是AI的重要分支，但在訓(xùn)練大型深度神經(jīng)網(wǎng)絡(luò)時需要大量的計算資源。

HPC技術(shù)可以通過并行化計算和優(yōu)化算法，加速深度學(xué)習(xí)的訓(xùn)練過程。

高性能優(yōu)化：AI算法中存在很多計算密集型任務(wù)，如矩陣運算、卷積等。

通過使用高性能的計算庫、優(yōu)化算法和并行計算技術(shù)，可以提高算法的計算性能和效率，減少運行時間。

分布式推理：在部署大規(guī)模AI模型時，分布式推理技術(shù)可以通過將模型分發(fā)到多個計算節(jié)點上，并利用HPC集群的計算能力，加速推理過程。

這種并行推理技術(shù)可以提高響應(yīng)速度和吞吐量，適用于實時應(yīng)用和大規(guī)模數(shù)據(jù)處理。

多模態(tài)融合：AI算法通常需要處理多種數(shù)據(jù)類型和模態(tài)，如圖像、語音、文本等。

通過結(jié)合HPC技術(shù)，可以實現(xiàn)多模態(tài)數(shù)據(jù)的并行處理和融合。

大規(guī)模數(shù)據(jù)處理：AI算法對于大規(guī)模數(shù)據(jù)的處理和分析需要強大的計算能力和存儲系統(tǒng)。

HPC技術(shù)可以提供高速的數(shù)據(jù)傳輸、分布式存儲和并行計算能力，以支持大規(guī)模數(shù)據(jù)的處理。

結(jié)尾：

超算基礎(chǔ)設(shè)施群建設(shè)已成為各國推動科技創(chuàng)新的重要著力點，新一代計算系統(tǒng)的陸續(xù)上線為實現(xiàn)更大規(guī)模、更復(fù)雜的超算應(yīng)用提供了基礎(chǔ)。

同時，高性能計算與AI的融合在推動超算系統(tǒng)與應(yīng)用發(fā)生巨大且迅速的變化，超算技術(shù)的發(fā)展面臨越來越多的挑戰(zhàn)。