千億數(shù)據(jù)中心市場(chǎng)，正在因AI而改變

在全球范圍內(nèi)，數(shù)據(jù)科學(xué)和人工智能（AI）正在影響著現(xiàn)代數(shù)據(jù)中心的設(shè)計(jì)和發(fā)展。隨著每天數(shù)據(jù)量的激增，傳統(tǒng)的數(shù)據(jù)中心最終會(huì)變得越來(lái)越緩慢，致使輸出效率低下。將人工智能用于數(shù)據(jù)中心，可顯著改善現(xiàn)有的功能和流程，比如被用于故障預(yù)測(cè)，以及提前對(duì)尚未建成的數(shù)據(jù)中心進(jìn)行建模和模擬。數(shù)據(jù)中心運(yùn)營(yíng)商是其中的直接受益者，除了大幅提高工作效率外，還能有效降低運(yùn)營(yíng)成本。

然而，要想從現(xiàn)有的深度學(xué)習(xí)模型中獲得有意義的結(jié)果，數(shù)據(jù)中心運(yùn)營(yíng)商需要不斷增加計(jì)算能力和內(nèi)存帶寬。如今，強(qiáng)大的通用芯片（如CPU）已經(jīng)無(wú)法支持如此復(fù)雜的深度學(xué)習(xí)模型。因此，能夠?qū)崿F(xiàn)并行計(jì)算能力的AI芯片越來(lái)越受歡迎。

人工智能正在改變數(shù)據(jù)中心

多年來(lái)，谷歌、亞馬遜和Meta等數(shù)據(jù)中心和存儲(chǔ)提供商一直通過(guò)使用AI不斷改進(jìn)在運(yùn)營(yíng)中面臨的問(wèn)題，AI已經(jīng)成為數(shù)據(jù)中心建設(shè)中的一種合理投資。下面我們就來(lái)看看有了AI加持的數(shù)據(jù)中心將有哪些改進(jìn)。

一：能源效率

隨著數(shù)據(jù)中心變得越來(lái)越大、越來(lái)越復(fù)雜、越來(lái)越多地連接到云，AI正在成為防止設(shè)備過(guò)熱，同時(shí)節(jié)約能源的重要工具。根據(jù)美國(guó)能源部的《美國(guó)數(shù)據(jù)中心能源使用報(bào)告》，自2010年以來(lái)，美國(guó)數(shù)據(jù)中心的用電量每年增長(zhǎng)約4%，到2020年達(dá)到了730億千瓦時(shí)，超過(guò)該國(guó)總用電量的1.8%。

此外，數(shù)據(jù)中心還貢獻(xiàn)了全球約2%的溫室氣體排放量。許多數(shù)據(jù)中心正在通過(guò)使用AI來(lái)提高運(yùn)營(yíng)效率，特別是在能源管理方面。在這里，AI可以自動(dòng)監(jiān)控和調(diào)整整個(gè)數(shù)據(jù)中心的電力和散熱需求。公開(kāi)資料顯示，谷歌在其數(shù)據(jù)中心中通過(guò)AI控制其暖通空調(diào)系統(tǒng)（HVAC）后，可將總體能耗降低約30%~40%。

二：服務(wù)器優(yōu)化

基于AI的預(yù)測(cè)分析可以幫助數(shù)據(jù)中心運(yùn)營(yíng)商在公司的許多服務(wù)器上智能分配工作負(fù)載。這樣，數(shù)據(jù)中心負(fù)載就變得可預(yù)測(cè)且易于管理。使用具有內(nèi)置AI功能的負(fù)載平衡工具，就能從過(guò)去的數(shù)據(jù)中學(xué)習(xí)，并更有效地運(yùn)行負(fù)載分配。

三：故障預(yù)測(cè)和排除

基于AI/ML的溫度警報(bào)系統(tǒng)在很多數(shù)據(jù)中心中得以部署，數(shù)百個(gè)溫度傳感器實(shí)時(shí)監(jiān)測(cè)數(shù)據(jù)中心設(shè)備的健康狀況，如濕度、溫度和運(yùn)行性能。此類系統(tǒng)收集的數(shù)據(jù)和結(jié)論非常有助于數(shù)據(jù)中心進(jìn)行預(yù)測(cè)性維護(hù)，防止因緊急維修而導(dǎo)致大規(guī)模停機(jī)。

四：數(shù)據(jù)的智能監(jiān)控和存儲(chǔ)

結(jié)合機(jī)器學(xué)習(xí)（ML），AI將取代監(jiān)控大量數(shù)據(jù)的日常工作，并提高IT專業(yè)人員的任務(wù)處理質(zhì)量和效率。現(xiàn)在，AI在數(shù)據(jù)中心有一個(gè)非常令人稱道的應(yīng)用，那就是在巡檢機(jī)器人中的使用。AI驅(qū)動(dòng)的機(jī)器人可以在沒(méi)有人為干預(yù)的情況下自動(dòng)更換故障磁盤，整個(gè)更換過(guò)程包括自動(dòng)檢查、故障磁盤定位、磁盤更換和充電等，一系列工作在四分鐘內(nèi)就能順利完成。

從以上四個(gè)方面可以看出，人工智能正在滲透并深刻地改變著數(shù)據(jù)中心的運(yùn)營(yíng)。而更為重要的是——有了AI，數(shù)據(jù)中心運(yùn)營(yíng)商就能夠在同一物理硅架構(gòu)上增加更多工作負(fù)載，快速匯總和分析數(shù)據(jù)，并產(chǎn)生生產(chǎn)性產(chǎn)出。

這些負(fù)載通常是數(shù)據(jù)密集型和計(jì)算密集型的，相應(yīng)的應(yīng)用程序需要大量的計(jì)算能力，這是由與其AI模型相關(guān)的訓(xùn)練和推理工作負(fù)載驅(qū)動(dòng)的。因此，數(shù)據(jù)中心的人工智能還必須要有巨大的計(jì)算能力的支持。而這一切單純依靠通用芯片幾乎是不可能實(shí)現(xiàn)的，而且擴(kuò)展成本非常高昂。

若要在數(shù)據(jù)中心實(shí)現(xiàn)真正的人工智能，就必須利用高性能處理器（CPU）、高速內(nèi)存和GPU等專用硬件的組合才能高效處理大量數(shù)據(jù)并支持人工智能工作負(fù)載。這些專用處理器被設(shè)計(jì)用于執(zhí)行矩陣計(jì)算，使其在涉及并行處理大量數(shù)據(jù)的機(jī)器學(xué)習(xí)任務(wù)中特別高效，可以顯著加速人工智能工作負(fù)載的處理。

數(shù)據(jù)中心AI芯片的競(jìng)爭(zhēng)格局

據(jù)Arizton分析，2021年全球數(shù)據(jù)中心市場(chǎng)規(guī)模為2,158億美元，并將以4.95%的復(fù)合年增長(zhǎng)率增長(zhǎng)，預(yù)計(jì)到2027年將達(dá)到2,883億美元。另一家市場(chǎng)分析機(jī)構(gòu)P&S Intelligence預(yù)測(cè)，2021年全球數(shù)據(jù)中心市場(chǎng)規(guī)模估計(jì)為2,200億美元，復(fù)合年增長(zhǎng)率為5.1%，到2030年將達(dá)到3,436億美元。盡管兩家機(jī)構(gòu)的預(yù)測(cè)數(shù)據(jù)略有差異，但從中我們?nèi)阅芸吹竭@樣一個(gè)結(jié)果，那就是數(shù)據(jù)中心是一個(gè)有著數(shù)千億美元潛力的巨大市場(chǎng)。

數(shù)據(jù)中心是企業(yè)用來(lái)存放計(jì)算機(jī)、服務(wù)器和網(wǎng)絡(luò)系統(tǒng)以及滿足IT需求的組件或基礎(chǔ)設(shè)施的地方。作為數(shù)據(jù)中心重要組成部分的服務(wù)器將占有很大的市場(chǎng)份額。根據(jù)Industry Research的研究，2021年全球數(shù)據(jù)中心服務(wù)器市場(chǎng)規(guī)模約為339.86億美元，預(yù)計(jì)在預(yù)測(cè)期內(nèi)將以12.69%的復(fù)合年增長(zhǎng)率增長(zhǎng)，到2027年將達(dá)到695.98億美元。

人工智能需要巨大的計(jì)算能力。隨著各類企業(yè)、終端用戶、云服務(wù)提供商甚至電信服務(wù)提供商的AI部署激增，2023年對(duì)專用AI處理器的需求將繼續(xù)飆升，AI芯片市場(chǎng)將延續(xù)過(guò)去幾年的增長(zhǎng)勢(shì)頭。來(lái)自麥肯錫的分析數(shù)據(jù)表明，到2025年，預(yù)計(jì)數(shù)據(jù)中心將成為AI芯片的主要收入來(lái)源，達(dá)到150億美元，比2017年增長(zhǎng)150%。

研究公司Omdia的分析師認(rèn)為，2023年發(fā)貨的大約200萬(wàn)臺(tái)服務(wù)器都將配備至少一個(gè)協(xié)處理器來(lái)加速計(jì)算工作負(fù)載，與2022年相比增長(zhǎng)了53%，其中很大一部分將采用GPU、TPU和專用AI加速器。

在利潤(rùn)豐厚的數(shù)據(jù)中心芯片市場(chǎng)，競(jìng)爭(zhēng)異常激烈。這場(chǎng)競(jìng)爭(zhēng)最初的核心是Intel與AMD之間有關(guān)CPU的競(jìng)爭(zhēng)。隨著AI在數(shù)據(jù)中心的應(yīng)用不斷擴(kuò)大，數(shù)據(jù)中心芯片市場(chǎng)的競(jìng)爭(zhēng)不斷外溢。因此，兩年前Intel推出了第一款用于數(shù)據(jù)中心的GPU——Intel服務(wù)器GPU。作為回應(yīng)，GPU制造商N(yùn)VIDIA也推出了代號(hào)為“Grace”的基于Arm的CPU芯片進(jìn)入服務(wù)器CPU市場(chǎng)，預(yù)計(jì)將于2023年上市。蓬勃發(fā)展的數(shù)據(jù)中心行業(yè)正在深刻影響著Intel、AMD和NVIDIA的銷售前景和彼此的競(jìng)爭(zhēng)關(guān)系。

Reportlinker在其發(fā)布的2023人工智能芯片報(bào)告中提出，全球AI芯片市場(chǎng)將從2022年的156.5億美元增長(zhǎng)到2023年的232.9億美元，復(fù)合年增長(zhǎng)率（CAGR）為48.8%。預(yù)計(jì)2027年人工智能芯片將增長(zhǎng)到888.5億美元，CAGR為39.8%?，F(xiàn)在，AI芯片市場(chǎng)的主要參與者包括NVIDIA、Intel、AMD、Alphabet、Mediatek、Qualcomm、NXP等。但在數(shù)據(jù)中心市場(chǎng)，競(jìng)爭(zhēng)的焦點(diǎn)主要集中在NVIDIA、Intel和AMD之間。

1NVIDIA DGX A100

NVIDIA發(fā)明了GPU，并推動(dòng)了AI、HPC、游戲、創(chuàng)意設(shè)計(jì)、自動(dòng)駕駛汽車和機(jī)器人開(kāi)發(fā)領(lǐng)域的進(jìn)步，該公司的GPU一直保持著穩(wěn)步迭代。2020年5月，NVIDIA公司推出了EGX A100和EGX Jetson，第一款基于NVIDIA Ampere架構(gòu)的邊緣AI產(chǎn)品是EGX A10。2022年3月，NVIDIA發(fā)布了基于Volta GPU架構(gòu)的新DGX Station、DGX-1和DGX-2。

這些AI超級(jí)計(jì)算機(jī)是為深度學(xué)習(xí)訓(xùn)練、加速分析和推理而構(gòu)建的。該系統(tǒng)包括為數(shù)據(jù)中心設(shè)計(jì)的NVIDIA旗艦芯片DGX A100，該芯片集成了8個(gè)GPU和高達(dá)640GB的GPU內(nèi)存。DGX A100采用NVIDIA A100 Tensor Core GPU，是適用于各種AI工作負(fù)載的通用系統(tǒng)。目前炙手可熱的ChatGPT主要采用了NVIDIA A100，并利用了微軟Azure的基于云的資源和服務(wù)。如果將ChatGPT和微軟其他應(yīng)用程序的需求結(jié)合起來(lái)，預(yù)計(jì)2023年微軟對(duì)AI服務(wù)器的需求總量將達(dá)到25,000臺(tái)左右。

圖1：NVIDIA數(shù)據(jù)中心旗艦GPU DGX A100

全新的NVIDIA H100 Tensor Core GPU，是NVIDIA新一代超高性能數(shù)據(jù)中心GPU，旨在為每個(gè)工作負(fù)載中實(shí)現(xiàn)出色性能、可擴(kuò)展性和安全性。H100基于NVIDIA Hopper GPU架構(gòu)構(gòu)建，將加速云數(shù)據(jù)中心、服務(wù)器、邊緣系統(tǒng)和工作站中的AI訓(xùn)練和推理、HPC以及數(shù)據(jù)分析應(yīng)用，與上一代產(chǎn)品相比，可將大型語(yǔ)言模型的速度提高30倍。根據(jù)英偉達(dá)此前的信息，H100 Tensor Core GPU計(jì)劃于2023年推出。

2 Intel Habana Gaudi2

就在NVIDIA去年宣布Volta GPU架構(gòu)計(jì)劃后，同年5月份，Intel Habana Lab與Habana Greco宣布推出用于訓(xùn)練和推理的第二代深度學(xué)習(xí)處理器Habana Gaudi2。這款處理器是為AI深度學(xué)習(xí)應(yīng)用而構(gòu)建的，采用先進(jìn)的7nm工藝。Gaudi 2包括24個(gè)Tensor核心，專門為訓(xùn)練大規(guī)模深度學(xué)習(xí)模型而優(yōu)化。在Habana Lab的上一代處理器中，只有八個(gè)Tensor核心。

此外，每個(gè)Gaudi 2芯片中包含的SRAM和HBM2E存儲(chǔ)器的數(shù)量分別增加了兩倍和三倍。Intel聲稱Gaudi2提供的吞吐量是Habana第一代AI訓(xùn)練芯片的三倍。在內(nèi)部基準(zhǔn)測(cè)試中，該芯片的吞吐量是英偉達(dá)數(shù)據(jù)中心旗艦A100-80GB GPU的兩倍。

Gaudi 2芯片的關(guān)鍵特征之一是某些網(wǎng)絡(luò)組件直接集成到處理器中。這減少了數(shù)據(jù)中心運(yùn)營(yíng)商必須購(gòu)買的額外網(wǎng)絡(luò)硬件數(shù)量，從而降低了成本。Gaudi 2配備了24個(gè)100千兆以太網(wǎng)端口，比其前身多了14個(gè)。Intel的第一款真正的數(shù)據(jù)中心GPU，代號(hào)Ponte Vecchio，預(yù)計(jì)將在2023年上半年推出。

圖2：Intel深度學(xué)習(xí)處理器Habana Gaudi2

（圖源：Intel）

3AMD Instinct MI250X

2022年可謂是AI芯片的發(fā)展之年，同年9月份，AMD發(fā)布了基于5nm架構(gòu)的Zen微架構(gòu)Zen 4的更新版本。AMD是一家主要專注于圖形卡和GPU的芯片制造商，盡管在開(kāi)發(fā)專門用于AI的硬件方面并沒(méi)有太多聲音，但該公司在5月份推出了Ryzen 7000系列，這是一款專為機(jī)器學(xué)習(xí)能力而打造的新系列PC處理器，并有望隨著Zen 4的推出而進(jìn)一步發(fā)展。

當(dāng)然，AMD在數(shù)據(jù)中心AI芯片上并不是完全沒(méi)有聲音。AMD Instinct MI200 系列加速器就是AMD新推出的數(shù)據(jù)中心GPU，它采用創(chuàng)新性AMD CDNA 2架構(gòu)、AMD Infinity Fabric技術(shù)以及先進(jìn)的封裝技術(shù)。對(duì)于高性能計(jì)算工作負(fù)載，AMD Instinct MI250X有著出色的GPU性能，高達(dá)47.9 TFLOPS雙精度（FP64），結(jié)合FP?64 Matrix Core技術(shù)，可實(shí)現(xiàn)高達(dá)95.7 TFLOPS的雙精度（FP64矩陣）峰值理論性能。對(duì)于機(jī)器學(xué)習(xí)和深度學(xué)習(xí)工作負(fù)載，MI250X可提供高達(dá)383 TFLOPS峰值理論半精度（FP16）性能。

圖3：有著出色GPU性能的AMD Instinct MI250X

（圖源：AMD）

數(shù)據(jù)中心AI趨勢(shì)展望

人工智能正在成為各個(gè)行業(yè)現(xiàn)代技術(shù)背后的驅(qū)動(dòng)力，在優(yōu)化、預(yù)防性維護(hù)、虛擬助理、欺詐檢測(cè)和異常檢測(cè)等方面都有應(yīng)用。有人甚至說(shuō)，如果沒(méi)有人工智能，許多數(shù)據(jù)中心在經(jīng)濟(jì)上或運(yùn)營(yíng)上都不可行。與此同時(shí)，數(shù)據(jù)中心也必須提供巨大的計(jì)算能力和存儲(chǔ)資源，人工智能才能實(shí)時(shí)地處理大量數(shù)據(jù)集并進(jìn)行訓(xùn)練和推理。通過(guò)GPU和TPU等專用硬件，數(shù)據(jù)中心可以加速?gòu)?fù)雜的計(jì)算，支持人工智能應(yīng)用程序和工作負(fù)載。

TrendForce數(shù)據(jù)顯示，2022年，配備通用GPU（GPGPU）的AI服務(wù)器僅占全球服務(wù)器年出貨量的1%。預(yù)計(jì)從2022年到2026年，人工智能服務(wù)器的出貨量將以10.8%的復(fù)合年增長(zhǎng)率增長(zhǎng)。四家主要的北美服務(wù)提供商（谷歌、AWS、Meta和微軟）在2022年的年度人工智能服務(wù)器總需求中占據(jù)了很大份額，約占全球采購(gòu)量的66.2%。在用于AI相關(guān)計(jì)算的服務(wù)器GPU市場(chǎng)上，主流產(chǎn)品有NVIDIA的H100、A100和A800以及AMD的MI250和MI250X系列。其中，A800是專為中國(guó)市場(chǎng)設(shè)計(jì)的產(chǎn)品。就服務(wù)器GPU的市場(chǎng)份額而言，NVIDIA控制著約80%，而AMD控制著約20%。

根據(jù)IDC報(bào)告，2023年全球人工智能支出將增長(zhǎng)26.9%，達(dá)到1,540億美元。2026年，以人工智能為中心的系統(tǒng)支出預(yù)計(jì)將超過(guò)3,000億美元。展望未來(lái)，人工智能在數(shù)據(jù)中心的未來(lái)應(yīng)用和趨勢(shì)將非常突出。人工智能通過(guò)提高運(yùn)營(yíng)效率、性能和安全性來(lái)振興數(shù)據(jù)中心。數(shù)據(jù)中心可以通過(guò)多種方式從將人工智能集成到其組織和運(yùn)營(yíng)中獲益。

2023年將是人工智能領(lǐng)域取得重大進(jìn)展的一年。在未來(lái)的幾年里，人工智能在整個(gè)數(shù)據(jù)中心自動(dòng)化方面的能力將得到改善。屆時(shí)，數(shù)據(jù)中心AI芯片的競(jìng)爭(zhēng)將更加激烈，除了三家基礎(chǔ)雄厚的企業(yè)，預(yù)計(jì)很多創(chuàng)新公司亦將加入競(jìng)爭(zhēng)隊(duì)伍。