人工智能算力為什么需要GPU？

隨著人工自能，特別是GPT的出現(xiàn)，引起了各種自動(dòng)化的模型，處理這些信息就需要算力。借著ChatGPT的熱度，AI最重要的硬件支持之一，算力硬件也在不自覺中再度上了科技類熱搜。

GPU，英文全稱是Graphics Processing Unit，即圖形處理器，也就是我們所說的顯卡。真正用來作為人工智能算力支持的GPU，不是普通的顯卡，而是GPGPU。

GPU前面加一個(gè)“GP”，就變?yōu)镚eneral-Purpose Computing on Graphics Processing Units，即通用計(jì)算圖形處理器。我們?nèi)バg(shù)語化，可以直接說這是一種用于處理非特定需求（通用類型）計(jì)算目的的算力單元（芯片）。通常，它們也被簡稱為通用GPU。

如果朋友們還有記憶的話，肯定記得國內(nèi)電子貨幣“挖礦”一度盛行時(shí)，帶起了顯卡的市場(chǎng)價(jià)格。這些顯卡中有不少，就是目前主流被用于提升算力的通用GPU。

對(duì)比GPU和CPU：雖然兩者本質(zhì)都是算力芯片（最早的GPU，也就是顯卡概念，也是由通用CPU演化而出），但最后在構(gòu)架上的區(qū)別，導(dǎo)致了GPU在面對(duì)AI大數(shù)據(jù)流算力時(shí)，能夠做的更好。

簡單來說，CPU更擅長復(fù)雜邏輯的運(yùn)算，而GPU構(gòu)架相對(duì)簡單，但運(yùn)算核心多，適用于大量邏輯簡單但高并發(fā)量的高密度計(jì)算。（CPU最多也就十幾個(gè)核心，GPU動(dòng)輒幾百上千個(gè)核心）成本方面，雖然FPGA和ASIC芯片也被用于AI領(lǐng)域，但由于它們是針對(duì)其中某些需求的半定制和全定制芯片（主要是模擬人腦神經(jīng)元結(jié)構(gòu)），在通用領(lǐng)域的性價(jià)比完全無法和較為成熟的GPU相比。

詳細(xì)一點(diǎn)可以這樣認(rèn)為，并行計(jì)算一般有2種類型：基于任務(wù)的并行處理和基于數(shù)據(jù)的并行處理。前者主要指的是把算力任務(wù)拆分成若干個(gè)小的但不同的任務(wù)，然后再根據(jù)算力芯片內(nèi)的不同核心做不同的計(jì)算分，從而形成一條算力流水線。后者主要指的是將數(shù)據(jù)分解為多個(gè)部分，讓多個(gè)運(yùn)算單元分別去計(jì)算這些小塊的數(shù)據(jù)，形成一個(gè)計(jì)算網(wǎng)格，最后再把這些網(wǎng)格完成的任務(wù)匯總起來。

我們常說的CPU多線程編程偏向于前者，GPU的并行編程模式則偏向于后者。后者對(duì)龐大但邏輯簡單的算力需求，有明顯更強(qiáng)更高效的支持能力。

或者我們也可以這么認(rèn)為：AI領(lǐng)域的大數(shù)據(jù)流運(yùn)算本來就是一個(gè)模糊概率問題，并沒有多少很精準(zhǔn)的計(jì)算需求，也就不要那么多的算力“牛人”（CPU），需要的是很多能夠干一般活的“工人”（通用GPU）。

從發(fā)展的時(shí)間線來看，通用GPU是一個(gè)近年來才產(chǎn)生，并在短期內(nèi)高熱度計(jì)算機(jī)芯片概念。它的出現(xiàn)，是一個(gè)與人工智能相互成就的過程。

最早提出GPU概念的是英偉達(dá)（NVIDIA）。早期英偉達(dá)提出GPU概念，是為了把電腦顯示芯片獨(dú)立出來，減少影像處理輸出過程對(duì)CPU的依賴，且可以部分分擔(dān)CPU的工作。

2012年發(fā)生的一件事，讓人工智能領(lǐng)域研究者認(rèn)識(shí)到了，GPU在算力支持領(lǐng)域的發(fā)掘潛力。

2012年，前谷歌計(jì)算機(jī)科學(xué)家Alex Krizhevsky利用深度學(xué)習(xí)+GPU的方案，贏得Image Net LSVRC-2010圖像識(shí)別大賽，并奇跡般地將識(shí)別成功率從74%提升到85%。事件發(fā)生后，NVIDIA洞察到了這一趨勢(shì)，耗費(fèi)巨資對(duì)自家的傳統(tǒng)GPU做改造。

3年后，NVIDIA提出了基于自家GPU的CUDA深度學(xué)習(xí)生態(tài)系統(tǒng)的算力GPU，將GPU的性能直接提升了65倍。

此外，為了建立自己的通用GPU生態(tài)，NVIDIA還開放了基于自己GPU的從后端模型訓(xùn)練到前端推理應(yīng)用的全套深度學(xué)習(xí)解決方案，讓全球范圍的內(nèi)一般開發(fā)人員都可以非常容易地使用GPU進(jìn)行深度學(xué)習(xí)開發(fā)或高性能運(yùn)算，最后奠定了自己在GPU算力領(lǐng)域的老大地位。

作為目前AI服務(wù)器最主流的算力選擇，2021年通用GPU服務(wù)器銷售額占據(jù)我國AI加速服務(wù)器市場(chǎng)的88.4%，其中80%以上的國內(nèi)市場(chǎng)被NVIDIA占據(jù)。

回到我們開頭說的。ChatGPT的正式推出，一方面可以說是“啟動(dòng)了人工智能革命”，另一方面也可以說是“拉開了新一輪的硬件競賽”。截止最新的市場(chǎng)報(bào)，ChatGPT在微軟Azure AI云服務(wù)器上完成訓(xùn)練，總算力消耗為3640PF-days，已經(jīng)導(dǎo)入超1萬顆英偉達(dá)高端GPU。Citi Bank（花旗）等預(yù)測(cè)ChatGPT能促使NVIDIA 12個(gè)月營收增加30億美金。

另據(jù)相關(guān)市場(chǎng)機(jī)構(gòu)測(cè)算，ChatGPT模型進(jìn)入線上運(yùn)營階段后，每億活躍用戶將帶來13.5Eflops的算力需求，需要6.9萬臺(tái)NVIDIADGXA10080G服務(wù)器支撐。根據(jù)中國信通院數(shù)據(jù)，2021年全球計(jì)算設(shè)備算力總規(guī)模達(dá)到615EFlops，其中超算算力規(guī)模為14EFlops。換言之，在每個(gè)用戶每天收到1500字回答的情況下，以2021年全球超算算力的規(guī)模，僅能支撐Chatgpt最多擁有1億日均上線人數(shù)。那么假設(shè)未來最后全球有5-6家科技巨頭能夠在3年內(nèi)各自擁有一款活躍人數(shù)2億的ChatGPT類應(yīng)用，則會(huì)帶來至少162EFlops超算算力需求——是目前的10倍以上。

參考招商證券以商湯AIDC計(jì)算的市場(chǎng)估值：每新建1Eflops算力需要投資15億元，其中ICT硬件投資占比72%?；钴S人數(shù)每增加1億人需要新增投資203億元，其中ICT硬件投資146億元。依舊是未來5-6家科技巨頭有這類產(chǎn)品，3年后ICT硬件投資將新增需求1,755億元。疊加未來AIGC技術(shù)向音頻、視頻等領(lǐng)域蔓延，算力硬件的市場(chǎng)需求會(huì)更大。

只不過，根據(jù)一份去年8月底9月初的“GPU產(chǎn)業(yè)專家交流要點(diǎn)紀(jì)要”顯示，雖然我國在該領(lǐng)域的市場(chǎng)前景很大，但是主要生產(chǎn)企業(yè)卻面臨“比較尷尬”的情況。其中最重要的一點(diǎn)是，僅僅是做GPU的公司數(shù)量不少，但是整體產(chǎn)品層次不高?？雌饋碛羞@個(gè)市場(chǎng)需求，但是很多訂單國內(nèi)廠商搶不下來。

如果要做高端的產(chǎn)品，去年美國在這塊也開始卡我們，直接加大了國內(nèi)大廠想要在這個(gè)領(lǐng)域發(fā)力的門檻。比如重要的芯片IP（一般也被成為IP核，指的是芯片中具有獨(dú)立功能的電路模塊的成熟設(shè)計(jì)）供應(yīng)商都是美國公司。

設(shè)計(jì)工具EDA方面，全球3大EDA占據(jù)了絕大多數(shù)的市場(chǎng)。30年前，我們?cè)鴩L試過使用制度性優(yōu)勢(shì)做EDA，但最后3巨頭把產(chǎn)品免費(fèi)送給高校，導(dǎo)致國產(chǎn)EDA不僅失去了市場(chǎng)（銷售供養(yǎng)研發(fā)），更失去了建立生態(tài)的機(jī)會(huì)。到了今天，我們的數(shù)字電路設(shè)計(jì)EDA缺乏全流程工具。即使是去年炒作過的華大九天等公司有模擬電力設(shè)計(jì)EDA，但僅僅是有流程平臺(tái)，工藝支持等能力還亟待加強(qiáng)。

編輯：黃飛

?