未來(lái)的AI計(jì)算領(lǐng)域，將是CPU、GPU、IPU并行

前言：

AI近些年的大火，直接促進(jìn)了CPU和GPU的發(fā)展，而英偉達(dá)的GPU真正借此迅速成為AI市場(chǎng)的主流產(chǎn)品之一，其勢(shì)頭甚至蓋過(guò)了CPU。

而AI應(yīng)用需要專(zhuān)門(mén)的處理器，而IPU正是這樣的處理器。目前，AI在各行各業(yè)均得到廣泛應(yīng)用，IPU可以基于自身優(yōu)勢(shì)為世界的智能化進(jìn)程增添不竭動(dòng)力。

英偉達(dá)專(zhuān)注的GPU優(yōu)勢(shì)逐漸縮小

從專(zhuān)注圖像渲染崛起的英偉達(dá)的GPU，走的也是相當(dāng)于ASIC的技術(shù)路線，但隨著游戲、視頻渲染以及AI加速需要的出現(xiàn)，英偉達(dá)的GPU也在向著GPGPU的方向演進(jìn)。

當(dāng)硬件更多的需要與軟件生態(tài)掛鉤時(shí)，市場(chǎng)大多數(shù)參與者便會(huì)倒下。在競(jìng)爭(zhēng)清理過(guò)后，GPU形成了如今的雙寡頭市場(chǎng)，并且步入相當(dāng)成熟的階段。

ASIC本身的成本、靈活性缺失，以及應(yīng)用范圍很窄的特點(diǎn)，都導(dǎo)致它無(wú)法采用最先進(jìn)制程： 即便它們具備性能和能效優(yōu)勢(shì)，一旦無(wú)法采用最先進(jìn)制程，則這一優(yōu)勢(shì)也將不再明顯。

為保持其在GPU領(lǐng)域的寡頭地位，使得英偉達(dá)必須一直保持先進(jìn)的制程工藝，保持其通用性，但是要犧牲一定的效能優(yōu)勢(shì)。

相比于來(lái)自類(lèi)GPU的競(jìng)爭(zhēng)，英偉達(dá)不應(yīng)該忽視Graphcore的IPU，特別是Graphcore一直都在強(qiáng)調(diào)其是為AI而生，面向的應(yīng)用也是CPU、GPU不那么擅長(zhǎng)的AI應(yīng)用。

利用AI計(jì)算打側(cè)面競(jìng)爭(zhēng)戰(zhàn)

不管CPU還是GPU都無(wú)法從根本上解決AI問(wèn)題，因?yàn)锳I是一個(gè)面向計(jì)算圖的任務(wù)、與CPU的標(biāo)量計(jì)算和GPU的矢量計(jì)算區(qū)別很大。

而另一邊的IPU，則為AI計(jì)算提供了全新的技術(shù)架構(gòu)，同時(shí)將訓(xùn)練和推理合二為一，兼具處理二者工作的能力。

作為標(biāo)準(zhǔn)的神經(jīng)網(wǎng)絡(luò)處理芯片，IPU可以支持多種神經(jīng)網(wǎng)絡(luò)模型，因其具備數(shù)以千計(jì)到數(shù)百萬(wàn)計(jì)的頂點(diǎn)數(shù)量，遠(yuǎn)遠(yuǎn)超過(guò)GPU的頂點(diǎn)規(guī)模，可以進(jìn)行更高潛力的并行計(jì)算工作。

計(jì)算加上數(shù)據(jù)的突破可以讓IPU在原生稀疏計(jì)算中展現(xiàn)出領(lǐng)先IPU 10-50倍的性能優(yōu)勢(shì)，到了數(shù)據(jù)稀疏以及動(dòng)態(tài)稀疏時(shí)，IPU就有了比GPU越來(lái)越顯著的優(yōu)勢(shì)。

此外，如果是在IPU更擅長(zhǎng)的分組卷積內(nèi)核中，組維度越少，IPU的性能優(yōu)勢(shì)越明顯，總體而言，有4-100倍的吞吐量提升。

在5G網(wǎng)絡(luò)切片和資源管理中需要用到的強(qiáng)化學(xué)習(xí)，用IPU訓(xùn)練吞吐量也能夠提升最多13倍。

兩種芯片勢(shì)能英偉達(dá)與Graphcore的較量

Graphcore成立于2016年，是一家專(zhuān)注于機(jī)器智能、同時(shí)也代表著全新計(jì)算負(fù)載的芯片制造公司，其包括IPU在內(nèi)的產(chǎn)品研發(fā)擅長(zhǎng)大規(guī)模并行計(jì)算、稀疏的數(shù)據(jù)結(jié)構(gòu)、低精度計(jì)算、數(shù)據(jù)參數(shù)復(fù)用以及靜態(tài)圖結(jié)構(gòu)。

英偉達(dá)的潛在競(jìng)爭(zhēng)對(duì)手Graphcore的第二代IPU在多個(gè)主流模型上的表現(xiàn)優(yōu)于A100 GPU，兩者將在超大規(guī)模數(shù)據(jù)中心正面競(jìng)爭(zhēng)。

未來(lái)，IPU可能在一些新興的AI應(yīng)用中展現(xiàn)出更大的優(yōu)勢(shì)。

第二代IPU相比第一代IPU有兩倍峰值算力的提升，在典型的CV還有NLP的模型中，第二代IPU相比第一代IPU則展現(xiàn)出了平均8倍的性能提升。

如果對(duì)比英偉達(dá)基于8個(gè)最新A100 GPU的DGX-A100，Graphcore 8個(gè)M2000組成的系統(tǒng)的FP32算力是DGX-A100的12倍，AI計(jì)算是3倍，AI存儲(chǔ)是10倍。

AI計(jì)算未來(lái)有三種計(jì)算平臺(tái)

第一種平臺(tái)是CPU，它還會(huì)持續(xù)存在，因?yàn)橐恍I(yè)務(wù)在CPU上的表現(xiàn)依然不錯(cuò);

第二種平臺(tái)是GPU，它還會(huì)持續(xù)發(fā)展，會(huì)有適合GPU的應(yīng)用場(chǎng)景。

第三種平臺(tái)是就是Graphcore的IPU。

IPU旨在幫助創(chuàng)新者在AI應(yīng)用上實(shí)現(xiàn)新的突破，幫助用戶(hù)應(yīng)對(duì)當(dāng)前在CPU、GPU上表現(xiàn)不太好的任務(wù)或者阻礙大家創(chuàng)新的場(chǎng)景?！北R濤副總指出。

目前GPU在全球已是大規(guī)模的商用部署，其次是Google的TPU通過(guò)內(nèi)部應(yīng)用及TensorFlow的生態(tài)占第二大規(guī)模，IPU處于第三，是量產(chǎn)的、部署的平臺(tái)。

與此同時(shí)，Graphcore也在中國(guó)積極組建其創(chuàng)新社區(qū)。Graphcore已在微信、知乎、微博和GitHub開(kāi)通了官方頻道，旨在與開(kāi)發(fā)者、創(chuàng)新者、研究者更好地交流和互動(dòng)。

關(guān)于未來(lái)的AI計(jì)算領(lǐng)域，未來(lái)會(huì)是 “CPU、GPU、IPU并行” 的時(shí)代，GPU或部分CPU專(zhuān)注于業(yè)務(wù)場(chǎng)景的實(shí)現(xiàn)和落地，而IPU專(zhuān)為AI創(chuàng)新者帶來(lái)更多突破。

構(gòu)建生態(tài)鏈條IPU仍在路上

IPU想要在AI計(jì)算中擁有挑戰(zhàn)GPU地位的資格，除了在性能和價(jià)格上面證明自己的優(yōu)勢(shì)之外，還需要在為機(jī)器學(xué)習(xí)框架提供的軟件棧上提供更多選擇，獲得主流AI算法廠商的支持。

在標(biāo)準(zhǔn)生態(tài)、操作系統(tǒng)上也需要有廣泛的支持，對(duì)于開(kāi)發(fā)者有更方便的開(kāi)發(fā)工具和社區(qū)內(nèi)容的支持，才能從實(shí)際應(yīng)用中壯大IPU的開(kāi)發(fā)生態(tài)。

一個(gè)AI芯片從產(chǎn)出到大規(guī)模應(yīng)用必須要經(jīng)過(guò)一系列的中間環(huán)節(jié)，包括像上面提到的支持主流算法框架的軟件庫(kù)、工具鏈、用戶(hù)生態(tài)等等，打通這樣一條鏈條都會(huì)面臨一個(gè)巨大挑戰(zhàn)。

目前申請(qǐng)使用Graphcore IPU開(kāi)發(fā)者云的主要是商業(yè)用戶(hù)和高校，個(gè)人研究者比較少。IPU開(kāi)發(fā)者云支持當(dāng)前一些最先進(jìn)和最復(fù)雜的AI算法模型的訓(xùn)練和推理。

和本世紀(jì)初的GPU市場(chǎng)一樣，在AI芯片市場(chǎng)步入弱編程階段，如今百家爭(zhēng)鳴的局面預(yù)計(jì)也將很快結(jié)束，市場(chǎng)在一輪廝殺后會(huì)剩下為數(shù)不多的參與者做最終對(duì)決。

現(xiàn)在要看的是在發(fā)展初期的逐一擊破階段，Graphcore是否真有定義并主控第三類(lèi)芯片的魄力了。

不過(guò)從創(chuàng)新的架構(gòu)到芯片再到成為革命性的產(chǎn)品，Graphcore從芯片到落地之間的距離，需要易用的軟件和豐富的工具來(lái)支持，特別是對(duì)軟件生態(tài)依賴(lài)程度比較到的云端芯片市場(chǎng)。

結(jié)尾：

IPU不是GPU，這個(gè)可能是最大的一個(gè)挑戰(zhàn)，但同時(shí)也是最大的一個(gè)機(jī)會(huì)。IPU并不是GPU的替代品或者類(lèi)似品，所以不能拿GPU的邏輯來(lái)套用IPU的邏輯。

近兩年，AI 芯片出現(xiàn)了各種品類(lèi)的井噴，可以預(yù)計(jì)未來(lái)IPU在各類(lèi)AI應(yīng)用中將具有更大的優(yōu)勢(shì)。
責(zé)編AJX