通用GPU的概念和特點

9月1日，世界人工智能大會暨“AI未來，感知芯世界”芯片主題論壇于上海成功舉辦，上海天數(shù)智芯半導體有限公司（以下簡稱“天數(shù)智芯”）首席技術(shù)官呂堅平博士受邀參加，并發(fā)表了題為“創(chuàng)新通用GPU-深耕應用及生態(tài)，開啟算力新時代” 的主題演講，與業(yè)內(nèi)人士一起探討通用GPU存在的重要意義。

呂堅平博士指出，GPU引領我們進入萬物皆可算的時代。他先介紹了通用GPU的概念和特點，GPU可以采用以（SIMT）單指令多線程為基礎的眾核架構(gòu)，特別適合大規(guī)模并行乘加處理，并解釋了GPU可以在通用計算領域持續(xù)發(fā)光發(fā)熱，以及能同時支持圖形及通用計算的原因。

呂堅平博士提出，GPU在圖形、計算和AI方面具有“三重人格”。目前這“三重人格”呈現(xiàn)出分裂的狀態(tài)，其中AI是通用計算進展的最大動力；圖形將持續(xù)走向通用；而通用計算則將追趕圖形的效率。

AI作為最大推動力，需要持續(xù)創(chuàng)新的通用算力，呂堅平博士引用2018年圖靈獎得主 John Hennessy 及 David Patterson 教授在得獎演說 “A New Golden Age for Computer Architecture”，指出判別計算架構(gòu)贏家的三個準則：

1）軟件的進步啟發(fā)架構(gòu)創(chuàng)新

2）提升軟硬件界面締造架構(gòu)創(chuàng)新機會

3）市場最終擺平架構(gòu)論爭

呂堅平博士認為，“架構(gòu)贏家主導下一波軟件進步”是判別計算架構(gòu)贏家的第四條準則?；谝陨纤膫€準則，目前下一個AI架構(gòu)的贏家一定要堅持通用，非通用GPU的AI訓練芯片不僅無法滿足研發(fā)前沿AI算法所需，也無法順利跑通AI學術(shù)大會最新出爐的NN模型，甚至基準測試。天數(shù)智芯于去年3月發(fā)布的國內(nèi)第一款7nm云端訓練通用GPU天垓100，累計觸達客戶300余家，意向簽約客戶200余家，訂單累計突破2億元。

此外，AI 推理芯片也需要通用，一方面特定AI算法優(yōu)化的推理芯片不適用于算法多元并不斷演進的領域，另一方面很多應用場景需要用到非AI算法，而天數(shù)智芯即將推出首款AI推理通用GPU——智鎧100。

呂堅平博士解釋道，通用GPU與AI DSA 芯片在 AI 針對性上，不分軒輊，很多 AI DSA 芯片也號稱通用，甚至某些 AI DSA 芯片疑似借殼通用GPU，但真正的通用GPU應該具備開發(fā)易遷移、性能可預期、應用廣覆蓋、全?？啥ㄖ频忍攸c。作為國內(nèi)唯一實現(xiàn)量產(chǎn)的通用GPU，天數(shù)智芯的天垓100“真通用”、“真量產(chǎn)”，通用性達到國際一流水平，協(xié)助客戶落地達兩百多應用場景，并支持全方位生態(tài)。

為促進真通用，天數(shù)智芯貢獻出自己的力量——內(nèi)部一鍵式部署出貨評測內(nèi)容及體系，涉及百種模型及應用，并將于9月30日開源天數(shù)智芯百大應用開放平臺“DeepSpark”。呂堅平博士強調(diào)，天數(shù)智芯不會止于百大應用，將遵循圖形走向通用計算的潮流趨勢，以成功量產(chǎn)的天垓100通用GPU為堅實基礎，支援“云原生”渲染，達到元宇宙及數(shù)字孿生所需的AI與圖形融合。未來，天數(shù)智芯將陸續(xù)推出天垓200、天垓300，繼續(xù)強大通用算力，創(chuàng)新通用GPU，深耕應用與生態(tài)，開啟算力新時代。