Graphcore三項(xiàng)變革性技術(shù)：計算、數(shù)據(jù)、通信

“計算革命在計算機(jī)歷史上只發(fā)生過三次，第一次是 70 年代的 CPU，第二次是 90 年代的 GPU，而 Graphcore 就是第三次革命，他們的芯片（IPU，智能處理單元）是這個世界偉大新架構(gòu)的一種。”說這話的是 ARM 公司創(chuàng)始人、英國半導(dǎo)體之父赫爾曼·豪瑟（Hermann Hauser）。 他口中的 Graphcore，是來自英國的 AI 芯片公司。這家公司創(chuàng)辦于2016年，在芯片領(lǐng)域有著多年經(jīng)驗(yàn)的奈杰爾·圖恩（Nigel Toon）擔(dān)任聯(lián)合創(chuàng)始人和 CEO，曾創(chuàng)辦過兩家處理器公司的西蒙·諾爾斯（Simon Knowles）擔(dān)任聯(lián)合創(chuàng)始人和 CTO。

這家分公司遍布多個國家和地區(qū)的公司，于 2019 年進(jìn)入中國。9 月 19 日，DeepTech 和 Graphcore 高級副總裁兼中國區(qū)總經(jīng)理盧濤，就相關(guān)問題進(jìn)行了交流。

他表示，Graphcore 的主要技術(shù)是以 IPU 處理器、為 IPU 打造的Poplar 軟件?；?IPU 處理器和 Poplar 軟件棧，Graphcore 的產(chǎn)品最后以用在IPU服務(wù)器中的PCIe 卡、IPU 系統(tǒng)產(chǎn)品 IPU-Machine和 IPU-POD 的形式呈現(xiàn)給用戶。 Graphcore 已經(jīng)取得了一些階段性進(jìn)展。截止目前，IPU 已達(dá)到一萬多片的發(fā)貨規(guī)模，并服務(wù)于全球超過 100 家的機(jī)構(gòu)，其主要應(yīng)用在互聯(lián)網(wǎng)大規(guī)模數(shù)據(jù)中心、高校和科研機(jī)構(gòu)等。同時，IPU 也在支撐醫(yī)療、金融、生命科學(xué)、汽車、金融和計算領(lǐng)域方面的應(yīng)用。 2019 年初，AI 教父杰夫·欣頓（Geoff Hinton）在接受記者采訪的時候，被問未來什么樣的計算系統(tǒng)會更像大腦？他的回答是：“我認(rèn)為我們需要轉(zhuǎn)向不同類型的計算機(jī)。幸運(yùn)的是，我這里有一個...” 欣頓伸手進(jìn)入他的錢包，拿出一個又大又亮的硅片——一個 Graphcore IPU 芯片。IPU帶來可持續(xù)發(fā)展路徑
2016 年，全球 AI 產(chǎn)業(yè)進(jìn)入高速發(fā)展階段。在過去，大概每隔三個月，模型參數(shù)規(guī)模就會提高一倍。2018 年 10 月，谷歌的 BERT 模型有 3.3 億個參數(shù)。2019 年3 月，OPEN AI 的大型語言模型 GPT-2 達(dá)到 15.5 億個參數(shù)。2020 年，GPT-3 達(dá)到 1750億個參數(shù)。GPT-3 模型完成一次完整訓(xùn)練，要耗費(fèi)千萬美金級別的花銷。這樣的密集計算，很難帶來持續(xù)發(fā)展。那么，是否有可持續(xù)發(fā)展的路徑？ 在論文《EfficientNet：對卷積神經(jīng)網(wǎng)絡(luò)的模型縮放的重新思考》（EfficientNet:Rethinking Model Scaling for Convolutional Neural Networks）中，論文作者通過平衡神經(jīng)網(wǎng)絡(luò)的深度、寬度、圖片分辨率，再通過找到平衡點(diǎn)、并把底層卷積改變之后，找到了大幅減小參數(shù)數(shù)量的方法，與此同時準(zhǔn)確度也得到提升。盧濤認(rèn)為，這是未來的代表方向之一。 2020 年上半年，微軟機(jī)器學(xué)習(xí)科學(xué)家 Sujeeth Bharadwaj 分享了 IPU訓(xùn)練 CXR 模型的卓越性能，IPU 在運(yùn)行微軟COVID-19 影像分析算法 EfficientNet 和SONIC時表現(xiàn)亮眼，在 30 分鐘內(nèi)完成了英偉達(dá)傳統(tǒng)芯片需 5 個小時的訓(xùn)練工作量。

圖 | 微軟用IPU和GPU訓(xùn)練用于新冠算法模型的對比 從 Graphcore 的角度來看，不管是 CPU 還是 GPU，都不是針對 AI 應(yīng)用而生。CPU 是標(biāo)量處理器，它主要做模擬性判斷，用于幫助程序員針對固定模式進(jìn)行編程。CPU 特別適合的架構(gòu)是通過大量的模擬處理器開發(fā)手機(jī) App 和外包服務(wù)器。GPU 是針對圖像處理而生，相比 CPU 來說 GPU 在并行度和向量機(jī)上都有很大提升。 概括來說，GPU 主要應(yīng)用在主流 AI 平臺，它并不是為 AI 而生的處理器。Graphcore 進(jìn)行大量分析后發(fā)現(xiàn)，AI 計算具有高度并行、低密度計算等特點(diǎn)，不管做圖像處理模型、還是語言處理模型，都會在底層表達(dá)成一個計算圖。盧濤認(rèn)為，真正面向未來的 AI 處理器，必須是針對計算圖來進(jìn)行處理，而 Graphcore 的IPU 正是以計算圖為核心的智能處理器。

三項(xiàng)變革性技術(shù)：計算、數(shù)據(jù)、通信

進(jìn)入中國后，Graphcore 一直努力接近開發(fā)者，盧濤在 9 月 19 日中關(guān)村論壇的演講結(jié)尾，特意提到該公司在中文網(wǎng)站 graphcore.cn、微信和知乎的開發(fā)者創(chuàng)新社區(qū)，并鼓勵更多開發(fā)者來到上述平臺，獲取 Graphcore 的資源和支持來進(jìn)行創(chuàng)新。 對此做法，他解釋稱，Graphcore 希望將權(quán)利移交給創(chuàng)新者。那么，首先要給創(chuàng)新者提供新的平臺，讓他有新的可能性。如果開發(fā)者的算法不適合 GPU，并不一定代表你的算法無效，而是你需要一個新平臺?；诖耍珿raphcore 提供了非常先進(jìn)的AI 處理器、以及大規(guī)模 IPU 集群系統(tǒng)。 2020 年 7 月 15 日，Graphcore 發(fā)布基于 7nm 的第二代 IPU 處理器——GC200，以及用于 Mk2m IPU 和 IPU 系統(tǒng)產(chǎn)品的技術(shù)：計算、數(shù)據(jù)、通信。

GC200 基于臺積電 7nm 工藝，有 594 億個晶體管，是當(dāng)前單一芯片最大規(guī)模的處理器。GC200 仍然延續(xù)了第一代的“同構(gòu)眾核”架構(gòu)，所不同的是，制造工藝從16nm，提升為最新的 7nm。 GC200 的處理器片上存儲也從 300MB 提升到 900MB，晶體管數(shù)量超出英偉達(dá)2020 年 5 月發(fā)布最新旗艦 A100。GC200 的處理器核心從上一代的 1217 提升到1472，能執(zhí)行 8832 個單獨(dú)的并行線程，系統(tǒng)性能提升 8 倍以上。在數(shù)據(jù)處理方面，GC200 延續(xù)之前的高帶寬高容量表現(xiàn)，這對于應(yīng)對一些復(fù)雜 AI 模型及算法很有幫助，官方表示它可支持具有數(shù)千億個參數(shù)的最大模型。 此外，Graphcore 還首次提出 IPU-EXCHANGE-MEMORY，這是一種交換式的儲存架構(gòu)。Graphcore在M2000每個IPU-Machine里面通過IPU-Exchange-Memory技術(shù)，提供了將近超過100倍的帶寬以及大約10倍的容量，這對于很多復(fù)雜的AI模型算法是非常有幫助的。 針對 AI 計算集群，Graphcore 打造了 IPU-Fabric 技術(shù)，這是為 AI 橫向擴(kuò)展而生的通信技術(shù)，它的優(yōu)點(diǎn)是彈性大、低時延。有了 IPU-Fabric 之后，用戶可以輕松構(gòu)建出高彈性低時延的計算平臺。M2000是 Graphcore 推出的基于 GC200 的刀片型服務(wù)器，每片能提供 1PetaFlop 的算力支持。M2000 可以被看作是 Graphcore IPU 系統(tǒng)產(chǎn)品部署的最小單元，基于它可以很方便地創(chuàng)建各種規(guī)模的集群。

圖| IPU-Fabric（來源：Graphcore）

Graphcore 協(xié)同 IPU 從零打造了一個以圖為抽象編程模型的軟件Poplar。通過這套軟件SDK，不管是使用浪潮還是戴爾的服務(wù)器，更或者是使用單個 M2000 以及大規(guī)模計算系統(tǒng) IPU-POD，Graphcore 都能使用同一套軟件進(jìn)行編程。 Graphcore 還在 Poplar 層面上，提供了很多軟件庫。以ML框架為例，其可以支持標(biāo)準(zhǔn)的 PyTorch、TensorFlow 與 ONNX 等。同時，Graphcore 認(rèn)為，對一個系統(tǒng)而言，運(yùn)維和管理也非常重要。為此，Graphcore 基于開源做了集群管理套件。 在整個處理器研發(fā)過程中，Graphcore 認(rèn)為開放非常重要。盧濤表示，開源是因?yàn)閯?chuàng)新需要對底層有很多可見度。Graphcore 認(rèn)為要把權(quán)利移交給開發(fā)者，并于2020 年 7 月開源了所有的計算圖庫源代碼和機(jī)器學(xué)習(xí)算法模型。 在構(gòu)建社區(qū)方面，Graphcore 在金山云上構(gòu)建了一個開發(fā)者云，其主要面向商業(yè)用戶、高校、科研機(jī)構(gòu)和個人研究者。盧濤表示，這一且都是為了幫助創(chuàng)新者，可以在在機(jī)器智能中實(shí)現(xiàn)下一波突破，以及幫助用戶實(shí)現(xiàn)在 CPU、GPU 上沒有辦法實(shí)現(xiàn)的創(chuàng)新。 Graphcore 至今成立了四年多的時間，期間已得到紅杉資本的支持，也獲得了寶馬、博世、微軟、三星、DELL 等企業(yè)的投資。經(jīng)過幾年的發(fā)展，Graphcore 已經(jīng)發(fā)展為遍布全球的機(jī)構(gòu)。 對于加入中國，該公司創(chuàng)始人奈杰爾·圖恩（Nigel Toon）表示：“有遠(yuǎn)見的中國公司已經(jīng)開始著手布局自己在 AI 領(lǐng)域的藍(lán)圖。也許這就是為什么 Graphcore 在中國找到了熱情，并如此深度的參與。Graphcore 已經(jīng)開始為一些頗有建樹的中國公司提供技術(shù)支持，并將助力推動中國那些發(fā)展最快、最具創(chuàng)新性的 AI 初創(chuàng)企業(yè)?！? 盧濤也對 DeepTech 表示，中國的企業(yè)非常擅長把創(chuàng)新進(jìn)行大批量的快速落地部署，Graphcore 覺得中國是最大的市場之一。在快速落地部署中，Graphcore 也可以進(jìn)一步打磨自己的產(chǎn)品。此外，IPU 也能幫助用戶釋放出更多潛能，今天在CPU 和 GPU 上做不好的事情，在 IPU 上可能會釋放極大潛力。

-End-

原文標(biāo)題：一家英國明星芯片公司“悄然”入華！叫板英偉達(dá)A100，設(shè)定中國為其最大市場

文章出處：【微信公眾號：DeepTech深科技】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。

責(zé)任編輯：haq