IBM的新AI芯片，世界最強？

這兩天，IBM低調地發(fā)了一個新聞，推出了一款類腦芯片“北極”（NorthPole），對比4nm節(jié)點實現(xiàn)的Nvidia H100 GPU相比，NorthPole的能效提高了五倍，成為當之無愧是現(xiàn)在世界最強的AI芯片。

如此逆天的性能，但在國內，關于這款芯片的新聞卻寥寥無幾。那么，它究竟是何方神圣？

把腦子裝進芯片，就行了？

首先，IBM的“北極”NorthPole是一種類腦芯片，我們需要先了解什么是類腦芯片。

所謂類腦芯片，顧名思義，就是一種高度模擬人腦計算原理的芯片，基于對現(xiàn)代神經科學的理解，反復思考如何從晶體管到架構設計，算法以及軟件來模仿人腦的運算。如果把類腦芯片做得更像人腦，就會被賦予一個新的名字——神經形態(tài)計算（Neuromorphic Computing）。

人類的思考方法與現(xiàn)在傳統(tǒng)的芯片存在許多區(qū)別，比如，人沒有單獨的存儲器，沒有動態(tài)隨機存取存儲器，沒有哈希層級結構，沒有共享存儲器等等。

“存儲”和“處理器”錯綜復雜地深繞在人腦里，在人腦的結構中有“神經元”的存在。在電腦中，以數(shù)字化核心相互交流基于事件的信息，叫做脈沖，這點和人腦傳遞信息的方式相似。

人類便從人腦中得到靈感，從而創(chuàng)造出這樣的芯片，來提升性能，成為真正的“人工智能”，甚至無限接近人類，獲得思考能力。

當然，人腦很復雜，而且人們所制造出來的IC器件，也存在優(yōu)勢，所以人們最終目標就是把這二者的優(yōu)勢融合起來。

總而言之，用人話來解釋，類腦芯片，就是結合生物大腦和人造器件各自優(yōu)點而設計制造出來的一種芯片，而它也會像人一樣思考，自我學習。

想造一顆這樣的芯片，可不是光變器件結構就行的，而是從材料、器件、電路、架構帶動算法和應用改變的。一言蔽之，就是集合各種最先進的技術，才能造出這樣的芯片。

雖然實現(xiàn)路徑很多，但奈何這種芯片技術難度太大了，且不說好不好造，設計出來就很難了，所以目前也在開拓階段，都還無法達到商業(yè)化水平。

但筆者了解到，之所以類腦芯片還未形成大規(guī)模商業(yè)化，一是因為設計難題依存，就拿英特爾、IBM都看好的CMOS型，多塊全數(shù)字異步設計的芯片互聯(lián)、芯片連接的有效性和時效性以及軟件層互連計算、分布式計算和靈活分區(qū)等問題都難以解決；二是制造、軟件和生態(tài)都要完全推翻，雖然硅基晶體管路線部分可復用，但底層不可能完全照搬，這就進一步加劇大規(guī)模商業(yè)化難度。

那，我們?yōu)樯顿M大力氣折騰類腦芯片？

類腦芯片實在太香了，筆者了解到，某些情況下，完美的神經形態(tài)芯片可以用比傳統(tǒng)解決方案低1000倍的能耗來解決問題，這意味著我們可以在固定的功耗預算下，打包更多的芯片來解決更大規(guī)模的問題。

類腦芯片的超高能效比足夠讓我們牟足力氣研究和突破。拿一個最典型的例子來看，AlphaGo下棋打敗了人類，但人類只用了20瓦的大腦能耗，而AlphaGo是2萬瓦。

神經形態(tài)芯片涉及的領域和機會，圖源丨Nature Computational Science

結構上，目前全世界的類腦芯片基本都一致，都是由神經元計算、突觸權重存儲、路由通信三部分構成，同時采用與脈沖神經網絡（SNN）模型。

但依據(jù)材料、器件、電路，分為模擬電路主導的神經形態(tài)系統(tǒng)（數(shù)?；旌螩MOS型）、全數(shù)字電路神經系統(tǒng)（數(shù)字CMOS型）、基于新型器件的數(shù)?；旌仙窠浶螒B(tài)系統(tǒng)（憶阻器是候選技術）三種流派。

全球范圍內，參與神經形態(tài)計算芯片開發(fā)的機構主要包括三類：英特爾、IBM、高通等為代表的科技巨頭企業(yè)，斯坦福、清華為代表的高校/研究機構以及初創(chuàng)企業(yè)。

根據(jù)筆者之前與英特爾研究院對話中獲悉，數(shù)字CMOS型是目前最易產業(yè)化的形式，一方面，技術和制造成熟度高，另一方面，不存在模擬電路的一些顧慮和限制。

當然，需要強調的是，數(shù)字CMOS型還只是最初階的類腦芯片，還算不上完全模擬人腦的神經形態(tài)器件，只能算是一種借鑒神經形態(tài)理念的一種芯片。但光是借鑒人腦，這種芯片就能夠碾壓世界上任何一種芯片。IBM的NorthPole就是這樣的數(shù)字CMOS型的類腦芯片。

類腦芯片主要類型和研發(fā)進度，制表丨電子工程世界

IBM的芯片，什么水平？

先說結論，應該是迄今為止，人類水平最高的類腦芯片了，對于類腦芯片研究又上了一個臺階。

2008年，IBM就開始研究類腦計算了，2011年有了第一次突破性成果：IBM的第一代神經突觸計算機芯片。研究人員制造出兩個這樣的芯片模型：一顆包含262，144個可編程突觸，一顆則包含65，536個可學習突觸，通過測試展示其可執(zhí)行導航、機器視覺、模式識別、關聯(lián)記憶和分類等簡單功能。

直到2014年，IBM在《科學》雜志發(fā)表了一篇文章，向全世界展示了劃時代的技術進展：一個符合DARPA SyNAPSE項目指標的、擁有100萬神經元的類腦處理器，即TureNorth，在當時掀起了類腦芯片研究熱潮。

沉寂8年，“北極”（NorthPole）問世，NorthPole就是建立在IBM最后一顆類腦芯片TrueNorth基礎之上，彼時TrueNorth就有這比傳統(tǒng)微處理器低四個數(shù)量級的能效比，對比一下二者，就能很直觀感受到IBM技術的變化：

單個TrueNorth芯片包含4096個計算核心，可以實現(xiàn)神經突觸和神經元排列的動態(tài)映射。IBM TrueNorth系統(tǒng)的一個吸引人的功能是，單個芯片由54億個晶體管組成，僅消耗70mW的功率密度，僅占傳統(tǒng)計算單元的1/10000；

NorthPole采用12nm節(jié)點工藝制造，在800平方毫米內集成了220億個晶體管，有256個內核，在8位精度下，每個內核每個周期可執(zhí)行2048次運算；在4位和2位精度下，運算次數(shù)有可能分別增加一倍和四倍。運行基于人工智能驅動的圖像識別算法速度是目前市場上同類芯片的22倍，能效是同類芯片的25倍。在不使用最先進工藝的情況下，NorthPole芯片能耗是使用最先進技術的人工智能芯片的1/5?？傮w而言，NorthPole的速度大約是TrueNorth的4000倍。

結構方面，NorthPole與TrueNorth一樣，由一個大型計算單元陣列（16×16）組成，每個單元都包含本地內存和代碼執(zhí)行能力。 計算資源方面，NorthPole每個單元都經過優(yōu)化，可執(zhí)行精度較低的計算，精度從 2 bit到8 bit 不等。為保證執(zhí)行單元使用，它們不能根據(jù)變量值執(zhí)行條件分支，也就是說，使用者代碼不能包含if語句。這種簡單的執(zhí)行方式使每個計算單元都能進行大規(guī)模并行執(zhí)行。在2 bit精度下，每個單元可并行執(zhí)行8000多次計算。 存儲方面，所有的內存都被封裝在一顆芯片內， 這意味著每個內核都可以輕松地訪問芯片上的內存。設備外部來看，NorthPole看起來像是一個主動存儲芯片，這有助于將NorthPole集成到系統(tǒng)中。不止如此，這款NorthPole目前采用的是12nm納米節(jié)點工藝制造，目前CPU最先進的技術是3nm，而IBM還在研發(fā)2nm納米節(jié)點技術，如果用上2nm，可能IBM的類腦芯片性能還會再提升很大檔次。

圖/IBM NorthPole的潛在應用主要包括圖像和視頻分析、語音識別以及Transformer神經網絡，這些網絡是為ChatGPT等聊天機器人提供支持的大型語言模型（LLM）。這些人工智能任務可能會用于自動駕駛汽車、機器人、數(shù)字助理和衛(wèi)星觀測等領域。 某些應用程序需要的神經網絡太大，無法安裝在單個NorthPole芯片上。在這種情況下，這些網絡可以分解為更小的部分，并分布在多個NorthPole芯片上。 而NorthPole的超高能效比，意味著它不需要笨重的液體冷卻系統(tǒng)來運行，風扇和散熱器就足夠了，而它也可以部署在更小的空間中。 國內開始研究類腦芯片了嗎？ 如此強大的芯片，國內也早已有所布局。 國內研究則包括清華大學、浙江大學、復旦大學、中科院等頂級學府和機構，同時近兩年不斷涌現(xiàn)初創(chuàng)公司，如靈汐科技、時識科技、中科神經形態(tài)等。其中以清華大學的天機芯和浙江大學的達爾文芯片最具代表性。

具體而言，國內的主要成果包括： 清華大學2015年開發(fā)的第一代天機芯采用110nm工藝，2017年，第二代天機芯開始取得先進成果，基于28nm工藝制成，由156個功能核心FCore組成，包含約4萬個神經元和1000萬個突觸。相比第一代，密度提升20%，速度提高至少10倍，帶寬提高至少100倍，此外，清華大學還自主研發(fā)了軟件工具鏈，支持從深度學習框架到天機芯的自動映射和編譯。根據(jù)清華大學的計劃，下一代天機芯將是14nm或更先進的工藝，且功能會強大更多； 浙江大學聯(lián)合之江實驗室共同研制的類腦計算機，其神經元數(shù)量與小鼠大腦神經元數(shù)量規(guī)模相當。該計算機包含792顆達爾文2代芯片，支持1.2億個脈沖神經元、720億個神經突觸，而其典型運行功耗僅為350W~500W； 2020年10月，清華大學計算機系張悠慧團隊精儀系施路平團隊與合作者在《自然》（Nature）雜志發(fā)文首次提出“類腦計算完備性”以及軟硬件去耦合的類腦計算系統(tǒng)層次結構； 2023年9月，中國科學院計算技術研究所尤海航研究員和唐光明研究員帶領的研究團隊研制了超導神經形態(tài)處理器原型芯片“蘇軾（SUSHI）”，它是一款基于超導單磁通量子（SFQ）電路的超導計算芯片； 2023年10月，由中科南京智能技術研究院自主研發(fā)是目前國內規(guī)模最大、國際一流的類腦超級計算機服務正式啟用，它已實現(xiàn)5億神經元2500億突觸智能規(guī)模，較現(xiàn)有計算系統(tǒng)能效提升10倍以上，核心芯片自主可控。 IBM的成果代表著，這項布局未來的技術離我們又近了一步，而目前一些初創(chuàng)公司逐漸形成方案，開始應用。不難預見，在近幾年，這項技術商業(yè)化將逐步展開，而彼時研究成果也將照進現(xiàn)實。