人工智能處理器如何降低功耗？

“對于邊緣技術來說，關鍵在于如何優(yōu)化所需性能，同時最大限度地降低功耗?！?/p>

鑒于疫情期間，行業(yè)活動已普遍轉變?yōu)樘摂M活動，年初至今我已經參加了6次線上半導體會議。討論的熱門主題之一是人工智能（AI）和深度學習（DL）芯片，這是一個不斷發(fā)展的領域，范圍涵蓋了廣泛的技術和器件類型。一項共同主題是關注內存優(yōu)化和解決功耗/內存瓶頸。

人工智能是一個炙手可熱的市場。據ABI Research估計，2024年整個人工智能芯片市場將達到210億美元。令人驚訝的是，基于ASIC的人工智能加速器占據了市場的很大一部分，預計到2024年，其價值將增長三倍，達到90億美元的總可用市場（TAM），年復合增長率（CAGR）為30%。

各家公司都想方設法，研發(fā)出低能耗的訓練和推理處理解決方案。雖然機器學習只占數據中心總功耗的一部分，但這一部分功耗正在迅速擴大。2017年，數據中心消耗的電力約占美國總電力的3%，2020年這一數字翻了一倍，達到了6%。智能邊緣器件的普及也在加速。根據市場研究公司IDC的數據，未來十年將有1，250億個“物品”連接到互聯網上，屆時每年將創(chuàng)建、捕獲、復制和消費近60澤字節(jié)的數據。

很明顯，我們的行業(yè)面臨著一項重大挑戰(zhàn)：如何在邊緣部署多個智能設備，在邊緣以極低的功耗推斷所有數據，并在云端管理、處理和訓練指數級增長的數據，同時將功耗保持在控制水平內。

人工智能參考封裝發(fā)展

格芯?（GLOBALFOUNDRIES?）計算業(yè)務部副總裁Hiren Majmudar表示：“在推理和訓練中都存在功耗瓶頸”，而格芯技術產品很好地解決了這一點，無論是基于FinFET的12LP （12nm FinFET）平臺和12LP+解決方案，還是基于全耗盡型SOI的平面22FDXTM （22nm FD-SOI）平臺。

基于FinFET技術的人工智能處理器，無論是用于云端還是邊緣，都具有功率和成本優(yōu)勢。12LP+解決方案能夠以高于1 Ghz的速度運行人工智能內核，并采用全新的低電壓SRAM和支持在0.55V下工作的標準單元庫。格芯先進的FinFET解決方案12LP+于今年投產，與12LP基礎平臺相比，其雙功函數FET的邏輯性能最高可提高20%，相當于功耗最高可降低40%。

他表示：“我們客戶使用獨特的架構，往往依賴一組有限的標準單元。我們一直致力于研究設計技術協同優(yōu)化（DTCO），并開發(fā)了人工智能參考封裝，可通過一套預封裝元件來充分發(fā)揮潛能。借助合作DTCO模式，我們的客戶可以快速將SoC目標推向市場。DTCO工作包括基于客戶自身架構的設計分析服務，以針對性能、功率和面積（PPA）進行優(yōu)化?！?/p>

Majmudar表示，最佳PPA因具體應用而不同。

他表示：“所有的細分市場都非常關注成本。對于云計算來說，指標是每瓦TOPS，以最低的功耗獲得最佳性能。對于邊緣技術來說，關鍵在于如何優(yōu)化所需性能，同時最大限度地降低功耗?！?/p>

Majmudar表示，對于開發(fā)“即時開啟或永遠在線”人工智能應用的客戶來說，22FDX的eMRAM產品具有很強的優(yōu)勢。他補充道：“eMRAM有很多應用，可幫助客戶實現高密度和非易失性。另一項功能是模擬存儲器內計算。”

人工智能工作負載范圍很廣，除了訓練和推理外，還包括語音、視覺和成像。他表示：“我們是一家專業(yè)晶圓廠，不斷推出創(chuàng)新的IP產品。我們持續(xù)投資IP、晶圓到晶圓互聯、存儲器和接口IP領域。我們擁有明確的路線圖，并吸收客戶的意見不斷改進。”

創(chuàng)新型初創(chuàng)公司

我計劃在未來的博客中，詳細介紹格芯如何與該領域的初創(chuàng)公司開展合作，但本文將先介紹其中一家公司，以便讓大家初步了解格芯客戶在人工智能芯片方面的豐富創(chuàng)新成果。

全耗盡型絕緣體上硅平臺經過專門設計，支持動態(tài)電壓、頻率微縮和自動時鐘門控。由此實現了超低功耗的信號處理和神經網絡算法，可用于電池供電的物聯網設備。

Perceive是Xperi Corp.擁有多數股權的子公司，旨在為超低功耗消費器件中的傳感器數據提供人工智能推理。Perceive的“Ergo”邊緣推理處理器能夠在設備上處理大型神經網絡，其效率是目前支持推理的處理器的20至100倍。

該公司專注于通過集成神經網絡處理技術實現安全攝像頭、智能家電和移動設備，而無需將數據發(fā)送到云端進行推理處理。
責編AJX