如何為高性能計算應(yīng)用構(gòu)建更節(jié)能的SoC

今天是世界環(huán)境日，一個提醒我們關(guān)注我們的土地，我們的未來的日子。能源利用效率是可持續(xù)發(fā)展的關(guān)鍵所在。萬物智能時代，海量數(shù)據(jù)的處理和人工智能技術(shù)的快速發(fā)展，給全球能源供給帶來前所未有的壓力。

據(jù)統(tǒng)計，數(shù)據(jù)中心和數(shù)據(jù)傳輸網(wǎng)絡(luò)消耗了全球約1%的電力。人工智能日益普及，神經(jīng)網(wǎng)絡(luò)和大語言模型對底層硬件和軟件基礎(chǔ)架構(gòu)的需求將急劇攀升。對于未來幾年的電力影響，各方預(yù)測不盡相同。極端的預(yù)測是：能源消耗最終將超過全球電力供應(yīng)。

無論哪種預(yù)測是正確的，超大規(guī)模數(shù)據(jù)中心的能耗都是必須要立即處理的迫切問題。那么，如何在不影響性能目標(biāo)的前提下，為高性能計算（HPC）應(yīng)用構(gòu)建更節(jié)能的SoC呢？

本文將重點介紹為什么在一開始就解決設(shè)計的能效問題至關(guān)重要。我們還將進一步討論有關(guān)低功耗設(shè)計的工具和技術(shù)。

追求優(yōu)異的性能功耗比

云計算和AI模型正日益占據(jù)主導(dǎo)地位,實時數(shù)據(jù)處理和分析已成為許多應(yīng)用不可或缺的功能。以配備高級駕駛輔助系統(tǒng)（ADAS）的車輛為例，它們需要依賴實時處理和分析來確保關(guān)鍵安全功能可以正常發(fā)揮作用，比如盲點檢測和自動制動。海量數(shù)據(jù)（更不用說更大的AI模型）需要強大的算力，這已成為一個不可回避的事實。

一直以來，HPC應(yīng)用非?？粗匦阅鼙憩F(xiàn)。然而，隨著對電網(wǎng)停電等不利事件的擔(dān)憂與日俱增，人們越來越關(guān)注性能功耗比。正因為如此，我們開始注意到大家對全面提升能效的興趣愈發(fā)濃厚。在某些情況下，性能會受到功耗或能耗的限制。有時，系統(tǒng)無法以目標(biāo)速度運行，原因就在于其功耗太大。鑒于此，如果可以降低設(shè)計的能耗，并確保系統(tǒng)處于其功耗限制范圍內(nèi)，那么就有機會提高系統(tǒng)的運行速度，使其接近其性能極限。

但問題是，若是等到設(shè)計過程的最后階段才考慮解決能效問題，往往已經(jīng)來不及，因為到那時，架構(gòu)已經(jīng)定義好，許多設(shè)計決策已做出，其間的每一個決策都會對功耗產(chǎn)生影響。在物理實現(xiàn)過程中，有時確實可以從設(shè)計中壓榨出一些功耗，但收效甚微。

我們需要的是一種整體左移思維，即設(shè)計團隊首先要定義：高能效的架構(gòu)應(yīng)該是什么樣子？需要什么類型的IP，應(yīng)選擇數(shù)字信號處理（DSP）內(nèi)核，還是用于特定功能的硬件加速器？系統(tǒng)應(yīng)該運行多快？能否在適當(dāng)?shù)臅r候關(guān)閉設(shè)計的某些部分？是否可以降低時鐘頻率來節(jié)省功耗？內(nèi)存子系統(tǒng)應(yīng)采用怎樣的架構(gòu)？芯片應(yīng)該采用什么樣的工藝技術(shù)來設(shè)計？以上僅列舉了與設(shè)計功耗相關(guān)的一小部分關(guān)鍵問題。

現(xiàn)在許多開發(fā)者會根據(jù)實際應(yīng)用的工作負載來評估能耗，這確實是一種明智的方法。分析功耗曲線可以捕獲降低功耗的相關(guān)線索，比如修改微架構(gòu)、優(yōu)化軟件/硬件等等。幸運的是，現(xiàn)在有很多工具可以實現(xiàn)這一點。以AI初創(chuàng)公司SiMa.ai為例，該公司開發(fā)了一個專門的軟件優(yōu)先平臺，可以在嵌入式邊緣擴展機器學(xué)習(xí)（ML）。在2023年SNUG硅谷大會上，SiMa.ai重點介紹了如何使用硬件加速驅(qū)動型功耗分析來優(yōu)化其設(shè)計的硬件架構(gòu)、軟件和編譯器，從而將性能功耗比提高2.5倍。

在AI/ML設(shè)計和那些需要大量數(shù)據(jù)處理的設(shè)計中，毛刺功耗，即由于不必要的轉(zhuǎn)換或冗余活動而浪費的功耗，可能占到設(shè)計總功耗的25%。RTL到門級毛刺功耗分析和優(yōu)化解決方案可以協(xié)助識別毛刺功耗的源頭，讓開發(fā)者了解這些源頭產(chǎn)生了多少毛刺功耗。雖然AI應(yīng)用對功耗提出了更高的需求，但AI驅(qū)動型電子設(shè)計自動化（EDA）解決方案可以協(xié)助優(yōu)化功耗、性能和面積。將來，也許可以應(yīng)用AI來創(chuàng)建更節(jié)能的RTL代碼，或是協(xié)助定義/改進設(shè)計的架構(gòu)。

低功耗芯片設(shè)計之路

一直以來，開發(fā)者往往需要通過更先進的工藝技術(shù)來改善功耗。但隨著摩爾定律趨近極限，開發(fā)者把注意力轉(zhuǎn)向了新材料。光子IC利用了光的特性，諸多實踐已證明其能夠提高帶寬和速度，同時降低功耗和延遲。對于AI聊天機器人和其他HPC應(yīng)用，光子IC有望成為未來的前進方向。與此同時，對氮化鎵、碳化硅等半導(dǎo)體替代材料的探索也將帶來一些選擇。

總的來說，每一個看似微小的決定都會對芯片的整體功耗產(chǎn)生深遠影響。從探索新材料和設(shè)計技術(shù)，到改善設(shè)計和驗證工具，研發(fā)工作還有著非常大的發(fā)展空間。在設(shè)計之初就將能效考慮在內(nèi)是一個良好的開端。為了幫助開發(fā)者實現(xiàn)更節(jié)能的SoC，新思科技提供了面向低功耗設(shè)計的端到端解決方案，其中涵蓋設(shè)計、驗證和IP等多個方面。

現(xiàn)代精英人才不斷引領(lǐng)創(chuàng)新，為我們帶來了ChatGPT、自動駕駛汽車和工業(yè)機器人等前沿技術(shù)。然而，全球電力需求正迅猛增長，我們?nèi)云惹幸蕾囉陂_發(fā)者的智慧與才能，探索更多降低芯片功耗的有效方法。節(jié)能SoC將在今后的世界中變得越來越重要。