基于5nm工藝的全新AmpereOne系列處理器解析

根據(jù)Gartner預(yù)測，到2025 年，云原生平臺(tái)將成為95%以上新數(shù)字應(yīng)用的基礎(chǔ)，而在2021 年這一比例只有不到40%。熱潮之下，越來越多的企業(yè)和開發(fā)者開始推動(dòng)業(yè)務(wù)與技術(shù)的創(chuàng)新向云原生演進(jìn)。

讓“可持續(xù)發(fā)展”成為數(shù)據(jù)中心的必選項(xiàng)

之所以會(huì)出現(xiàn)對(duì)“云原生”相關(guān)概念的追捧，Ampere首席執(zhí)行官Renée James認(rèn)為，是云開辟了一個(gè)新的領(lǐng)域，定義了現(xiàn)代軟件的開發(fā)和部署方式。它們渴望一種新的高效計(jì)算引擎，既能夠驅(qū)動(dòng)云的未來發(fā)展，又能夠?qū)④浖?a target="_blank">硬件的定義中抽取出來。也就是說，操作系統(tǒng)和其他軟件與硬件綁定的時(shí)代已經(jīng)結(jié)束，人們不必?fù)?dān)心傳統(tǒng)軟件對(duì)獨(dú)特指令和功能的依賴。

與此同時(shí)，算力需求的指數(shù)級(jí)增長加劇了對(duì)架構(gòu)轉(zhuǎn)變的需求，同時(shí)也引發(fā)了數(shù)據(jù)中心與關(guān)鍵的商業(yè)和住宅開發(fā)項(xiàng)目對(duì)電力資源的爭奪。Renée James 表示：“可持續(xù)性不再只是實(shí)現(xiàn) ESG 目標(biāo)的一部分——它對(duì)于未來所有計(jì)算的增長都至關(guān)重要。”對(duì)于行業(yè)的前進(jìn)方向，Renée James認(rèn)為：“在能耗與性能的坐標(biāo)軸之中，朝坐標(biāo)軸的右下方移動(dòng)是行業(yè)發(fā)展的新常態(tài)，目的是實(shí)現(xiàn)更低的能耗和更高的性能?！?/p>

“我們使命的核心是創(chuàng)造計(jì)算的未來，打造一款既高性能又可持續(xù)的產(chǎn)品。因?yàn)樵谌缃裨茙淼乃辛钊梭@奇的事物之中，可持續(xù)性竟然不是其中之一，這也是為什么在過去幾年間，我們一直在Ampere打造革命性產(chǎn)品的原因?！盇mpere Computing首席產(chǎn)品官Jeff Wittich說，當(dāng)今業(yè)界存在一種謬論——“認(rèn)為提升計(jì)算性能，必然會(huì)帶來相應(yīng)甚至更多的能耗，且沒有其他替代方法。“

我們可以在今天的生成式 AI中看到這種想法，所有可用資源都被無盡地投入到這些模型當(dāng)中。根據(jù)最近的一項(xiàng)行業(yè)預(yù)測，ChatGPT單次查詢的成本為36美分，是傳統(tǒng)查詢方式的30多倍，能耗同樣急劇升高。但事實(shí)上，鑒于云的規(guī)模和其龐大性，以及其未來增長所面臨的諸多限制，通過更低的能耗提供更高的計(jì)算能力，在所有環(huán)境中都至關(guān)重要，因?yàn)樵谠浦?，沒有效率，就沒有性能可言。

擊破單核性能與能耗之間的矛盾

為此，在2020年推出的業(yè)界首款云原生處理器Ampere Altra和2021年推出的128核云原生處理器Ampere Altra Max基礎(chǔ)之上，Ampere日前正式推出全新 AmpereOne系列處理器。

該處理器基于5nm工藝節(jié)點(diǎn)制造，擁有多達(dá)192個(gè)單線程Ampere自研云原生核，內(nèi)核數(shù)量為業(yè)界最高，且每核擁有64K L1數(shù)據(jù)和2MB L2緩存。在設(shè)計(jì)方面，Ampere為云進(jìn)行了專門的微架構(gòu)創(chuàng)新，如準(zhǔn)確性更高的L1數(shù)據(jù)預(yù)取器，縮短了分支誤預(yù)測的恢復(fù)時(shí)間，并增強(qiáng)了高級(jí)內(nèi)存消歧，可為云等高性能、高利用率的多用戶環(huán)境提供高水平的一致性能、可預(yù)測性和可持續(xù)性。

此外，Ampere還在三個(gè)基礎(chǔ)領(lǐng)域引入了新的云功能，包括：

性能一致性為了提供性能的一致性，設(shè)計(jì)人員引入了網(wǎng)格擁塞管理（Mesh Congestion Management），可通過管理密集的192個(gè)核之間的流量來提升性能，內(nèi)存和SLC QoS實(shí)施功能負(fù)責(zé)管理緩存和內(nèi)存使用情況，在IaaS環(huán)境中創(chuàng)建了新功能的嵌套虛擬化技術(shù);

可管理性細(xì)粒度電源管理（Fine Grained Power Management）能夠幫助用戶更清楚地了解和管理處理器的能耗;高級(jí)Droop檢測可以更好地監(jiān)測電壓，節(jié)省電力;進(jìn)程老化監(jiān)測器可隨時(shí)間評(píng)估處理器的壓力，這些在持續(xù)有大量工作的大規(guī)模云環(huán)境中非常重要。

安全性通過添加安全虛擬化技術(shù)，提供了在多租戶環(huán)境中隔離工作負(fù)載的額外方法;單密鑰內(nèi)存加密和內(nèi)存標(biāo)簽（Memory Tagging）功能可保護(hù)內(nèi)存，防止未經(jīng)授權(quán)的參與者惡意讀取或是某一類的潛在攻擊，例如使用緩存溢出作為漏洞進(jìn)行的攻擊，同時(shí)也提高了針對(duì)數(shù)據(jù)庫等用途的應(yīng)用程序數(shù)據(jù)完整性，這是一個(gè)在傳統(tǒng)解決方案中罕見的關(guān)鍵功能示例。

Jeff Wittich提供的對(duì)比數(shù)據(jù)顯示，在云環(huán)境中運(yùn)行虛擬機(jī)（VM）時(shí)，與96核的AMD Genoa或者60核的英特爾Sapphire Rapids相比，AmpereOne每機(jī)架運(yùn)行的虛擬機(jī)數(shù)量是AMD Genoa的2.9倍，是英特爾Sapphire Rapids的4.3倍。

“AmpereOne系列處理器意味著“更多”——更多內(nèi)核、更多 IO、更多內(nèi)存、更高性能和更多云功能?！?Jeff Wittich表示，憑借8通道DDR5內(nèi)存和一個(gè)12通道的平臺(tái)，加上128通道的PCIe Gen5 IO，AmpereOne正在擴(kuò)展整個(gè)平臺(tái)，“是一款真正意義上的殺手級(jí)產(chǎn)品”。

推動(dòng)AI推理更上一層樓

雖然Ampere是CPU市場的新玩家，但早在兩年多前，Ampere就組建了專門的AI團(tuán)隊(duì)，開展針對(duì)AI的一系列創(chuàng)新。AmpereOne系列處理器除了現(xiàn)有的INT8、INT16、FP16支持，每核有配有兩個(gè)128位矢量單元以及BF16，可以高效地提供卓越的AI性能，賦能流媒體推薦、商品智能推薦、生成式AI等諸多應(yīng)用。

在生成式AI方面，相比AMD Genoa，AmpereOne可每秒多提供2.3倍的幀數(shù)，在運(yùn)行穩(wěn)定的擴(kuò)散模型中勝出。此外，在運(yùn)行DLRM模型的推薦系統(tǒng)中，通過AmpereOne響應(yīng)的查詢數(shù)量為每秒1，890萬條推薦計(jì)算，是AMD Genoa的每秒查詢數(shù)量的兩倍多。

Jeff Wittich表示，Ampere的產(chǎn)品不只適用于當(dāng)前常見的大型語言模型，也適用于過去幾年相對(duì)舊的模型。通過Ampere云原生處理器進(jìn)行AI推理，可獲得卓越的可擴(kuò)展性和性能，也打破了效率的瓶頸，而這正是令云服務(wù)提供商（CSPs）困擾的問題，因?yàn)槭褂?a href="http://ttokpm.com/tags/gpu/" target="_blank">GPU會(huì)帶來極高的能耗，而且容量擴(kuò)展和可部署的服務(wù)器數(shù)量也會(huì)受到限制。

三年前，Ampere收購了AI技術(shù)初創(chuàng)公司OnSpecta，相較于常用的基于CPU的機(jī)器學(xué)習(xí)框架，基于OnSpecta深度學(xué)習(xí)方案（DLS）的AI優(yōu)化引擎可帶來超過四倍的加速。。除了在軟件方面有所布局外，Ampere AI團(tuán)隊(duì)還和硬件團(tuán)隊(duì)、架構(gòu)團(tuán)隊(duì)在AmpereOne的特性上進(jìn)行優(yōu)化合作，包括支持BF16、FP16和其它數(shù)據(jù)格式，以確保其能夠成為AI開發(fā)人員使用的常見庫（Library）和工具。

比如一家名為Matoha的英國初創(chuàng)公司基于科學(xué)和工程專業(yè)知識(shí)開發(fā)了低成本的手持掃描儀，可以隨時(shí)隨地輕松識(shí)別塑料或織物，他們選擇了OCI和Ampere Altra AI計(jì)算實(shí)例在云上訓(xùn)練其機(jī)器學(xué)習(xí)算法。數(shù)據(jù)顯示，相較于其他處理器，Ampere云原生處理器的延遲降低了兩倍，在性價(jià)比方面可節(jié)省高達(dá)75%的成本。

采用Chiplet設(shè)計(jì)是AmpereOne處理器另一個(gè)值得關(guān)注的亮點(diǎn)。

在Jeff Wittich看來，Ampere在新芯片中大量采用Chiplet設(shè)計(jì)，帶來了至少兩方面的優(yōu)勢，一是具備更高的靈活度，二是加速了整個(gè)芯片的設(shè)計(jì)周期。同時(shí)，通過將System Level Cache放在了計(jì)算芯片（Compute Die）上，Ampere能夠幫助降低核與系統(tǒng)級(jí)緩存（System Level Cache，SLC）之間的延遲。這也是Ampere把極大的Mesh放在單個(gè)的計(jì)算芯片上的原因——可以幫忙避免造成訪問時(shí)間（Access Time）和系統(tǒng)級(jí)緩存之間的不平衡，或者造成某些核無法訪問系統(tǒng)級(jí)緩存。

結(jié)語

與Ampere Altra和Ampere Altra Max相比，AmpereOne系列處理器推出的目的并不是要取代前者，而是要在原有基礎(chǔ)之上實(shí)現(xiàn)持續(xù)擴(kuò)張。簡單而言，在邊緣計(jì)算場景，只需要部署32核、功耗40瓦的Ampere Altra處理器就可以了;但對(duì)大規(guī)模數(shù)據(jù)中心而言，擁有更多算力IO、內(nèi)存和帶寬的192核AmpereOne可能就是更好的選擇。

此外，用戶也不用擔(dān)心任何的兼容問題，因?yàn)锳mpereOne系列和Ampere Altra系列處理器均基于ARM ISA架構(gòu)，所有代碼和工作都能在兩類處理器上正常運(yùn)行，不需要任何改動(dòng)。Jeff Wittich說Ampere始終希望繼續(xù)擴(kuò)展生態(tài)合作，讓Ampere的產(chǎn)品面向更多用戶，能夠在公有云、私有云、企業(yè)、混合云、以及邊緣計(jì)算等多個(gè)場景中觸手可及。

編輯：黃飛