192個自研核心，AmpereOne的絕對性能壓制

在亞馬遜、英偉達和阿里巴巴等廠商紛紛圍繞Arm Neoverse架構(gòu)打造服務(wù)器處理器之際，Ampere Computing選擇了一條與眾不同的路線，自研核心。近日，Ampere宣布推出全新的AmpereOne系列處理器，可配置多達192個核心，且這些都是基于Ampere自有IP打造的自研核心。

Ampere Altra到AmpereOne，Ampere的自研之路

Ampere Altra與AmpereOne對比 / Ampere Computing 憑借前兩代Ampere Altra系列產(chǎn)品80核Ampere Altra和128核Ampere Altra Max，Ampere成了在Arm服務(wù)器CPU領(lǐng)域的先行者之一。主流的大型云服務(wù)廠商（CSP）都已經(jīng)推出了基于這兩款CPU的服務(wù)器，如京東云就在近日推出了其首款基于Arm架構(gòu)的云主機，搭載的正是Ampere Altra Max CPU。 CSP廠商紛紛擁抱Arm的原因很簡單，高并發(fā)、高算力和更低的價格，為上云提供了極具性價比的選擇。但如何做好差異化，是每個Arm服務(wù)器CPU廠商都需要思考的問題，比如英偉達選擇了與自己的GPU結(jié)合打造Grace Hopper這樣的SuperChip。 而擁有Arm ISA架構(gòu)授權(quán)的Ampere選擇了從微架構(gòu)上進一步創(chuàng)新，打造自研的Arm云原生核，從絕對性能和可擴展性上超越同類產(chǎn)品。單個AmpereOne CPU的可配置核心已經(jīng)達到192個，比上一代的Ampere Altra Max多出了50%，內(nèi)核數(shù)為業(yè)界最高。 這意味著基于AmpereOne CPU的單機架性能將再創(chuàng)新高，為了匹配新CPU強大計算能力，AmpereOne還采用了8通道DDR5、128通道PCIe 5.0和更大私有緩存的設(shè)計，斷絕了內(nèi)存帶寬和I/O性能上出現(xiàn)瓶頸的可能。針對高速增長的云原生應(yīng)用，AmpereOne還集成了一系列新特性，包括網(wǎng)格擁塞管理、細粒度電源管理和內(nèi)存標(biāo)簽等。Ampere表示，AmpereOne將幫助該公司進一步擴大在每機架性能方面的優(yōu)勢。 Ampere首席產(chǎn)品官Jeff Wittich：“192 核是一個非常大的數(shù)字，比英特爾和 AMD 要多很多。用一個具體的場景來說明，在云環(huán)境中運行虛擬機時，用192核的AmpereOne對比96核的AMD Genoa，或者60核的英特爾Sapphire Rapids，AmpereOne每機架運行的虛擬機數(shù)量是AMD Genoa的2.9倍，是英特爾Sapphire Rapids的4.3倍?！?/p>

AmpereOne發(fā)力Chiplet與AI推理

得益于工藝的進步和架構(gòu)的創(chuàng)新，AmpereOne能做到如此規(guī)格似乎并不意外，但能在Ampere Altra Max面世后的短時間內(nèi)推出這樣一個“性能怪獸”，其實也離不開在設(shè)計方法上的轉(zhuǎn)變。從AmpereOne的架構(gòu)可以看出，與此前Ampere Altra系列不同的是，新的處理器轉(zhuǎn)為采用Chiplet設(shè)計。近來不少先進芯片設(shè)計中都采用了這一技術(shù)，電子發(fā)燒友網(wǎng)也就這一轉(zhuǎn)變詢問了Ampere，Chiplet究竟有何助力，是否加快了芯片設(shè)計周期？ Jeff Wittich指出：“綜合而言，我們在Ampere中轉(zhuǎn)為大量采用小芯片帶來了許多的優(yōu)勢，其中第一點就是能夠有更高的靈活度，第二點就是如問題中提到的，幫助我們加快了整個芯片設(shè)計周期。在采用了Chiplet架構(gòu)之后，產(chǎn)品的TTM也會隨之縮短，還可以提供更高的可擴展性，從而提供現(xiàn)代云原生CPU的最佳性能。第三，Chiplet拓撲的設(shè)計也可以使AmpereOne更輕易地實現(xiàn)內(nèi)存到內(nèi)核的訪問，而不需要為處理器引入額外的HOPs?！?另外值得注意的一點是，在早前的Ampere Altra系列CPU中，雖然也可以用于AI推理，但從CSP已發(fā)布服務(wù)器的定位來看，其主要還是用于Web服務(wù)、視頻編解碼以及云游戲等非AI應(yīng)用上。而此次發(fā)布的AmpereOne，則在AI計算上加大了力度。

AI推理性能對比 / Ampere 從性能對比上，我們可以看出AmpereOne在AI推理負載上的領(lǐng)先，比如在生成式AI和推薦算法上，AmpereOne的單機架性能是AMD EYPC 9654 Genoa的兩倍或以上，但兩者卻有著近乎相同的系統(tǒng)功耗，AmpereOne的優(yōu)勢在此展現(xiàn)得一覽無余。 這與Ampere自身的發(fā)展以及行業(yè)趨勢也緊密相關(guān)，AI負載已經(jīng)成為云端最大的算力需求之一。而Ampere除了解決了AI硬件的問題外，也在布局AI軟件生態(tài)。比如2020年，Ampere收購了專注于打造AI軟件的OnSpecta，通過軟硬件協(xié)同優(yōu)化，為AmpereOne提供卓越的AI性能，比如對BF16精度的支持等等。

解決性能與能效的矛盾

服務(wù)器CPU的能效象限 / Ampere Computing 在Ampere公布今年的路線圖時，創(chuàng)始人/董事長兼首席執(zhí)行官Renée J. James表示：“Ampere已經(jīng)向行業(yè)證明，擊破單核性能與能耗之間的矛盾正是行業(yè)所有人都在尋找的新象限。在能耗與性能的坐標(biāo)軸之中，朝坐標(biāo)軸的右下方移動是行業(yè)發(fā)展的新常態(tài)，目的是實現(xiàn)更低的能耗和更高的性能?！?針對云計算的需求，在設(shè)計產(chǎn)品的過程中，Ampere借助Arm架構(gòu)的優(yōu)勢，綜合考量從核、SoC到其他方面的因素，致力于實現(xiàn)每瓦性能、每機架性能的提升。對比x86架構(gòu)的CPU，Ampere Altra系列的的云原生處理器可以實現(xiàn)每機架2.5倍的性能提升，降低能耗2.8倍，并僅占用1/3的空間。而新發(fā)布的AmpereOne將幫助Ampere進一步擴大領(lǐng)先優(yōu)勢。 Jeff Wittich表示：“其實我們Ampere Altra系列處理器已經(jīng)提供了行業(yè)領(lǐng)先的單機架性能，在能效方面已經(jīng)是行業(yè)標(biāo)桿性的產(chǎn)品。不僅是在性能方面，在能效方面我們也是領(lǐng)先AMD和英特爾所有的產(chǎn)品，即使是他們近期發(fā)布的低功耗產(chǎn)品。”

寫在最后

誠然，對于大部分服務(wù)器CPU而言，面向的客戶都是CSP和服務(wù)器OEM廠商，而他們提高競爭力的方式之一即提供差異化的高質(zhì)量方案。不少Arm服務(wù)器CPU，雖然都在設(shè)計上做了差異化，但計算核心的性能并未拉開太大差距。Ampere選擇了自研云原生核的方式，既滿足了更高性能的需求，也解決了他們的另一大痛點，可擴展性與規(guī)?；?。 成立5年多來，Ampere，已經(jīng)在x86壟斷的服務(wù)器市場占領(lǐng)了一席之地。在一切背后，是Ampere 認為云需要一種從本質(zhì)上而言完全不同的方法。隨著所有的計算轉(zhuǎn)移到云端，整個平臺的云原生化趨勢不可避免，而Ampere正在做的就是為云原生進行徹底的CPU創(chuàng)新。