云原生處理器給Azure虛擬機帶來了哪些優(yōu)勢

Ampere Altra 系列云原生處理器在處理流行的云原生工作負載時具有杰出的領(lǐng)導(dǎo)地位，不久前我們曾發(fā)表相關(guān)文章，重點講述了 Ampere 的領(lǐng)先優(yōu)勢如何在原始性能上實現(xiàn)突破性的提升，向大家展示了其可擴展性以及顯著的能效優(yōu)勢；在同樣的峰值工作負載下，Ampere Altra Max 云原生處理器的功耗僅為傳統(tǒng) x86 處理器的一半。這種極具顛覆性的優(yōu)勢使 Ampere Altra 系列成為現(xiàn)代云基礎(chǔ)設(shè)施中最具可持續(xù)性的處理器。?

今年9月1日，微軟發(fā)布了基于 Ampere Altra 云原生處理器的 Azure 虛擬機（VM）。本文將通過微軟 Azure 虛擬機上運行的一些類似的云原生工作負載，展示 Ampere Altra 云原生處理器的領(lǐng)導(dǎo)地位。盡管我們之前的數(shù)據(jù)已經(jīng)展示了 Ampere Altra Max 裸金屬服務(wù)器的高性能與高能效，但全球大多數(shù)客戶將首先通過基礎(chǔ)設(shè)施即服務(wù)（IaaS，如微軟 Azure 提供的服務(wù)）訪問 Ampere Computing 開創(chuàng)性的云原生處理器。終端用戶只需租用配備了 Ampere Altra 云原生處理器的虛擬機實例，就可以體驗到 Ampere Altra 所帶來的優(yōu)勢。現(xiàn)在，讓我們來具體了解一下優(yōu)勢究竟有哪些。

原始性能與性價比

本文將從原始性能和性價比兩方面進行比較。其中，裸機比較展示的是原始性能和每瓦性能，突出了采用 Ampere 云原生處理器在助力可持續(xù)性方面的領(lǐng)先優(yōu)勢。在性價比方面，當(dāng)客戶從我們的云合作伙伴（如微軟）租用 Ampere 虛擬機時，不僅能節(jié)約成本，能效優(yōu)勢也依舊凸顯。更低的電力成本不但能助力構(gòu)建可持續(xù)性更高的算力基礎(chǔ)設(shè)施（例如減少碳足跡），還可以降低基礎(chǔ)設(shè)施橫向擴展時產(chǎn)生的平臺相關(guān)擁有成本與運行成本。

訪問云端服務(wù)器常常要通過虛擬機。虛擬機有各種規(guī)格與形態(tài)，可以適應(yīng)云端大量的應(yīng)用程序和用例。此外，云虛擬機還有不同的標(biāo)準配置可供比較；這不同于我們在實驗室中常進行的裸機比較。

在談及數(shù)據(jù)之前，需要首先強調(diào)一下在比較云虛擬機性能時可能看到，但容易忽略的差異：

測試云端虛擬機鏡像時，我們使用了 Azure 提供的標(biāo)準規(guī)格。即?16 個 vCPU?的實例，這種虛擬機規(guī)格在云端最受歡迎。

在云端部署虛擬機時，需要注意不同架構(gòu)之間 vCPU 的差異。傳統(tǒng) x86 虛擬機的每個內(nèi)核有 2 個 vCPU，而? Ampere Altra 虛擬機使用單線程內(nèi)核，即每個內(nèi)核擁有 1 個 vCPU。這意味著，部署基于 Ampere Altra 的虛擬機，您將在虛擬機規(guī)格類似的條件下擁有 2 倍的內(nèi)核數(shù)量。

根據(jù)現(xiàn)有的可適用 Azure 服務(wù)列表，我們使用了存儲和網(wǎng)絡(luò)中的等效服務(wù)。

為實現(xiàn)同等產(chǎn)品的比較，本文收集和顯示的所有數(shù)據(jù)都通過運行搭載 16 個? vCPU 的虛擬機獲得。

我們測試的虛擬機如下表所示。

除了為每種工作負載收集的原始性能數(shù)據(jù)以外，我們還用已發(fā)布的按需定價信息（即用即付）計算了在 Azure 虛擬機上運行特定工作負載的總價格。定價信息來源于 Azure 官網(wǎng)，信息可能會有變動。

性價比值 = （在同等規(guī)格的虛擬機上提供同等服務(wù)時，所運行工作負載測得的綜合性能優(yōu)勢） * （每種可比較虛擬機的成本優(yōu)勢）

現(xiàn)在讓我們聚焦收集到的數(shù)據(jù)。以下所列的工作負載均為實際服務(wù)安裝中流行的云原生工作負載，因此它們代表了多數(shù)終端客戶在公有云基礎(chǔ)設(shè)施中部署的工作負載。

Web 服務(wù)

首先來看 NGINX，這是一種非常流行的 HTTP Web 服務(wù)器。我們已經(jīng)展示過 NGINX 在 Socket 層面如何在原始性能和能效方面都遠超傳統(tǒng) x86 生態(tài)。而在具有 16 個 vCPU 的虛擬機方面，可以看出 Ampere Altra 的性能優(yōu)勢及其價格優(yōu)勢（與上述提及的能效相關(guān)）；與英特爾的 Dsv5 和 AMD 的 Dasv5 相比，Ampere 的虛擬機性價比高達 30%（此處的性能和性價比的比較是相對于 Intel 的 Dsv5 虛擬機而言）。

內(nèi)存緩存

Memcached 是一種廣泛應(yīng)用的存內(nèi)鍵值儲存，在它身上，我們也看到了類似的結(jié)果。對內(nèi)存緩存而言，在我們測試范圍內(nèi)的 8 至 16 個 vCPU 的虛擬機很常見，而我們測得的整體性能值對包含緩存層的微服務(wù)等工作負載非常有吸引力。通過測試，我們得到的?Ampere 性價比相較于 Intel 的 Dsv5 虛擬機高 30%，比 AMD 的 Dasv5 虛擬機高 43%。

視頻服務(wù)

視頻編碼被認為是許多云服務(wù)的大宗應(yīng)用程序，視頻編碼因此也成為一種高容量和高度優(yōu)化的工作負載。就算法優(yōu)化和編解碼器效率而言，Arm 生態(tài)系統(tǒng)已經(jīng)占據(jù)有利地位。

基于此，在視頻上傳（Video Upload）和視頻點播（VoD）這兩個場景中，我們利用 x.264 編碼庫在 vBench 上運行媒體編碼。在 Ampere 的虛擬機中，這兩種場景的測試非常類似，因此我們僅展示上傳場景的數(shù)據(jù)。該場景采用了不會降低輸入視頻質(zhì)量的單程轉(zhuǎn)碼，這也表明了視頻服務(wù)的初始上傳編碼對速度和質(zhì)量有所要求。測試結(jié)果顯示，16 個 vCPU 的 Ampere 虛擬機與傳統(tǒng) x86 虛擬機的性能大致相當(dāng)；但根據(jù)公布的定價來看，性價比提高了 30%。

AI 推理

最后我們來看 AI 推理基準測試。

隨著人工智能成為許多網(wǎng)絡(luò)和獨立服務(wù)不可或缺的組成部分，機器學(xué)習(xí)在云端消耗的周期越來越多。Ampere 為此編譯了一個易于使用的堆棧，以加速計算機視覺、自然語言處理和推薦引擎用例中的典型 AI 工作負載。Ampere AI 再將此加速層與常見的開源 AI 框架（例如 TensorFlow、PyTorch 和 ONNX）相結(jié)合。其美妙之處就在于，用戶可以自由選擇與其框架兼容的模型，并運行于 Ampere 云原生處理器的優(yōu)化流程之中。用戶無需對模型進行任何更改即可完成任務(wù)，同時，借助 Ampere 處理器的獨特功能，例如 fp16 這種數(shù)據(jù)格式，可以得到普通 fp32 格式約 2 倍的性能，但精度幾乎無損失。上述常見 AI 框架的免費鏡像在 Ampere 解決方案網(wǎng)站上都可以找到，Azure 市場上也會很快推出。

利用一組通用的基準測試，我們使用 MLPerf Resnet50 v1.5 比較了 AI 推理在單流和離線場景中的表現(xiàn)。這些場景代表了數(shù)據(jù)中心圖像分類中最常見的用例，分別反映了延遲敏感度（一次一幀或一張圖像）和批量吞吐量（盡可能多地并行返回）操作。在 D16ps v5 虛擬機上進行這些基準測試，基于帶 Ampere AI 容器鏡像的 TensorFlow 2.7 框架運行，同時采用 FP16 數(shù)據(jù)格式；再用傳統(tǒng) x86 進行這些基準測試，基于帶 DNNL 的 TensorFlow 2.7 框架，并采用 fp32 數(shù)據(jù)格式。將二者進行比較，結(jié)果表明，采用所述格式進行的 Ampere 測試，其模型精度非常高。與傳統(tǒng) x86 虛擬機相比，Ampere AI 技術(shù)的性能提升超過 2 倍，而性價比更是超越 2 到 3 倍！

結(jié)語

無論是部署新的 Web 服務(wù)，還是優(yōu)化人工智能、視頻編碼、數(shù)據(jù)管理與分析中等現(xiàn)有服務(wù)，云端開發(fā)人員都可以選擇成本更低但性能更高的方案，取代目前廣泛使用的傳統(tǒng)基礎(chǔ)設(shè)施。過去，低價代表著低性能。但現(xiàn)在，這種情況已不復(fù)存在！微軟 Azure 的用戶不再需要做出取舍，魚與熊掌可以兼得。更令人欣慰的是，這樣做不但能極大地節(jié)省成本，而且不以犧牲性能為代價，還可以節(jié)能減排。

審核編輯：劉清