Microsoft Azure推出VIDIA A100 GPU VM系列

近日 Microsoft Azure 宣布正式推出 ND A100 v4 VM 系列，這是適用于超級(jí)計(jì)算級(jí) AI 和 HPC 負(fù)載的強(qiáng)大虛擬機(jī)，由 NVIDIA A100 Tensor Core GPU 和 NVIDIA HDR InfiniBand 提供支持。

NVIDIA 與 Azure 合作構(gòu)建了這款新的縱向擴(kuò)展和橫向擴(kuò)展 AI 平臺(tái)，整合了開創(chuàng)性 NVIDIA Ampere 架構(gòu) GPU、NVIDIA 網(wǎng)絡(luò)技術(shù)以及 Azure 高性能互聯(lián)和虛擬機(jī)網(wǎng)絡(luò)的強(qiáng)大功能，讓人人都能使用 AI 超級(jí)計(jì)算。

在應(yīng)對(duì) AI 和高性能計(jì)算面臨的巨大挑戰(zhàn)時(shí)，規(guī)模是重中之重。得益于加速計(jì)算，自然語言處理、推薦系統(tǒng)、醫(yī)療健康研究、藥物研發(fā)和能源以及其他領(lǐng)域均取得了巨大進(jìn)展。

大部分進(jìn)展源自大規(guī)模運(yùn)行的應(yīng)用程序。為加速這一趨勢(shì)，應(yīng)用程序所基于的運(yùn)行架構(gòu)必須靈活易用，并且可以縱向擴(kuò)展和橫向擴(kuò)展。

ND A100 v4 VM 在單個(gè) VM 中匯集了八個(gè) NVIDIA A100 GPU，并且搭載 NVIDIA HDR InfiniBand，使每個(gè) GPU 都獲得 200 Gb/s 的數(shù)據(jù)帶寬。總體每個(gè) VM 的互聯(lián)帶寬高達(dá) 1.6 Tb/s。

對(duì)于要求嚴(yán)苛的 AI 和高性能計(jì)算工作負(fù)載，可以進(jìn)一步擴(kuò)展為數(shù)千個(gè) NVIDIA A100 GPU 規(guī)模同時(shí)維持相同的超低延遲 InfiniBand 網(wǎng)絡(luò)，為多節(jié)點(diǎn)分布式計(jì)算提供強(qiáng)大的計(jì)算和網(wǎng)絡(luò)功能。

適合開發(fā)者

開發(fā)者有多種選擇，可通過 ND A100 v4 VM 中的 NVIDIA A100 GPU 為其應(yīng)用程序提供出色性能，這些應(yīng)用程序部署后，既用于應(yīng)用程序開發(fā)，也用于管理基礎(chǔ)設(shè)施。

為簡化和加速開發(fā)，NVIDIA NGC 目錄提供即用型 GPU 優(yōu)化應(yīng)用程序框架、容器、預(yù)訓(xùn)練模型、庫、SDK 和 Helm 圖表。借助 Azure Marketplace 上適用于 AI 和高性能計(jì)算的預(yù)構(gòu)建 NVIDIA GPU 優(yōu)化鏡像，開發(fā)者只需單擊幾下即可開始從 NGC 目錄使用 GPU 加速軟件。

ND A100 v4 VM 還支持在 Azure 機(jī)器學(xué)習(xí)服務(wù)中使用，適用于交互式 AI 開發(fā)、分布式訓(xùn)練、批量推理和 ML 運(yùn)算自動(dòng)化。

使用 ND A100 v4 VM 在生產(chǎn)環(huán)境中部署機(jī)器學(xué)習(xí)管線，這一流程因 NVIDIA Triton 推理服務(wù)器而得到進(jìn)一步簡化。NVIDIA Triton 推理服務(wù)器是一款開源推理服務(wù)應(yīng)用程序，與 Azure ML 集成，可更大限度地提高 GPU 和 CPU 的性能和利用率，從而將部署運(yùn)營成本降至更低。

開發(fā)者和基礎(chǔ)設(shè)施經(jīng)理很快也能使用 Azure Kubernetes Service，這是一項(xiàng)完全托管的 Kubernetes 服務(wù)，用于部署和管理 ND A100 v4 VM（支持 NVIDIA A100 GPU）上的容器化應(yīng)用程序。

更多相關(guān)信息，請(qǐng)點(diǎn)擊“閱讀原文”，觀看《Azure：借助勢(shì)頭正勁的 AI 和高性能計(jì)算賦能世界》 GTC21 主題演講。

原文標(biāo)題：Microsoft Azure 宣布正式推出 NVIDIA A100 GPU VM

文章出處：【微信公眾號(hào)：NVIDIA英偉達(dá)】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。

責(zé)任編輯：haq