全新NVIDIA Base Command功能說(shuō)明

新一批創(chuàng)新企業(yè)開(kāi)始基于 DGX 系統(tǒng)、Base Command 和 DGX SuperPOD 來(lái)實(shí)現(xiàn) AI，包括 Adept AI、現(xiàn)代汽車集團(tuán)、KT 和威斯康星大學(xué)麥迪遜分校。

在GTC 大會(huì)上，NVIDIA 公布了DGX 產(chǎn)品系列的多項(xiàng)更新，有望推動(dòng)企業(yè)級(jí) AI 開(kāi)發(fā)實(shí)現(xiàn)新突破。

NVIDIA DGX H100 系統(tǒng)現(xiàn)已提供訂購(gòu)。這些基礎(chǔ)設(shè)施的基礎(chǔ)構(gòu)建模塊支持 NVIDIA 的全棧企業(yè)級(jí) AI 解決方案。

NVIDIA DGX H100 在 FP8 精度下提供 32 petaflop 的性能，將能大幅提升企業(yè)級(jí) AI 開(kāi)發(fā)的效率。與上一代系統(tǒng)相比，DGX H100 的總體擁有成本降至1/3，能效提高 3.5 倍。

新的 NVIDIA Base Command 軟件可簡(jiǎn)化和加速 AI 開(kāi)發(fā)，有力支持從單節(jié)點(diǎn)到 DGX SuperPOD 的各種 DGX 系統(tǒng)高效運(yùn)行。

此外，NVIDIA DGX BasePOD（DGX POD 的進(jìn)階版）也揭開(kāi)了面紗，它使 IT 團(tuán)隊(duì)能更快速輕松地獲得、部署和管理企業(yè)級(jí)數(shù)據(jù)中心 AI。

全球許多 AI 領(lǐng)軍企業(yè)都在使用 NVIDIA DGX 系統(tǒng)和軟件，致力于尋求技術(shù)突破（從自動(dòng)駕駛汽車到語(yǔ)音助手），且從未放緩創(chuàng)新的步伐。

全新 NVIDIA Base Command 功能

NVIDIA Base Command 提供企業(yè)級(jí)編排和集群管理功能，并且包含完整的軟件棧，以盡可能地提高 AI 開(kāi)發(fā)者的工作效率、IT 可管理性和工作負(fù)載性能。

Base Command 的工作流管理功能現(xiàn)在包含對(duì)本地 DGX SuperPOD 環(huán)境的支持，使企業(yè)能通過(guò)簡(jiǎn)化的項(xiàng)目團(tuán)隊(duì)協(xié)作、集成的監(jiān)控和報(bào)告面板來(lái)集中控制 AI 開(kāi)發(fā)項(xiàng)目。

Base Command 與 NVIDIA AI Enterprise 軟件套件配合使用，該套件現(xiàn)已包含在所有 DGX 系統(tǒng)中。借助此 NVIDIA AI 軟件，客戶可以使用其所支持的 AI 和數(shù)據(jù)科學(xué)工具、優(yōu)化的框架和預(yù)訓(xùn)練模型，進(jìn)行端到端 AI 開(kāi)發(fā)和部署。

另外，此軟件還能與以下公司的企業(yè)工作流管理和 MLOps 工具進(jìn)行集成：DGX-Ready 軟件提供商 Domino Data Lab、Run.ai、Weights & Biases，以及NVIDIA初創(chuàng)加速計(jì)劃成員 Rescale。此軟件還包含多個(gè)庫(kù)，不僅能優(yōu)化和加速計(jì)算、存儲(chǔ)和網(wǎng)絡(luò)基礎(chǔ)設(shè)施，還能確保盡可能地延長(zhǎng)系統(tǒng)的正常運(yùn)行時(shí)間、安全性和可靠性。

全新 DGX BasePOD 參考架構(gòu)

DGX BasePOD 為 DGX 系統(tǒng)提供參考架構(gòu)，該架構(gòu)融合了集成計(jì)算、網(wǎng)絡(luò)、存儲(chǔ)和軟件方面的最佳設(shè)計(jì)實(shí)踐。

客戶已經(jīng)使用 NVIDIA DGX POD 來(lái)推動(dòng)各種企業(yè)應(yīng)用的開(kāi)發(fā)。DGX BasePOD 基于DGX POD 的成功，其新型行業(yè)解決方案瞄準(zhǔn)了 AI 領(lǐng)域的巨大機(jī)遇，包括自然語(yǔ)言處理、醫(yī)療健康和生命科學(xué)以及欺詐檢測(cè)。

DGX BasePOD 解決方案通過(guò) NVIDIA 合作伙伴網(wǎng)絡(luò)，作為完全集成、可隨時(shí)部署的產(chǎn)品提供給客戶，其規(guī)模介于兩個(gè)到數(shù)百個(gè) DGX 系統(tǒng)之間，并采用由以下 NVIDIA DGX 存儲(chǔ)技術(shù)合作伙伴開(kāi)發(fā)的認(rèn)證高性能存儲(chǔ)技術(shù)：DDN、戴爾、NetApp、Pure Storage、VAST Data 和 WEKA 等。

領(lǐng)軍企業(yè)借助 DGX 系統(tǒng)推動(dòng) AI 開(kāi)發(fā)實(shí)現(xiàn)突破

世界各地的許多企業(yè)都選擇 NVIDIA DGX 系統(tǒng)來(lái)有效運(yùn)行其高級(jí) AI 工作負(fù)載。以下是在 DGX A100 系統(tǒng)上開(kāi)發(fā)任務(wù)關(guān)鍵型 AI 功能的部分 AI 創(chuàng)新者：

機(jī)器學(xué)習(xí)研究和產(chǎn)品實(shí)驗(yàn)室 Adept 正在打造基于大型語(yǔ)言模型的 AI 團(tuán)隊(duì)成員，其原型基于 NVIDIA DGX Foundry 開(kāi)發(fā)，然后利用 Oracle Cloud Infrastructure上的 NVIDIA A100 GPU 和 NVIDIA Megatron 進(jìn)行擴(kuò)展。

現(xiàn)代汽車集團(tuán)正使用 40 個(gè)節(jié)點(diǎn)的 DGX SuperPOD，探索研究超大規(guī)模 AI 工作負(fù)載。

電信公司 KT 正在使用 NVIDIA NeMo Megatron 框架、NVIDIA DGX SuperPOD 和 NVIDIA Base Command 軟件，為各種韓語(yǔ)應(yīng)用（包括 GiGA Genie 智能揚(yáng)聲器）開(kāi)發(fā)一個(gè)包含大約 400 億參數(shù)的 LLM。

威斯康星大學(xué)麥迪遜分校正在將 NVIDIA DGX 系統(tǒng)與 Flywheel 研究平臺(tái)以及 NVIDIA Clara 醫(yī)療健康應(yīng)用框架一起使用，致力于快速將 AI 引入到醫(yī)學(xué)成像設(shè)備中。該大學(xué)與其他醫(yī)院合作，使用 NVIDIA 聯(lián)邦學(xué)習(xí)應(yīng)用運(yùn)行時(shí)環(huán)境 (NVIDIA FLARE) 在 DGX 系統(tǒng)上安全地訓(xùn)練用于醫(yī)學(xué)成像、標(biāo)注數(shù)據(jù)和分類的 AI 模型。

審核編輯：湯梓紅