GTC23 | 眾人拾柴火焰高：100 多家 NVIDIA MLOps 和 AI 平臺(tái)合作伙伴幫助企業(yè)將 AI 投入生產(chǎn)

軟件提供商與 NVIDIA 一起幫助客戶(hù)建立更有效的 AI管線

開(kāi)發(fā) AI 應(yīng)用并不容易，而將它們應(yīng)用于業(yè)務(wù)之上，這個(gè)難度系數(shù)則變得更高。

根據(jù) IDC 最近的一項(xiàng)調(diào)查，在已經(jīng)開(kāi)始采用 AI 的企業(yè)中，只有不到三分之一的企業(yè)真正將 AI 投入生產(chǎn)。

企業(yè)往往要等到發(fā)布一個(gè)應(yīng)用之前，才能完全意識(shí)到運(yùn)行 AI 的復(fù)雜性。這些臨時(shí)發(fā)現(xiàn)的問(wèn)題似乎無(wú)法很快地得到解決，因此部署工作往往被擱置和遺忘。

為了幫助企業(yè)順利完成 AI 部署，100 多家機(jī)器學(xué)習(xí)運(yùn)維（MLOps）軟件提供商正在與 NVIDIA 開(kāi)展合作。這些 MLOps 領(lǐng)域的先鋒企業(yè)提供豐富的解決方案，幫助企業(yè)優(yōu)化他們的 AI 流程，包括現(xiàn)有運(yùn)行的以及重建的管線。

許多 NVIDIA MLOps 和 AI 平臺(tái)生態(tài)合作伙伴以及 DGX-Ready Software 合作伙伴，包括 Canonical、ClearML、Dataiku、Domino Data Lab、Run:ai 和 Weights & Biases 等在內(nèi)的公司，正在構(gòu)建與 NVIDIA 加速的基礎(chǔ)設(shè)施和軟件相集成的解決方案，以滿(mǎn)足企業(yè)的 AI 運(yùn)行需求。

包括亞馬遜云、谷歌云、微軟 Azure、甲骨文云等 NVIDIA 云服務(wù)提供商合作伙伴，以及阿里云等其他全球合作伙伴，也在提供簡(jiǎn)化 AI 部署的 MLOps 解決方案。

NVIDIA 領(lǐng)先的 MLOps 軟件合作伙伴均通過(guò) NVIDIA AI Enterprise 軟件套件的驗(yàn)證和認(rèn)證，該套件提供了一個(gè)用于創(chuàng)建和加速生產(chǎn)級(jí) AI 的端到端平臺(tái)。結(jié)合 NVIDIA AI Enterprise， NVIDIA MLOps 合作伙伴所提供的工具可以幫助企業(yè)成功開(kāi)發(fā)和部署 AI。

以下 NVIDIA MLOps 和 AI 平臺(tái)合作伙伴可以幫助企業(yè)啟動(dòng)和運(yùn)行 AI：

• Canonical：在加速大規(guī)模 AI 部署的同時(shí)，為 AI 的開(kāi)發(fā)開(kāi)放源碼。Canonical 宣布，部署在 NVIDIA DGX 系統(tǒng)單節(jié)點(diǎn)和多節(jié)點(diǎn)上的 Charmed Kubeflow 現(xiàn)已獲準(zhǔn)加入 DGX-Ready Software 計(jì)劃。Charmed Kubeflow 旨在實(shí)現(xiàn)機(jī)器學(xué)習(xí)工作流程的自動(dòng)化，它創(chuàng)建了一個(gè)可以將模型轉(zhuǎn)移到生產(chǎn)中的可靠應(yīng)用層。

• ClearML：提供一個(gè)用于持續(xù)機(jī)器學(xué)習(xí)的統(tǒng)一開(kāi)源平臺(tái)，覆蓋從實(shí)驗(yàn)管理、編排到性能提升以及 機(jī)器學(xué)習(xí) 的生產(chǎn)部署，受到全球 1,300 家企業(yè)團(tuán)隊(duì)的信任。通過(guò) ClearML，企業(yè)可以在個(gè)性化的運(yùn)算組織構(gòu)造上編排和安排工作。無(wú)論是在本地還是在云端，企業(yè)都可以實(shí)現(xiàn)基礎(chǔ)設(shè)施使用情況的完全可視化，同時(shí)減少計(jì)算、硬件和資源消耗，優(yōu)化成本和性能。現(xiàn)在，ClearML 的 MLOps 平臺(tái)已獲準(zhǔn)運(yùn)行 NVIDIA AI Enterprise，在整個(gè)工作流程中的效率將變得更高，能夠更好地優(yōu)化 GPU 性能。

• Dataiku：提供一個(gè)使數(shù)據(jù)和領(lǐng)域?qū)＜夷軌蛟谝黄饘?AI 融入到日常運(yùn)營(yíng)中的 Everyday AI 平臺(tái)。Dataiku 現(xiàn)已獲準(zhǔn)加入 NVIDIA DGX-Ready Software 計(jì)劃，因此企業(yè)可以放心地將 Dataiku MLOps 平臺(tái)與 NVIDIA DGX AI 超級(jí)計(jì)算機(jī)一起使用。

• Domino Data Lab：所提供的一站式管理平臺(tái)使全球最先進(jìn)的企業(yè)能夠在所有地區(qū)運(yùn)行基于任何云或本地計(jì)算集群中的數(shù)據(jù)科學(xué)和機(jī)器學(xué)習(xí)工作負(fù)載。Domino Cloud 是一項(xiàng)全新的全托管式 MLOps 平臺(tái)即服務(wù)，現(xiàn)在可用于快速、簡(jiǎn)單的大規(guī)模數(shù)據(jù)科學(xué)研究。Domino Data Lab 的平臺(tái)去年獲準(zhǔn)在 NVIDIA AI Enterprise 上運(yùn)行，它可以降低部署風(fēng)險(xiǎn)，并與 NVIDIA AI 實(shí)現(xiàn)可靠、高性能的集成。

• Run:ai：通過(guò)其 AI 計(jì)算平臺(tái) Atlas，在企業(yè)的 MLOps 和 AI 基礎(chǔ)設(shè)施堆棧中發(fā)揮基礎(chǔ)層作用。該平臺(tái)的自動(dòng)化資源管理功能使企業(yè)機(jī)構(gòu)能夠適當(dāng)整合在 Run:ai Atlas 上運(yùn)行的不同 MLOps 平臺(tái)與工具的資源。Run:ai 已獲準(zhǔn)提供 NVIDIA AI Enterprise，而且還完全集成了 NVIDIA Triton 推理服務(wù)器，最大程度地提高了 GPU 在 AI 賦能的環(huán)境中的利用率和價(jià)值。

• Weights & Biases（W&B）：幫助機(jī)器學(xué)習(xí)團(tuán)隊(duì)更快地構(gòu)建更好的模型。只需幾行代碼，從業(yè)者就可以立即調(diào)試、比較和復(fù)制他們的模型，同時(shí)與他們的團(tuán)隊(duì)成員開(kāi)展合作。W&B 得到了全球領(lǐng)先企業(yè)和研究機(jī)構(gòu) 50 多萬(wàn)名機(jī)器學(xué)習(xí)從業(yè)人員的信任。Weights & Biases 已獲準(zhǔn)提供 NVIDIA AI Enterprise，著眼于加速包括計(jì)算機(jī)視覺(jué)、自然語(yǔ)言處理和生成式 AI 的深度學(xué)習(xí)工作負(fù)載。

NVIDIA 云服務(wù)提供商合作伙伴已將 MLOps 集成其平臺(tái)，為數(shù)據(jù)處理、整理、訓(xùn)練和推理任務(wù)提供 NVIDIA 加速計(jì)算與軟件：

• 亞馬遜云：Amazon SageMaker for MLOps 使用 NVIDIA 加速計(jì)算幫助開(kāi)發(fā)人員在整個(gè)機(jī)器學(xué)習(xí)生命周期中實(shí)現(xiàn)流程的自動(dòng)化和標(biāo)準(zhǔn)化。通過(guò)訓(xùn)練、測(cè)試、排查、部署和治理機(jī)器學(xué)習(xí)模型提高生產(chǎn)力。

• 谷歌云：全托管式機(jī)器學(xué)習(xí)平臺(tái) Vertex AI 通過(guò)匯集大量特定功能，幫助加快機(jī)器學(xué)習(xí)的部署速度。通過(guò) NVIDIA GPU 為各種 AI 工作負(fù)載提供優(yōu)化，Vertex AI 的端到端 MLOps 能力使機(jī)器學(xué)習(xí)的大規(guī)模訓(xùn)練、編排、部署和管理變得更加容易。Vertex AI 還支持各種領(lǐng)先的邊緣解決方案，比如最大程度地提高性能并簡(jiǎn)化模型大規(guī)模部署的 NVIDIA Merlin 等。谷歌云和 NVIDIA 合作，將 Triton 推理服務(wù)器作為谷歌云的全托管式模型服務(wù)平臺(tái)——Vertex AI Prediction 的后臺(tái)。

• Azure：通過(guò) NVIDIA 加速的 Azure Machine Learning 機(jī)器學(xué)習(xí)云平臺(tái) 統(tǒng)一了機(jī)器學(xué)習(xí)模型的開(kāi)發(fā)和運(yùn)維（DevOps），還將 DevOps 原則與實(shí)踐，比如持續(xù)集成、交付和部署等，應(yīng)用于機(jī)器學(xué)習(xí)的流程，以加速將 Azure 機(jī)器學(xué)習(xí)模型部署到生產(chǎn)環(huán)境中的實(shí)驗(yàn)、開(kāi)發(fā)和生產(chǎn)部署。Azure Machine Learning 通過(guò)內(nèi)置的負(fù)責(zé)任 AI 工具提供質(zhì)量保證，幫助機(jī)器學(xué)習(xí)專(zhuān)業(yè)人士開(kāi)發(fā)公平、可解釋和負(fù)責(zé)任的模型。

• Oracle Cloud：Oracle Cloud Infrastructure（OCI）AI Services 是一個(gè)提供預(yù)制機(jī)器學(xué)習(xí)模型的服務(wù)集，它能夠幫助開(kāi)發(fā)人員方便地在其應(yīng)用和業(yè)務(wù)運(yùn)營(yíng)中使用NVIDIA 加速的 AI。企業(yè)內(nèi)部的團(tuán)隊(duì)可以在各項(xiàng)服務(wù)中重復(fù)使用這些模型、數(shù)據(jù)集和數(shù)據(jù)標(biāo)簽。OCI AI Services 使開(kāi)發(fā)人員在不減慢應(yīng)用開(kāi)發(fā)的同時(shí)，輕松將機(jī)器學(xué)習(xí)植入應(yīng)用成為可能。

• 阿里云：阿里云機(jī)器學(xué)習(xí)平臺(tái) PAI 提供一站式的機(jī)器學(xué)習(xí)服務(wù)，提供高性能的解決方案并減少對(duì)用戶(hù)的技術(shù)技能的要求。在 NVIDIA 技術(shù)的加速下，阿里云機(jī)器學(xué)習(xí)平臺(tái) PAI 使企業(yè)能夠快速建立和部署機(jī)器學(xué)習(xí)實(shí)驗(yàn)以達(dá)成業(yè)務(wù)目標(biāo)。

掃描海報(bào)二維碼，或點(diǎn)擊“閱讀原文”，即可觀看 NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛 GTC23 主題演講重播！