基于NVIDIAGPU定制優(yōu)化的NGC飛槳容器

在過(guò)去的半年里，NVIDIA 與百度飛槳緊密合作，針對(duì)用戶的多層次需求，雙方聯(lián)合開(kāi)發(fā)了三大主要產(chǎn)品：

基于 NVIDIA GPU 定制優(yōu)化的 NGC 飛槳容器，包含了最新的 NVIDIA 工具包和優(yōu)化后的飛槳版本，致力于為開(kāi)發(fā)者提供最佳的開(kāi)發(fā)環(huán)境。

GitHub 上 NVIDIA Deep Learning Examples[1] 倉(cāng)庫(kù)向用戶提供易于訓(xùn)練和部署的飛槳模型示例。

在 NVIDIA 深度學(xué)習(xí)培訓(xùn)中心 DLI Course[2]，NVIDIA 與飛槳共建的系列免費(fèi)課程及聯(lián)名認(rèn)證證書(shū)也即將上線，旨在幫助大家提高訓(xùn)推性能并簡(jiǎn)化代碼。(課程預(yù)計(jì)下半年與大家見(jiàn)面)

容器是什么？為什么要使用容器？

容器包含了深度學(xué)習(xí)框架在運(yùn)行時(shí)所需的所有部件（包括驅(qū)動(dòng)，工具包等），被認(rèn)為是在同一環(huán)境中實(shí)現(xiàn)“構(gòu)建、測(cè)試、部署”的最佳平臺(tái)。因?yàn)樗哂休p量化與可復(fù)制性、打包和執(zhí)行環(huán)境合二為一以及簡(jiǎn)化應(yīng)用程序部署的優(yōu)勢(shì)。容器允許我們創(chuàng)建標(biāo)準(zhǔn)化可復(fù)制的輕量級(jí)開(kāi)發(fā)環(huán)境，擺脫來(lái)自 Hypervisor 所帶來(lái)運(yùn)行開(kāi)銷。應(yīng)用程序可以基于 Container Runtime 運(yùn)行在“任意”系統(tǒng)中。

為什么要開(kāi)發(fā) NGC 飛槳容器?

根據(jù)多份市場(chǎng)調(diào)研報(bào)告顯示，飛槳已位居中國(guó)深度學(xué)習(xí)平臺(tái)市場(chǎng)首位，并構(gòu)建了全球前三、中國(guó)第一的 AI 開(kāi)發(fā)者生態(tài)。如何確保龐大規(guī)模的飛槳開(kāi)發(fā)者，尤其是采用 NVIDIA 平臺(tái)的飛槳用戶持續(xù)獲得最佳的開(kāi)發(fā)體驗(yàn)，始終是飛槳和 NVIDIA 團(tuán)隊(duì)共同關(guān)注的話題。

飛槳和 NVIDIA 團(tuán)隊(duì)從與開(kāi)發(fā)者用戶的持續(xù)交流中，收集到了一些使用上的痛點(diǎn)需求。比如，在提供 NGC 飛槳容器前，飛槳用戶如果希望使用 NVIDIA 最新軟件棧進(jìn)行開(kāi)發(fā)、訓(xùn)練、部署，需要做大量的手動(dòng)配置工作，這對(duì)不少用戶而言是一個(gè)巨大的工程挑戰(zhàn)。

針對(duì)這些需求，NVIDIA 與百度飛槳聯(lián)合開(kāi)發(fā)了 NGC 飛槳容器，將最新的飛槳與最新的 NVIDIA 的軟件棧進(jìn)行了無(wú)縫的集成與性能優(yōu)化，最大程度的釋放飛槳框架在 NVIDIA 最新硬件上的計(jì)算能力。這樣，用戶不僅可以快速開(kāi)啟 AI 應(yīng)用，專注于創(chuàng)新和應(yīng)用本身，還能夠在 AI 訓(xùn)練和推理任務(wù)上獲得飛槳 + NVIDIA 帶來(lái)的飛速體驗(yàn)。

“NGC 飛槳容器”與“飛槳現(xiàn)有容器”版本的區(qū)別是什么？

飛槳現(xiàn)有的容器版本提供了全面的、在不同軟件版本和環(huán)境下的飛槳容器，用戶可以根據(jù)自己當(dāng)前的軟硬件環(huán)境，挑選相應(yīng)的容器來(lái)下載使用。

而 NGC 飛槳容器跟飛槳現(xiàn)有的容器相比，有哪些顯著的優(yōu)勢(shì)？

以月為單位升級(jí)更新，每月底發(fā)布全新版本，無(wú)需注冊(cè)即可下載。

集成了最新的 NVIDIA 的軟件棧（在 NGC 飛槳容器上線前，飛槳官網(wǎng)容器最新版是 CUDA 11.2, 而 NVIDIA CUDA 最新版本已更新至 CUDA 11.7），且雙方針對(duì)最新版本的軟件棧對(duì)飛槳進(jìn)行了適配和優(yōu)化。此外， NGC 飛槳容器還集成了更新的 Ubuntu OS 版本（Ubuntu 20.04）。

在驗(yàn)證過(guò)的模型上擁有更佳的性能（目前，雙方已在 GitHub NVIDIA Deep Learning Examples中發(fā)布了 ResNet50 模型）。

產(chǎn)品經(jīng)過(guò)嚴(yán)格的開(kāi)發(fā)測(cè)試流程，包括 CI（Continuous Integration，持續(xù)集成）、CD（Continuous Deployment，持續(xù)部署）、QA（Quality Assurance，質(zhì)量保證）以及針對(duì)各類硬件和各種硬件拓?fù)涞鹊拈_(kāi)發(fā)測(cè)試流程），且每次更新版本都會(huì)提供對(duì)應(yīng)詳盡的產(chǎn)品介紹、同類產(chǎn)品的對(duì)比、可靠度測(cè)試及掃描報(bào)告。

需要說(shuō)明的是，以上 NGC 飛槳容器的特性最終都將被 GitHub 飛槳代碼庫(kù)集成。

如何下載并使用 NGC 飛槳容器？

NGC 飛槳容器已經(jīng)集成入飛槳官網(wǎng)主頁(yè)。你可以選擇 “飛槳版本”+“Linux”+“Docker”+“CUDA 11.7”找到對(duì)應(yīng)的 Container 下載指令。

運(yùn)行結(jié)果如下

此外，你也可登錄 NVIDIA NGC 官網(wǎng)，無(wú)需注冊(cè)即可下載獲得豐富詳細(xì)的英文版介紹文檔及下載鏈接。NGC官網(wǎng)中還有更多 NVIDIA 針對(duì) AI 優(yōu)化的容器，工具包，模型等。

審核編輯：湯梓紅