2023 云棲大會：NVIDIA AI 日程攻略先睹為快

2023 云棲大會開幕在即，

10 月 31 日 - 11 月 2 日，

NVIDIA 將前往杭州云棲小鎮(zhèn)

赴約科技盛會，

帶來圍繞大模型、端到端網(wǎng)絡(luò)解決方案、

生成式 AI、“她力量”、AI 公益、

科研智算、AI 開發(fā)者主題的并行話題演講、

全棧 AI 和加速計(jì)算展區(qū)、

AI 開發(fā)者實(shí)戰(zhàn)小課堂、

有獎互動等一系列精彩內(nèi)容！

本文帶您搶先開啟劇透環(huán)節(jié)！

?+

+

亮點(diǎn)一

精彩演講紛至沓來，

多維度解讀 AI 開發(fā)和應(yīng)用

10 月 31 日

聚合話題演講 - “無畏·無限”新女性新機(jī)遇

演講主題：AI 女性“進(jìn)化論”：追光而行、全力奔跑

時間：13:55 - 14:05

地點(diǎn)：B 館 B3 - 5 蔚云廳

演講人：劉念寧，NVIDIA 全球副總裁

在主題為“無畏·無限”新女性新機(jī)遇的聚合話題演講，NVIDIA 全球副總裁劉念寧將與現(xiàn)場觀眾剖析科技女性群像，激勵女性在加速計(jì)算和生成式 AI 的全新時代中釋放無限可能，在實(shí)現(xiàn)進(jìn)化與成長的同時，尋找 AI 的星辰大海。

10 月 31 日

聚合話題演講 - 可預(yù)期網(wǎng)絡(luò) - Al Infra

演講主題：適用于 AI 的網(wǎng)絡(luò)基礎(chǔ)設(shè)施

時間：14:30 - 14:50

地點(diǎn)：D2 - 1 會場

演講人：Gilad Shainer，

NVIDIA 網(wǎng)絡(luò)與高性能計(jì)算高級副總裁

現(xiàn)代數(shù)據(jù)中心已成為計(jì)算單元，而網(wǎng)絡(luò)架構(gòu)對于定義其功能至關(guān)重要。人工智能平臺依賴于各種網(wǎng)絡(luò)才能有效運(yùn)行，包括：計(jì)算網(wǎng)絡(luò)，負(fù)責(zé)高速數(shù)據(jù)處理；存儲網(wǎng)絡(luò)，提供對大量數(shù)據(jù)集的訪問；此外還有管理網(wǎng)絡(luò)。這些網(wǎng)絡(luò)的特性直接影響人工智能工作負(fù)載的效率以及可以提供 AI 服務(wù)的范圍。

在本演講中，NVIDIA 網(wǎng)絡(luò)與高性能計(jì)算高級副總裁 Gilad Shainer 將與您深入探討人工智能網(wǎng)絡(luò)的復(fù)雜性，探索正在發(fā)揮作用的各種技術(shù)及其對現(xiàn)代數(shù)據(jù)中心的影響，闡明網(wǎng)絡(luò)技術(shù)如何塑造人工智能的格局。

11 月 1 日

聚合話題演講 - NVIDIA 加速計(jì)算創(chuàng)造生成式 AI 新時代

地點(diǎn)：B 館 B3 - 1 德云廳

大會第二天上午，聚合話題演講將以大語言模型（LLM）為主題，綜述 NVIDIA 端到端的數(shù)據(jù)中心級全棧 AI 和加速計(jì)算解決方案，并邀請阿里云人工智能平臺 PAI 團(tuán)隊(duì)分享其自主研發(fā)、基于 NVIDIA 軟硬件技術(shù)棧的大模型開發(fā)一站式工具箱和大規(guī)模 RLHF 高效訓(xùn)練框架。更別錯過演講最后的 NVIDIA GPU 幸運(yùn)抽獎機(jī)會！

9:15 - 9:45 >>

構(gòu)建面向生成式 AI 的 NVIDIA 端到端解決方案

演講人：王淼，NVIDIA 解決方案架構(gòu)與工程總監(jiān)

您將了解到 NVIDIA 如何端到端的加速生成式 AI，從 GPU / DPU / CPU、網(wǎng)絡(luò)、超級計(jì)算機(jī)到 Base Command，助力相關(guān)創(chuàng)新創(chuàng)業(yè)。

9:45 - 10:15 >>

面向 LLM 的軟件方案及

NVIDIA 軟件全棧與行業(yè)解決方案更新概覽

演講人：翟健，NVIDIA 解決方案架構(gòu)師

演講將介紹 NVIDIA 在大語言模型（LLM）領(lǐng)域中的解決方案更新，同時還會涵蓋 NVIDIA GPU 上的軟件全棧及解決方案的更新情況，包括 NVIDIA CUDA，深度學(xué)習(xí)（DL）框架，企業(yè)級軟件支持，數(shù)字孿生軟件及通用行業(yè)解決方案。

10:15 - 10:45 >>

NVIDIA TensorRT-LLM 介紹

演講人：周國峰，NVIDIA 產(chǎn)品研發(fā)總監(jiān)

您將了解到 NVIDIA 針對大語言模型（LLM）推理方案 TensorRT-LLM，包括 TensorRT-LLM 的定位，基本功能和使用方法。

10:45 - 11:00 >>

PAI-Megatron-Patch：靈駿集群訓(xùn)練 LLMs 的一站式工具箱

演講人：黃俊，阿里云資深算法專家

Pai-Megatron-Patch 工具是阿里云人工智能平臺 PAI 算法團(tuán)隊(duì)研發(fā)，基于阿里云智算服務(wù) PAI - 靈駿平臺的大模型最佳實(shí)踐解決方案配套工具，旨在幫助大模型開發(fā)者快速上手靈駿產(chǎn)品，完成大語言模型（LLM）的高效分布式訓(xùn)練，有監(jiān)督指令微調(diào)，模型離線推理驗(yàn)證等完整大模型開發(fā)鏈路。該項(xiàng)目提供了業(yè)界主流開源大模型基于 Megatron-LM 的訓(xùn)練 & 離線推理驗(yàn)證流程，方便用戶快速上手大模型訓(xùn)練。本演講對 Pai-Megatron-Patch 的架構(gòu)，功能，使用方式等進(jìn)行簡要的介紹。

11:00 - 11:15 >>

PAI-ChatLearn：靈活易用、大規(guī)模 RLHF 高效訓(xùn)練框架

演講人：王林，阿里云高級技術(shù)專家

PAI-ChatLearn 是阿里云人工智能平臺 PAI 團(tuán)隊(duì)自主研發(fā)，靈活易用、大規(guī)模模型 RLHF 高效訓(xùn)練框架。支持大模型進(jìn)行 SFT（有監(jiān)督指令微調(diào)）、RM（獎勵模型）、RLHF（基于人類反饋的強(qiáng)化學(xué)習(xí)）完整訓(xùn)練流程。PAI-ChatLearn 支持使用 NVIDIA Megatron 作為模型定義和訓(xùn)練的 backend，支持大規(guī)模（175B + 175B）模型的 RLHF 訓(xùn)練。本演講對 PAI-ChatLearn 的架構(gòu)、性能、以及基于 NVIDIA Megatron 如何進(jìn)行高效 RLHF 訓(xùn)練等進(jìn)行簡要的介紹。

11:15 - 11:45 >>

全新 GPU 架構(gòu)下的 FP8 訓(xùn)練與推理

演講人：高慧怡，NVIDIA 解決方案架構(gòu)師、薛博陽，NVIDIA GPU 計(jì)算專家

介紹最新 NVIDIA Hopper GPU 架構(gòu)：FP8。具體介紹 FP8 在大語言模型上的訓(xùn)練與推理的相關(guān)工作，以及相應(yīng)的軟件解決方案 Transformer Engine。

11:45 - 12:25 >>

下一代大規(guī)模 LLM / MoE 訓(xùn)練系統(tǒng)基座 - NVIDIA Megatron Core

演講人：顏?zhàn)咏?，NVIDIA GPU 計(jì)算專家、樊士慶，NVIDIA GPU 性能架構(gòu)師

演講將為您介紹 NVIDIA Megatron Core 的設(shè)計(jì)、定位以及優(yōu)化，其中會重點(diǎn)介紹對大規(guī)模 MoE 預(yù)訓(xùn)練的支持。

11 月 1 - 2 日

NVIDIA 科學(xué)智能（AI4S）、生成式 AI、開發(fā)者社群合作話題分享

此外，共有三場 NVIDIA 技術(shù)演講將在 B 館風(fēng)云廳和 C 館云棲 SHOW 場 相繼精彩上演，無論是 AI 賦能科學(xué)發(fā)現(xiàn)還是開發(fā)者深度內(nèi)容，又或者是生成式 AI 加速訓(xùn)練、調(diào)優(yōu)及部署，必定會帶給您不一樣的技術(shù)啟發(fā)！

演講主題：NVIDIA 科學(xué)智能（AI4S）賦能科學(xué)發(fā)現(xiàn)

時間：11 月 1 日 10:00 - 10:15

地點(diǎn)：C 館云棲 SHOW 場

演講人：李順，NVIDIA 教科研應(yīng)用技術(shù)總監(jiān)

想知道 NVIDIA 支持 AI for Science（AI4S）的技術(shù)框架？想了解相關(guān)技術(shù)在生命科學(xué)、氣象和流體力學(xué)中的應(yīng)用案例？好奇 NVIDIA 如何對中國科研 AI4S 應(yīng)用提供生態(tài)支持？以及現(xiàn)場將有 NVIDIA 和阿里云合作的 AI for Science 訓(xùn)練營和 Hackathon 的相關(guān)信息。別錯過本場演講！

演講主題：NVIDIA 生成式 AI 加速優(yōu)化方案概覽

時間：11 月 1 日 16:00 - 16:20

地點(diǎn)：B 館 B3 - 2 風(fēng)云廳

演講人：金國強(qiáng)，NVIDIA 解決方案架構(gòu)師

演講將介紹 NVIDIA 數(shù)據(jù)中心 GPU 在大語言模型及圖像生成領(lǐng)域的強(qiáng)大性能，結(jié)合 NeMo Framework / TensorRT / TensorRT-LLM / Triton 推理服務(wù)器等軟件 SDK 和框架極致加速生成 AI 的訓(xùn)練、微調(diào)和推理部署等成熟解決方案，極大提升 AI 應(yīng)用吞吐量降低延遲，縮短研發(fā)周期減小成本。您還將了解到基于阿里達(dá)摩院視頻生成算法的 NVIDIA 全流程優(yōu)化加速的解決方案 pipeline，為視頻生成領(lǐng)域的應(yīng)用打好堅(jiān)實(shí)的基礎(chǔ)。

演講主題：引領(lǐng)技術(shù)，推動應(yīng)用

時間：11 月 2 日 11:30 - 11:45

地點(diǎn)：C 館云棲 SHOW 場

演講人：侯宇濤，NVIDIA GPU、CUDA 應(yīng)用市場總監(jiān)

云上開發(fā)者大賽專場，NVIDIA GPU、CUDA 應(yīng)用市場總監(jiān)侯宇濤將分享 NVIDIA 與阿里云天池在助力開發(fā)者成長和推動 AI 技術(shù)應(yīng)用方面的舉措。當(dāng)然，現(xiàn)場還有 NVIDIA 和阿里云合作的開發(fā)者新賽事消息，期待大家的關(guān)注！

?+

+

亮點(diǎn)二

NVIDIA 全棧 AI 和加速計(jì)算展區(qū)

1

數(shù)據(jù)中心規(guī)模全棧 AI 展示，

準(zhǔn)備就緒加速

NVIDIA 展區(qū)將帶來采用 NVIDIA AI 技術(shù)的客戶案例展示。包括 NVIDIA TensorRT-LLM 如何幫助螞蟻團(tuán)隊(duì)優(yōu)化開源的代碼大模型 CodeFuse 的推理加速、NVIDIA GPU 及 NVIDIA Clara Parabricks 如何為阿里云金融與醫(yī)療行業(yè)提供最佳的解決方案，包含開箱即用的魔搭開源模型和靈積模型服務(wù)高效 GPU 優(yōu)化、Megatron 加速通義大模型訓(xùn)練，確保訓(xùn)練性能在大集群上的可擴(kuò)展性、基于 NVIDIA Megatron 開發(fā)的深度學(xué)習(xí)大語言模型工具等豐富內(nèi)容。

此外，NVIDIA 展區(qū)也將展示加速基礎(chǔ)設(shè)施、AI 軟件、模型和服務(wù)的加速計(jì)算解決方案，包括 NVIDIA 加速的基礎(chǔ)設(shè)施、InfiniBand 網(wǎng)絡(luò)計(jì)算端到端解決方案、NVIDIA AI Enterprise、AI Models and Foundries 等生成式 AI 技術(shù)底座、AI Playground 生成式 AI 互動體驗(yàn)等。而 NVIDIA 也正在為各行各業(yè)的 3D 創(chuàng)意工作流提供助力，使用戶能夠以前所未有的方式進(jìn)行協(xié)作和創(chuàng)新。因此，在 AI 互動展示區(qū)域，我們也將帶來基于 NVIDIA Omniverse、CloudXR、RTX 等技術(shù)分享，期待與您一同探討數(shù)字世界的無限可能。

旨在培養(yǎng)顛覆行業(yè)格局的優(yōu)秀創(chuàng)業(yè)公司的 NVIDIA 初創(chuàng)加速計(jì)劃，展示內(nèi)容也將于現(xiàn)場開放，歡迎想要獲得產(chǎn)品折扣、技術(shù)支持、市場宣傳、融資對接、業(yè)務(wù)推薦等一系列服務(wù)、加速發(fā)展的優(yōu)秀創(chuàng)業(yè)公司，前來了解。

2

AI 小課堂即將開講

敲黑板！專為開發(fā)者打造的必學(xué)課堂，連續(xù) 3 天課程內(nèi)容看點(diǎn)滿滿！

上下滑動查看每日“課表”

10 月 31 日
時間	課程
10:00 - 10:30	利用 NVIDIA BlueField-3 DPU 構(gòu)建云
10:30 - 10:45	NVIDIA AI Enterprise 全面助力生成式 AI 全棧開發(fā)
11:00 - 11:30	NVIDIA Spectrum-X平臺助力生成式 AI 云服務(wù)
13:00 - 13:30	基于 LLM 大模型構(gòu)建中文對話引擎：NeMo + ChatGLM
14:00 - 14:30	生成式 AI 應(yīng)用實(shí)踐：文字生成圖像的代碼實(shí)現(xiàn)流程
15:00 - 15:30	合成數(shù)據(jù)應(yīng)用初探 —— 圖像分類數(shù)據(jù)集的制作案例

11 月 1 日
時間	課程
10:00 - 10:30	NVIDIA Spectrum-X平臺助力生成式 AI 云服務(wù)
10:30 - 10:45	NVIDIA AI Enterprise 全面助力生成式 AI 全棧開發(fā)
11:00 - 11:30	利用 NVIDIABlueField-3 DPU 構(gòu)建云
13:00 - 13:30	基于 LLM 大模型構(gòu)建中文對話引擎：NeMo + ChatGLM
14:00 - 14:30	生成式 AI 應(yīng)用實(shí)踐：文字生成圖像的代碼實(shí)現(xiàn)流程
15:00 - 15:30	合成數(shù)據(jù)應(yīng)用初探 —— 圖像分類數(shù)據(jù)集的制作案例

11 月 2 日
時間	課程
10:00 - 10:30	利用 NVIDIABlueField-3 DPU 構(gòu)建云
11:00 - 11:30	基于 LLM 大模型構(gòu)建中文對話引擎：NeMo + ChatGLM
13:00 - 13:30	生成式 AI 應(yīng)用實(shí)踐：文字生成圖像的代碼實(shí)現(xiàn)流程
14:00 - 14:30	合成數(shù)據(jù)應(yīng)用初探 —— 圖像分類數(shù)據(jù)集的制作案例
15:00 - 15:30	合成數(shù)據(jù)應(yīng)用初探 —— 圖像分類數(shù)據(jù)集的制作案例

主講人劃重點(diǎn)：

NVIDIA AI Enterprise 全面助力生成式 AI 全棧開發(fā)

NVIDIA AI Enterprise 提供支持的企業(yè)級軟件，它能夠加速數(shù)據(jù)科學(xué)，并簡化生產(chǎn)就緒型生成式 AI、計(jì)算機(jī)視覺和語音應(yīng)用。在本課程中，我們將介紹如何借助 NVIDIA AI Enterprise 軟件平臺，加速 AI 開發(fā)和部署，保障性能、高可用和安全性。

—— 崔曉楠，NVIDIA 開發(fā)者發(fā)展經(jīng)理

基于 LLM 大模型構(gòu)建中文對話引擎：NeMo + ChatGLM

本課程將 NeMo 與 ChatGLM 相結(jié)合，構(gòu)建中文場景下“能聽、能想、能說”的對話引擎，降低對話式人工智能和 LLM 大語言模型的使用門檻，快速了解對話式人工智能的搭建流程。

—— 李奕澎，NVIDIA 企業(yè)開發(fā)者社區(qū)經(jīng)理

生成式 AI 應(yīng)用實(shí)踐：一個文字生成圖像的代碼實(shí)現(xiàn)流程

你將了解到生成式 AI 模型 Stable Diffusion 的基本原理以及 TensorRT 推理引擎的工作原理等內(nèi)容，希望在此學(xué)習(xí)過程中找到跟蹤 AI 發(fā)展的靈感，并鼓勵你進(jìn)行更多的實(shí)踐和探索。

—— 何琨，NVIDIA 企業(yè)開發(fā)者社區(qū)高級經(jīng)理

合成數(shù)據(jù)應(yīng)用初探——圖像分類數(shù)據(jù)集的制作案例

本課程將帶你了解合成數(shù)據(jù)生成工具 NVIDIA Omniverse Code 和 Omniverse Replicator，同時還有 Jetbot 小車自動避障四分類數(shù)字場景的 Python 代碼實(shí)現(xiàn)思路。

—— 侯宇濤，NVIDIA GPU、CUDA 應(yīng)用市場總監(jiān)

利用 NVIDIABlueField-3 DPU 構(gòu)建云

作為 AI 工廠和生成式人工智能云兩種數(shù)據(jù)中心網(wǎng)絡(luò)設(shè)計(jì)范例中，NVIDIA BlueField-3 DPU 實(shí)現(xiàn)了數(shù)據(jù)中心基礎(chǔ)設(shè)施軟件的大量加速計(jì)算，虛擬化、網(wǎng)絡(luò)、安全、存儲及數(shù)據(jù)的處理、控制、編排也將在 NVIDIA BlueField-3 DPU 上得到加速和處理。我們將深入探討 NVIDIA BlueField-3 DPU 在云環(huán)境和云應(yīng)用中的廣泛作用與核心價值。

—— 崔巖，NVIDIA 網(wǎng)絡(luò)技術(shù)專家

NVIDIA Spectrum-X 平臺助力生成式 AI 云服務(wù)

NVIDIA Spectrum-X 是首個專為基于以太網(wǎng)的 AI 云提高性能和效率而設(shè)計(jì)的平臺，依托于 NVIDIA Spectrum-4 以太網(wǎng)交換機(jī)和 NVIDIA BlueField-3 DPU 的緊密結(jié)合，在多租戶環(huán)境中實(shí)現(xiàn)了一致的、可預(yù)測的性能，并提高生成式 AI 云的能效。我們將深入探討 NVIDIA Spectrum-X 網(wǎng)絡(luò)平臺的動態(tài)路由、擁塞控制和性能隔離等特性。

—— 孟慶，NVIDIA 網(wǎng)絡(luò)市場總監(jiān)

3

開發(fā)者體驗(yàn)活動，即刻預(yù)約動手樂趣

大會期間，在 NVIDIA 展臺親自動手，收獲有趣有料的科技體驗(yàn)！戳鏈接即可報(bào)名，提前預(yù)約參與開發(fā)者體驗(yàn)活動。

體驗(yàn)活動 1：動手實(shí)驗(yàn)——利用人工智能

技術(shù)實(shí)現(xiàn) Jetbot 自動駕駛小車的避障功能

掃描下方二維碼報(bào)名預(yù)約體驗(yàn)活動 1

NVIDIA Jetbot 將幫助您學(xué)習(xí)如何利用最新的人工智能技術(shù)實(shí)現(xiàn)避障過程，感受自動駕駛技術(shù)的重要組成部分！

2022 云棲大會現(xiàn)場體驗(yàn)活動精彩瞬間

體驗(yàn)活動 2：動手編程——體驗(yàn)

Full-Stack語音 AI 開發(fā)全流程

掃描下方二維碼報(bào)名預(yù)約體驗(yàn)活動 2

結(jié)合 Jetson 嵌入式平臺以及 NVIDIA NeMo 工具庫，您將體驗(yàn)到端到端、交互式全棧語音 AI 開發(fā)全流程。有 NLP 和語音 AI 開發(fā)需求的開發(fā)者一定不要錯過。

?+

+

亮點(diǎn)三

參會贏好禮：NVIDIA 獨(dú)家限量秘笈

活動期間，光臨 NVIDIA 展臺及 AI 小課堂，將有機(jī)會獲取首部 NVIDIA DPU 編程入門書籍！

劇透就先到這里啦！

覺得意猶未盡？

那就收好這份 NVIDIA的

2023 云棲大會日程攻略，

前往活動現(xiàn)場或線上云端參會，

親自解鎖大會亮點(diǎn)吧！

GTC 2024 將于 2024 年 3 月 18 至 21 日在美國加州圣何塞會議中心舉行，線上大會也將同期開放。點(diǎn)擊“閱讀原文”或掃描下方海報(bào)二維碼，關(guān)注更多會議及活動信息。