CNCC | 論壇：探索 AI 全棧解決方案和基于 LLM 的推理與部署實(shí)踐

2023 年中國計(jì)算機(jī)大會(huì)（CNCC2023）以“發(fā)展數(shù)字基礎(chǔ)設(shè)施，支撐數(shù)字中國建設(shè)”為主題，將于 10 月 26 - 28 日在沈陽新世界博覽館舉辦。

NVIDIA 攜手合作伙伴麗臺科技受邀為大會(huì)帶來三大技術(shù)論壇，并在展位開設(shè)持續(xù)兩天的開發(fā)者小課堂，為計(jì)算機(jī)行業(yè)的學(xué)者、研究人員、開發(fā)者和高校的同學(xué)們帶來 NVIDIA 的最新技術(shù)應(yīng)用實(shí)踐。歡迎蒞臨我們的展位（沈陽新世界博覽館 4 樓 C 展館 T13），與我們一起探索 AI 和加速計(jì)算的未來，開啟生成式 AI 新時(shí)代！

NVIDIA 在 CNCC2023 的活動(dòng)概覽：

時(shí)間	主題	地點(diǎn)
10 月 26 日 13:30 - 17:30	NVIDIA AI 全棧技術(shù)解決方案研討會(huì)	沈陽皇朝萬鑫酒店 8 層 - 16
10 月 27 日 13:30 - 17:30	基于超大模型的推理和部署實(shí)踐	沈陽新世界博覽館 5 層會(huì)議室 503
10 月 28 日 13:30 - 17:30	探索 Omniverse和AI加速創(chuàng)作開發(fā)流程	沈陽皇朝萬鑫酒店 8 層 - 19
10 月 26 日 – 27 日	開發(fā)者小課堂	沈陽新世界博覽館 4 樓 C 展館 T13

10 月 26 – 27 日，NVIDIA 將舉辦兩場技術(shù)論壇：NVIDIA AI 全棧技術(shù)解決方案研討會(huì)和基于超大模型的推理和部署實(shí)踐分論壇，我們將分享 AI 領(lǐng)域最新的發(fā)展趨勢，探討大語言模型的崛起如何為 AI 技術(shù)的應(yīng)用開拓新領(lǐng)域。

論壇詳情

NVIDIA AI 全棧技術(shù)解決方案研討會(huì)

時(shí)間：10 月 26 日 13:30 - 17:30

地點(diǎn)：沈陽皇朝萬鑫酒店 8 層 - 16

AI 正迎來有史以來最輝煌的時(shí)刻，新的 AI 技術(shù)和迅速發(fā)展的應(yīng)用正在改變各行各業(yè)。從自主機(jī)器人開發(fā)、自動(dòng)駕駛系統(tǒng)和軟件、GPU 加速的大語言模型以及火熱的生成式 AI 背后的智能網(wǎng)絡(luò)技術(shù)。在 NVIDIA AI 全棧技術(shù)解決方案論壇，NVIDIA 專家將為您揭示 AI 技術(shù)新趨勢。

?+

+

具體議程

面向生成式 AI 的端到端高性能網(wǎng)絡(luò)關(guān)鍵技術(shù)

演講時(shí)間：13:35 - 14:20

演講簡介：分享 Spectrum-X 平臺技術(shù)創(chuàng)新及其在 AI Cloud 行業(yè)的應(yīng)用介紹 Quantum 平臺及網(wǎng)絡(luò)計(jì)算技術(shù)對大規(guī)模生成式 AI 應(yīng)用的加速。

-------------------------

馮高鋒

NVIDIA HPC-AI 技術(shù)市場高級總監(jiān)

構(gòu)建 LLM 大規(guī)模訓(xùn)練推理基礎(chǔ)架構(gòu)的最佳實(shí)踐（網(wǎng)絡(luò)篇）

演講時(shí)間：14:20 - 15:05

演講簡介：以當(dāng)前火熱的大語言模型（LLM）生成式人工智能為切入點(diǎn)，探索其成功背后的全棧智能網(wǎng)絡(luò)技術(shù)，并介紹 NVIDIA BlueField-3 DPU 和 NVIDIA DOCA 2.0 為加速計(jì)算提供高性能、高效率和高安全性的云計(jì)算基礎(chǔ)設(shè)施。

-------------------------

王淼

NVIDIA 解決方案總監(jiān)

NVIDIA 互聯(lián)網(wǎng)行業(yè) Infra 方向技術(shù)負(fù)責(zé)人

構(gòu)建 LLM 大規(guī)模訓(xùn)練推理基礎(chǔ)架構(gòu)的最佳實(shí)踐（GPU 篇）

演講時(shí)間：15:05 - 15:50

演講簡介：介紹 NVIDIA 在 LLM 訓(xùn)練和推理場景的基礎(chǔ)架構(gòu)層面的最佳產(chǎn)品和方案。NVIDIA DGX SuperPOD 架構(gòu)是實(shí)現(xiàn) LLM 訓(xùn)練的最高性能基礎(chǔ)架構(gòu)，由 NVIDIA 實(shí)現(xiàn)全棧交付，極致滿足客戶算力需求。同時(shí)，NVIDIA Hopper NVL 產(chǎn)品可靈活適配主流服務(wù)器，在 LLM 推理場景幫助客戶實(shí)現(xiàn)更高收益。

-------------------------

艾靜

NVIDIA 解決方案架構(gòu)師

市場高級總監(jiān)

NVIDIA 加速邊緣計(jì)算和自主機(jī)器開發(fā)

演講時(shí)間：15:50 - 16:35

演講簡介：智能機(jī)器人和邊緣計(jì)算是現(xiàn)在人工智能的一個(gè)熱點(diǎn)，NVIDIA 提供軟硬件全棧解決方案，從仿真開發(fā)到部署，助力邊緣計(jì)算和智能機(jī)器人應(yīng)用的實(shí)現(xiàn)。同時(shí)，豐富強(qiáng)大的生態(tài)幫助開發(fā)者和用戶加速開發(fā)過程，輕松應(yīng)對全行業(yè)應(yīng)用。

-------------------------

李雨倩

NVIDIA 開發(fā)者關(guān)系總監(jiān)

NVIDIA 全棧加速自動(dòng)駕駛開發(fā)

演講時(shí)間：16:35 - 17:20

演講簡介：圍繞著自動(dòng)駕駛整個(gè)數(shù)據(jù)閉環(huán)開發(fā)，NVIDIA 提供全棧的解決方案，從硬件、系統(tǒng)到軟件，從數(shù)據(jù)中心到車端，助力自動(dòng)駕駛高效開發(fā)、快速迭代。

-------------------------

程帥

NVIDIA 解決方案架構(gòu)師

基于超大模型的推理和部署實(shí)踐分論壇

時(shí)間：10 月 27 日 13:30 - 17:30

地點(diǎn)：沈陽新世界博覽館5層會(huì)議室503

大語言模型的興起為 AI 技術(shù)的應(yīng)用開辟了更廣闊的空間，越來越多研究和實(shí)踐證明超大模型在各類任務(wù)上的卓越能力與重要性。在 CNCC2023 大會(huì)上，騰訊、百度和阿里云將攜手 NVIDIA 帶來《基于超大模型的推理和部署實(shí)踐》論壇。

通過本次論壇，您將了解到騰訊的生成式 AI 如何高效地部署；百度飛槳在 LLM 分布式訓(xùn)練方面的最新技術(shù)；阿里云 PAI 大語言模型推理服務(wù)實(shí)踐；NVIDIA 在 GPU LLM 訓(xùn)練與推理部署優(yōu)化解決方案以及構(gòu)建 LLM 大規(guī)模訓(xùn)練推理基礎(chǔ)架構(gòu)的最佳實(shí)踐分享。

?+

+

具體議程

生成式 AI 高效部署實(shí)踐

演講時(shí)間：13:35 - 14:20

演講簡介：自 OpenAI 推出 ChatGPT 后，市場反應(yīng)強(qiáng)烈。國內(nèi)外科技公司快速跟進(jìn)，到今年三月份，各公司逐步推出其專屬的 ChatGPT 版本，并基于此開發(fā)逐步研發(fā)相關(guān)的商業(yè)應(yīng)用。而 GPT 超大的模型結(jié)構(gòu)在部署時(shí)產(chǎn)生的高延遲，高成本是其商業(yè)化路上的最大障礙。我們將從小型化算法、推理框架及服務(wù)化部署等多個(gè)方面和大家分享工業(yè)級 GPT 高效部署優(yōu)化方案。

-------------------------

劉凱

騰訊高級工程師

基于飛槳的 LLM 訓(xùn)練和應(yīng)用實(shí)踐

演講時(shí)間：14:20 - 15:05

演講簡介：介紹飛槳在 LLM 分布式訓(xùn)練方面的最新技術(shù)，針對 LLM 的開發(fā)、訓(xùn)練、Tuning、推理全流程工具設(shè)計(jì)，以及實(shí)際大規(guī)模訓(xùn)練和部署的應(yīng)用實(shí)踐。

-------------------------

曾錦樂

百度資深工程師

GPU LLM 訓(xùn)練與推理部署優(yōu)化實(shí)踐與解決方案

演講時(shí)間：15:05 - 15:50

演講簡介：介紹大語言模型訓(xùn)練推理中常用的優(yōu)化支持和技巧（數(shù)據(jù)并行、Tensor 并行、Pipline 并行、Sequence并行、selective activation recompute、NCCL、TRTLLM 等）以及 Nemo framework 的全鏈路支持方案。

-------------------------

高慧怡

NVIDIA 解決方案架構(gòu)師

阿里云 PAI 大語言模型推理服務(wù)實(shí)踐

演講時(shí)間：15:50 - 16:35

演講簡介：大語言模型的興起為人工智能技術(shù)的應(yīng)用開辟了更廣闊的空間。然而，大語言模型的訓(xùn)練和推理都需要大量的計(jì)算資源和時(shí)間，因此，性能和成本是大語言模型普及路上的重要挑戰(zhàn)。演講將主要介紹阿里云 PAI 平臺為了應(yīng)對這一挑戰(zhàn)所做的工作，包括：

1）如何基于推理加速技術(shù)在 GPU 特別是 NVIDIA 平臺上實(shí)現(xiàn)了大語言模型推理的高效推理；

2）如何利用云平臺天然的彈性特性，通過資源調(diào)度降低用戶的成本；

3）如何在保證性能和成本的前提下保持靈活性，支持社區(qū)百花齊放的大語言模型。

-------------------------

邱俠斐

阿里云機(jī)器學(xué)習(xí)平臺（PAI）系統(tǒng)優(yōu)化團(tuán)隊(duì)負(fù)責(zé)人

構(gòu)建 LLM 大規(guī)模訓(xùn)練推理基礎(chǔ)架構(gòu)的最佳實(shí)踐（基礎(chǔ)架構(gòu)篇）

演講時(shí)間：16:35 - 17:20

演講簡介：介紹 NVIDIA 在 LLM 訓(xùn)練和推理場景的基礎(chǔ)架構(gòu)層面的最佳產(chǎn)品和方案。NVIDIA DGX SuperPOD 架構(gòu)是實(shí)現(xiàn) LLM 訓(xùn)練的最高性能基礎(chǔ)架構(gòu)，由 NVIDIA 實(shí)現(xiàn)全棧交付，極致滿足客戶算力需求。同時(shí)，NVIDIA Hopper NVL 產(chǎn)品可靈活適配主流服務(wù)器，在 LLM 推理場景幫助客戶實(shí)現(xiàn)更高收益。

-------------------------

艾靜

NVIDIA 解決方案架構(gòu)師

內(nèi)容分享后更有問答交流環(huán)節(jié)，現(xiàn)場專家陣容將悉心為您答疑解惑！

報(bào)名參會(huì)

掃描下方二維碼，即刻報(bào)名參與論壇。

期待您蒞臨現(xiàn)場，一起領(lǐng)略更多精彩！

您可以從《CNCC2023 | 開啟生成式 AI 新時(shí)代！NVIDIA 多場論壇下周重磅登場》全面了解 NVIDIA 在 CNCC 的活動(dòng)概覽。

后續(xù)我們還將為您呈現(xiàn)關(guān)于探索 Omniverse 和 AI 加速創(chuàng)作開發(fā)流程論壇的詳細(xì)信息，請持續(xù)關(guān)注我們。

GTC 2024 將于 2024 年 3 月 18 至 21 日在美國加州圣何塞會(huì)議中心舉行，線上大會(huì)也將同期開放。點(diǎn)擊“閱讀原文”或掃描下方海報(bào)二維碼，關(guān)注更多會(huì)議及活動(dòng)信息。