GTC23 | 作為支撐文心一言的深度學(xué)習(xí)平臺，百度飛槳將在 GTC 帶來哪些精彩分享？

3 月 16 日，百度在北京總部召開新聞發(fā)布會，主題圍繞新一代大語言模型、生成式 AI 產(chǎn)品文心一言。百度創(chuàng)始人、董事長兼首席執(zhí)行官李彥宏及百度首席技術(shù)官王海峰出席，并展示了文心一言在文學(xué)創(chuàng)作、商業(yè)文案創(chuàng)作、數(shù)理推算、中文理解、多模態(tài)生成五個(gè)使用場景中的綜合能力。

目前，大語言模型和生成式 AI 代表了一個(gè)新技術(shù)范式，是全球每家企業(yè)都不可錯過的機(jī)會。百度憑借其在人工智能領(lǐng)域深耕多年的技術(shù)儲備發(fā)力，抓住此次生成式 AI 發(fā)展風(fēng)口，文心一言顯示了其引領(lǐng)中國生成式 AI 產(chǎn)品發(fā)展的勢頭。

事實(shí)上，截至 2022 年 11月底，支撐文心一言的飛槳深度學(xué)習(xí)平臺已凝聚 535 萬開發(fā)者，創(chuàng)建了 67萬個(gè) AI 模型，服務(wù)于 20萬家企事業(yè)單位，在工業(yè)、能源、交通、農(nóng)業(yè)等領(lǐng)域大放異彩，構(gòu)建起一個(gè)繁榮的深度學(xué)習(xí)生態(tài)。

在下周舉行的 GTC 2023 春季大會上，百度飛槳又將帶來哪些精彩分享？

3 月 20-23 日 鎖定 GTC 2023！

面向全球 AI 開發(fā)者的 GTC 2023 將于 3 月 20-23 日在線上舉辦，這場被 NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛描述為 “迄今為止最重要的一次 GTC”，將帶來 650 多場演講、專家座談會和特別活動，幾乎涵蓋了計(jì)算領(lǐng)域的所有熱門內(nèi)容，預(yù)計(jì)將有超過 25 萬人報(bào)名參加。

本次 GTC 大會上，來自百度的四位專家將帶來精彩的內(nèi)容分享。

其中，百度 AI 技術(shù)生態(tài)總經(jīng)理馬艷軍，將以《飛槳深度學(xué)習(xí)平臺高效支持大模型生產(chǎn)及應(yīng)用》為題，分享飛槳和文心大模型的發(fā)展現(xiàn)狀，并詳細(xì)介紹飛槳框架的訓(xùn)練和推理技術(shù)以及相關(guān)應(yīng)用實(shí)踐。對文心一言底層技術(shù)支撐感興趣的朋友，請勿錯過！

此外，百度主任架構(gòu)師、百度 MEG 商業(yè)模型中臺技術(shù)負(fù)責(zé)人焦學(xué)武，將介紹百度基于 GPU 的超大規(guī)模圖模型訓(xùn)練框架 PGLBox。在 2023 年 1 月舉行的百度Create AI 開發(fā)者大會上，PGLBox 作為十大 “黑科技” 之一首次亮相。據(jù)悉，通過多種技術(shù)手段，PGLBox 已全面解決了圖模型訓(xùn)練的性能問題、規(guī)模問題、建模問題，是業(yè)界首個(gè)同時(shí)支持復(fù)雜算法+超大圖+超大離散模型的大規(guī)模圖學(xué)習(xí)訓(xùn)練技術(shù)。

如果說 AI for Science，能幫助未來的科研成果加速來到現(xiàn)實(shí)，那么 PGLBox 將在生活中幫助我們構(gòu)建 “預(yù)知未來” 的能力引擎，有望大幅提升生活中所經(jīng)常需要的出行時(shí)間預(yù)測和信息推薦等服務(wù)的準(zhǔn)確性。PGLBox 為百度業(yè)務(wù)創(chuàng)新提供了廣闊的空間，目前已經(jīng)在智能交通、信息推薦、搜索等標(biāo)桿場景實(shí)現(xiàn)落地，大幅提升業(yè)務(wù)效率和用戶體驗(yàn)。

除此以外，還有關(guān)于飛槳端到端大模型開發(fā)套件的介紹——百度資深工程師敖玉龍，將以《面向大模型的端到端套件 PaddleFleetX》為題，介紹依托于飛槳產(chǎn)業(yè)級深度學(xué)習(xí)平臺的大模型訓(xùn)推一體開發(fā)套件 PaddleFleetX。百度飛槳高級產(chǎn)品經(jīng)理雷青，將介紹全場景、高性能的 AI 部署工具飛槳 FastDeploy。

以下為演講具體介紹。掃描二維碼，搜索會議代碼找到對應(yīng)演講內(nèi)容，通過點(diǎn)擊“Add to Schedule”或點(diǎn)擊“星星”，將該演講內(nèi)容添加至您的日程，大會開始后登錄即可在線觀看。

飛槳深度學(xué)習(xí)平臺高效支持大模型生產(chǎn)及應(yīng)用

會議代碼：[S52366]

演講時(shí)間：3 月 22 日 即可在線觀看

（自主點(diǎn)播形式）

演講嘉賓：

馬艷軍

百度 AI 技術(shù)生態(tài)總經(jīng)理

演講概要：

源于百度業(yè)務(wù)對人工智能技術(shù)的廣泛應(yīng)用，飛槳深度學(xué)習(xí)平臺結(jié)合應(yīng)用持續(xù)創(chuàng)新，研發(fā)了業(yè)界領(lǐng)先的大規(guī)模分布式訓(xùn)練技術(shù)。飛槳先后發(fā)布了 4D 混合并行訓(xùn)練、端到端自適應(yīng)分布式訓(xùn)練、超大規(guī)模圖訓(xùn)練引擎等核心技術(shù)，并基于這些技術(shù)支持文心大模型的訓(xùn)練和部署。目前，文心大模型已經(jīng)覆蓋基礎(chǔ)大模型、任務(wù)大模型、行業(yè)大模型的三級體系，飛槳+文心大模型賦能千行百業(yè)的智能化升級。

掃碼預(yù)約觀看本場演講

進(jìn)入頁面后，

點(diǎn)擊會議標(biāo)題右上角［五角星］

完成注冊并加入收藏

PGLBox：百度基于 GPU 的

超大規(guī)模圖模型訓(xùn)練框架

會議代碼：[SE51302]

演講時(shí)間：3 月 22 日3:30 PM

演講嘉賓：

焦學(xué)武

百度主任架構(gòu)師

百度 MEG 商業(yè)模型中臺技術(shù)負(fù)責(zé)人

演講概要：

PGLBox 是百度研發(fā)的基于 GPU 的大規(guī)模圖模型訓(xùn)練框架，支持?jǐn)?shù)百億節(jié)點(diǎn)和邊的圖模型全 GPU 訓(xùn)練，已在百度廣泛部署。與傳統(tǒng)的基于 CPU 的分布式解決方案相比，PGLBox 可以在相同的成本下獲得 28 倍的訓(xùn)練加速。相比業(yè)界主流的分布式 CPU 解決方案，PGLBox 具有超高性能、超大規(guī)模、算法豐富、靈活易用、落地廣泛等優(yōu)勢。

PGLBox 由以下主要組件組成：

1. 超高性能的分布式 GPU 圖學(xué)習(xí)訓(xùn)練框架，圖存儲、深度行走、采樣和訓(xùn)練全流程 GPU 化，通過使用 GPU 并行技術(shù)大大加快了圖模型的樣本生成和訓(xùn)練。

2. 業(yè)界首個(gè)多級存儲圖引擎，對圖/屬性/模型差異化存儲構(gòu)建多級存儲體系，能夠使用單臺 GPU 服務(wù)器訓(xùn)練數(shù)百億節(jié)點(diǎn)和邊的圖模型。

3. 吞吐最大化的流水線架構(gòu)，采樣、屬性拉取、參數(shù)拉取和模型訓(xùn)練的流水線架構(gòu)，高效進(jìn)行端到端的圖模型訓(xùn)練。

4. 預(yù)置豐富的圖表示學(xué)習(xí)算法，支持跨場景異構(gòu)圖建模和復(fù)雜圖屬性建模，首次實(shí)現(xiàn) ERNIE-Sage + 大規(guī)模圖結(jié)構(gòu)信息 + 大規(guī)模離散特征的統(tǒng)一建模。

掃碼預(yù)約觀看本場演講

進(jìn)入頁面后，點(diǎn)擊［Add to Schedule］

完成注冊并添加至您的日程

面向大模型的端到端套件 PaddleFleetX

會議代碼：[S51309]

演講時(shí)間：3 月 23 日 10:00 AM

演講嘉賓：

敖玉龍

百度資深工程師

演講概要：

大規(guī)模預(yù)訓(xùn)練技術(shù)已經(jīng)在多個(gè)領(lǐng)域表現(xiàn)出了優(yōu)秀效果，但是從應(yīng)用和落地的角度來看，其門檻并不低。PaddleFleetX 是一款依托于飛槳深度學(xué)習(xí)平臺的面向大模型的端到端套件，涵蓋了開發(fā)、訓(xùn)練、小型化、推理等全流程，具備簡單易用、性能領(lǐng)先、且功能強(qiáng)大等特色。本演講將介紹 PaddleFleetX 相關(guān)核心技術(shù)，包括全場景分布式并行策略、極致的分布式訓(xùn)練優(yōu)化技術(shù)，豐富多樣的模型小型化能力和高效的大模型分布式推理與部署方案。

掃碼預(yù)約觀看本場演講

進(jìn)入頁面后，點(diǎn)擊［Add to Schedule］

完成注冊并添加至您的日程

全場景高性能 AI 部署工具 FastDeploy

會議代碼：[S52367]

演講時(shí)間：3 月 23 日 2:00 PM

演講嘉賓：

雷青

百度飛槳高級產(chǎn)品經(jīng)理

演講概要：

FastDeploy 是一款全場景、極致高效、易用靈活的 AI 推理部署工具，支持云邊端部署。統(tǒng)一飛槳及生態(tài)的多端部署 API ，目前支持 Paddle Inference、Paddle Lite、TensorRT、ONNX Runtime、Poros等推理引擎，一行命令可靈活切換多個(gè)推理引擎后端；同時(shí)支持 Triton Inference Server，一款工具可實(shí)現(xiàn)快速的云邊端部署。

通過集成 CV-CUDA、FastTokenier、FlyCV 等 AI 加速庫，以及 PaddleSlim 自動壓縮工具，實(shí)現(xiàn) AI 模型端到端的性能優(yōu)化。FastDeploy 精心完成了部署 API 設(shè)計(jì)，確保不同語言的開發(fā)者能夠享受到統(tǒng)一的 API 體驗(yàn)，不同語言只需要 3 行核心代碼，就可以實(shí)現(xiàn)預(yù)置模型的高性能推理；預(yù)置的 160+SOTA 產(chǎn)業(yè)模型的端到端示例 ，快速完成 AI 的產(chǎn)業(yè)落地。

掃碼預(yù)約觀看本場演講

進(jìn)入頁面后，點(diǎn)擊［Add to Schedule］

完成注冊并添加至您的日程

預(yù)約觀看百度 GTC 2023 精彩演講

想要預(yù)約以上精彩內(nèi)容？掃描下方圖片二維碼 或 點(diǎn)擊 “閱讀原文”，即可搜索相關(guān)會議代碼找到對應(yīng)演講內(nèi)容，通過點(diǎn)擊“Add to Schedule”或點(diǎn)擊“星星”，將該演講內(nèi)容添加至您的日程，大會開始后登錄即可在線觀看。

例如：搜索演講代碼 [SE51302]，點(diǎn)擊“Add to Schedule”，即可將該演講添加至您的日程。

例如：搜索演講代碼 [S52366]，發(fā)現(xiàn)沒有“Add to Schedule”按鈕，說明該演講為自主點(diǎn)播形式，從 3 月 22 日開始即可在線觀看。點(diǎn)擊右上方的星星，將該演講添加至您的日程。

如果尚未注冊，請點(diǎn)擊鏈接查看 GTC23 注冊教程。

請?jiān)?3 月 26 日前完成在線注冊，免費(fèi)觀看以及回看GTC 2023 春季大會超過 650 場精彩內(nèi)容！

歡迎加入 GTC 2023，與全球 AI 者同行！

掃描下方海報(bào)二維碼，鎖定 NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛的 GTC 主題演講！北京時(shí)間 3 月 21 日 23:00 全球首播，3 月 22 日 10:00 中國重播。深度解讀 NVIDIA 加速計(jì)算平臺如何推動人工智能、元宇宙、云技術(shù)和可持續(xù)計(jì)算的下一波浪潮。加入 GTC23，切勿錯過 AI 的決定性時(shí)刻！