0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

英偉達全球首發(fā)超級AI芯片 訓(xùn)練大模型成本更低

jf_WZTOguxH ? 來源:AI前線 ? 2023-08-09 14:42 ? 次閱讀

黃仁勛向數(shù)千名開發(fā)者和圖形專業(yè)人士發(fā)表講話,宣布更新 GH200 Grace Hopper 超級芯片、英偉達 AI Workbench,并將把生成式 AI 引入英偉達 Omniverse。

隨著生成式 AI 技術(shù)繼續(xù)席卷整個數(shù)字化與超互連世界,英偉達創(chuàng)始人兼 CEO 黃仁勛決定以雷霆萬鈞的氣勢重回全球頂級計算機圖形會議 SIGGRAPH。

1黃仁勛:生成式 AI 開啟了人工智能的“iPhone 時刻”

本周二,黃仁勛在洛杉磯舉行的一場特別演講中對數(shù)千名觀眾表示,“生成式 AI 時代即將到來。如果大家愿意,也可以稱之為人工智能的 iPhone 時刻。”

他帶來的亮點包括下一代 GH200 Grace Hopper 超級芯片平臺、英偉達 AI Workbench(新的統(tǒng)一工具包,可在英偉達 AI 平臺上引入更精簡的模型調(diào)整和部署方式),以及搭載生成式 AI 和 OpenUSD 的英偉達 Omniverse 重大升級。

這些公告,無疑是將過去十年來 AI、虛擬世界、加速、模擬和協(xié)作等領(lǐng)域的所有重量級創(chuàng)新整合在了一起。

黃仁勛表示,“圖形和人工智能密不可分。圖形需要 AI,AI 也需要圖形?!彼瑫r解釋道,AI 將在虛擬世界中學(xué)習(xí)技能,AI 也將幫助人類創(chuàng)建虛擬世界。

在五年前的 SIGGRAPH 大會上,英偉達通過將 AI 與實時光線追蹤引入 GPU 重塑了整個圖形世界。黃仁勛指出,“當(dāng)我們用 AI 重新發(fā)明計算機圖形學(xué)時,也相當(dāng)于是在為 AI 重新發(fā)明 GPU。”

結(jié)果就是:系統(tǒng)變得越來越強大。以英偉達 HGX H100 為例,它包含 8 個 GPU 和共計 1 萬億個晶體管。與基于 CPU 的系統(tǒng)相比,其速度表現(xiàn)得以顯著提升。

黃仁勛向觀眾們強調(diào),“正因為如此,全球數(shù)據(jù)中心才迅速轉(zhuǎn)向加速計算。這才是真正的「買得越多、越省錢」?!?/p>

2全球首發(fā) HBM3e 內(nèi)存,帶寬達每秒 5TB

為了延續(xù) AI 的強勁發(fā)展勢頭,英偉達打造了 Grace Hopper 超級芯片 GH200。它將 72 核 Grace CPU 與 Hopper GPU 結(jié)合起來,已經(jīng)于今年 5 月全面投入生產(chǎn)。

黃仁勛還宣布,已經(jīng)投入生產(chǎn)的英偉達 GH200 還將迎來一個附加版本,其中搭載頂尖 HBM3e 內(nèi)存。

他隨后又宣布將推出下一代 GH200 Grace Hopper 超級芯片平臺。該平臺能夠接入多個 GPU,從而實現(xiàn)卓越的性能和易于擴展的服務(wù)器設(shè)計。

新平臺專為處理世界上最復(fù)雜的生成式工作負載而構(gòu)建,具體涵蓋大語言模型、推薦系統(tǒng)和向量數(shù)據(jù)庫等,而且將提供多種配置選項。

相比前一代平臺產(chǎn)品,雙配置方案的內(nèi)存容量增加了 3.5 倍、帶寬增加 3 倍,由此構(gòu)建起一臺搭載 144 個 Arm Neoverse 核心、8 千萬億次 AI 性能及 282 GB 最新 HBM3e 內(nèi)存容量的服務(wù)器。

HBM3e 是一種高帶寬內(nèi)存,帶寬達每秒 5TB。該內(nèi)存比當(dāng)前的 HBM3 快 50%,可提供總共每秒 10TB 的組合帶寬,使新平臺能運行比前代大 3.5 倍的模型,同時通過快三倍的內(nèi)存帶寬提高性能。

預(yù)計各領(lǐng)先系統(tǒng)制造商將在 2024 年第二季度,向市場交付基于該平臺的新一代計算系統(tǒng)。

數(shù)據(jù)中心的硬件正在快速向加速計算轉(zhuǎn)變,這是黃仁勛一直在強調(diào)的一個趨勢。相比 CPU,GPU 在能效上有很大的優(yōu)勢,黃仁勛演講中舉的例子是同樣 1 億美元成本,相比 x86 架構(gòu) CPU,GH200 將能提供超過 20 倍能效提升。

3英偉達 AI Workbench:加速定制生成式 AI 的普及

為了加快全球企業(yè)以定制化方式采用生成式 AI,黃仁勛還宣布推出英偉達 AI Workbench。它將為開發(fā)人員提供統(tǒng)一且易于使用的工具包,可在 PC 或工作站平臺上快速創(chuàng)建、測試和微調(diào)生成式 AI 模型,而后將其擴展至幾乎任何數(shù)據(jù)中心、公有云或英偉達 DGX Cloud。

AI Workbench 消除了企業(yè) AI 項目的入門復(fù)雜性。通過在本地系統(tǒng)上運行的精簡界面開放訪問,開發(fā)人員可以使用自定義數(shù)據(jù)微調(diào) Hugging Face、GitHub 和 NGC 等流行 repo 中的模型,之后在各平臺上輕松實現(xiàn)模型共享。

雖然目前市面上已經(jīng)有數(shù)十萬種預(yù)訓(xùn)練模型可供使用,但基于開源工具的定制化微調(diào)往往仍然艱難且耗費時間。

黃仁勛指出,“為了推動這種能力的大眾化普及,我們必須讓模型幾乎能夠隨時隨地運行?!?/p>

在 AI Workbench 的幫助下,開發(fā)人員只需點擊幾下即可自定義并運行生成式 AI。這款工具能夠?qū)⑺斜匾钠髽I(yè)級模型、框架、軟件開發(fā)套件和庫,都整合到統(tǒng)一的開發(fā)者工作區(qū)當(dāng)中。

黃仁勛總結(jié)稱,“每個人都可以參與 AI 開發(fā)?!?/p>

領(lǐng)先的 AI 基礎(chǔ)設(shè)施提供商——包括戴爾科技、HPE、惠普、Lambda、聯(lián)想和超微等也在積極擁抱 AI Workbench,希望借助它的力量將企業(yè)生成式 AI 功能帶到開發(fā)者需要的任何地方,包括本地設(shè)備。

黃仁勛還宣布英偉達與擁有 200 萬用戶的初創(chuàng)公司 Hugging Face 建立合作伙伴關(guān)系,將幫助數(shù)百萬開發(fā)者輕松構(gòu)建起大語言模型及其他先進 AI 應(yīng)用,在超級算力的加持下?lián)肀墒?AI。

開發(fā)人員還可訪問 Hugging Face 平臺中的英偉達 DGX Cloud AI 超級計算系統(tǒng),利用它訓(xùn)練并微調(diào)各種高級 AI 模型。

“這將是一項全新服務(wù),努力將世界上最大的 AI 社區(qū)與世界上最好的訓(xùn)練和基礎(chǔ)設(shè)施對接起來?!?/p>

為了進一步加快生成式 AI 的應(yīng)用,英偉達又發(fā)布了最新版本的企業(yè)軟件套件英偉達 AI Enterprise 4.0。

英偉達 AI Enterprise 將為企業(yè)提供訪問生成式 AI 所需要的工具,同時為大規(guī)模企業(yè)部署提供安全性和 API 穩(wěn)定性支持。

4Omniverse 迎來大更新:融合生成式 AI 與 OpenUSD 以推動工業(yè)數(shù)字化

黃仁勛還公布了英偉達 Omniverse 的大版本更新。這是一套 OpenUSD 原生開發(fā)平臺,可用于跨工具構(gòu)建、模擬與協(xié)作,為開發(fā)人員和產(chǎn)業(yè)公司提供新的基礎(chǔ)應(yīng)用程序及服務(wù)。OpenUSD 框架與生成式 AI 技術(shù)將幫助用戶優(yōu)化并增強其 3D 流程與虛擬環(huán)境。

他還提到了英偉達對 OpenUSD 的貢獻,推動這套用于描述、模擬和跨 3D 工具協(xié)作的框架向前發(fā)展。

Omniverse 平臺此番更新,涵蓋 Omniverse Kit(用于開發(fā)原生 OpenUSD 應(yīng)用程序和擴展的引擎)、英偉達 Omniverse Audio2Face 基礎(chǔ)應(yīng)用以及空間計算功能方面的改進。Cesium、Convai、Move AI、SideFX Houdini 和 Wonder Dynamics 等客戶現(xiàn)已通過 OpenUSB 接入到 Omniverse。

為了擴大在 Adobe Substance 3D、生成式 AI 和 OpenUSB 發(fā)展規(guī)劃中的合作,Adobe 和英偉達宣布將 Adobe Firefly(Adobe 打造的創(chuàng)意生成式 AI 模型家族)以 API 的形式在 Omniverse 中開放。

Omniverse 用戶現(xiàn)在可以與其他 OpenUSD 空間計算平臺(例如 ARKit 和 RealityKit)相兼容的內(nèi)容、體驗及應(yīng)用程序。

黃仁勛宣布為開發(fā)人員和企業(yè)提供廣泛的框架、資源和服務(wù),借此加速通用場景描述(即 OpenUSD)的普及度,為地理空間數(shù)據(jù)模型、指標(biāo)組合與仿真就緒(簡稱 SimReady)和 OpenUSD 規(guī)范等作出貢獻。

黃仁勛還公布了英偉達構(gòu)建的四種新 Omniverse Cloud API,可供開發(fā)人員更加無縫地實施并部署 OpenUSD 管線與應(yīng)用程序。

from text and answering USD knowledge questions.

ChatUSD——ChatUSD 是一個大語言模型(LLM)智能體,可幫助開發(fā)人員和藝術(shù)家處理 OpenUSD 數(shù)據(jù)及場景,根據(jù)文本提示生成 Python-USD 代碼腳本并回答關(guān)于 USD 的問題。

RunUSD——一個云 API,通過檢查上傳文件與 OpenUSD 版本間的兼容性,并配合使用 Omniverse Cloud 生成渲染,從而將 OpenUSD 文件轉(zhuǎn)換為全路徑跟蹤的渲染圖像。

DeepSearch——一個 LLM 智能體,可以在未標(biāo)記資產(chǎn)的海量數(shù)據(jù)庫內(nèi)進行快速語義搜索。

USD-GDN Publisher——一項一鍵式服務(wù),可幫助企業(yè)和軟件開發(fā)商從 USD Composer 等基于 Omniverse 的應(yīng)用程序處,向 Omniverse Cloud 圖形交付網(wǎng)絡(luò)(GDN)發(fā)布高保真、基于 OpenUSD 的體驗,并將結(jié)果實時傳輸至網(wǎng)絡(luò)瀏覽器及移動設(shè)備。

這些貢獻,也標(biāo)志著英偉達上周宣布與皮克斯、Adobe、蘋果和 Autodesk 共同創(chuàng)立的 OpenUSD 聯(lián)盟正迎來技術(shù)演變新成果。

5強大的新型桌面系統(tǒng)與服務(wù)器

黃仁勛表示,英偉及全球各工作站設(shè)備制造商正著手推出功能更強大的新型 RTX 工作站,以便為各類需求提供更豐富的算力,用以支持生成式 AI 和數(shù)字化時代下的更多開發(fā)與內(nèi)容創(chuàng)作需求。

這些系統(tǒng)(包括來自 BOXX、戴爾科技、惠普和聯(lián)想的系統(tǒng))基于英偉達 RTX 6000 Ada Generation GPU,并采用英偉達 AI Enterprise 和英偉達 Omniverse Enterprise 等軟件。

另外,英偉達還發(fā)布了三款全新的桌面工作站 Ada Generation GPU,分別為英偉達 RTX 5000、RTX 4500 和 RTX 4000,旨在為全球?qū)I(yè)人士提供最新的 AI、圖形與實時渲染技術(shù)。

黃仁勛詳細介紹了英偉達如何與全球數(shù)據(jù)中心系統(tǒng)制造商合作,繼續(xù)通過搭載有全新英偉達 L40S GPU(一種強大的通用數(shù)據(jù)中心處理器設(shè)計)的英偉達 OVX 來增強生成式 AI 與工業(yè)數(shù)字化實踐。

強大的新系統(tǒng)將通過英偉達 Omniverse 平臺為最密集、最復(fù)雜的應(yīng)用程序提供加速計算,具體包括 AI 訓(xùn)練與推理、3D 設(shè)計和可視化、視頻處理及工業(yè)數(shù)字化等。

6英偉達研究院帶來更多新功能

在英偉達研究院的不懈努力下,更多創(chuàng)新成果也即將揭開面紗。

在本次大秀的現(xiàn)場體驗環(huán)節(jié)中,英偉達研究人員將展示生成式 AI 的工作流程,幫助藝術(shù)家們快速創(chuàng)建和迭代 3D 場景材質(zhì),使用文本或圖像提示詞快速生成自定義紋理材質(zhì),并進行更精細的創(chuàng)意控制。

英偉達研究院還演示了 AI 如何通過新的 3D 功能,將視頻會議體驗提升到新的水平。該研究院最近發(fā)表一篇論文,探討了 AI 如何通過最少的捕捉設(shè)備為 3D 視頻會議系統(tǒng)提供支持。

Maxine 的量產(chǎn)版本現(xiàn)已在英偉達 Enterprise 中開放,允許專業(yè)人士、團隊、創(chuàng)作者等用戶利用 AI 的力量獲取高質(zhì)量音 / 視頻效果,甚至借助標(biāo)準麥克風(fēng)和網(wǎng)絡(luò)攝像頭即可實現(xiàn)。





審核編輯:劉清

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 晶體管
    +關(guān)注

    關(guān)注

    77

    文章

    9499

    瀏覽量

    136927
  • 虛擬機
    +關(guān)注

    關(guān)注

    1

    文章

    888

    瀏覽量

    27811
  • 英偉達
    +關(guān)注

    關(guān)注

    22

    文章

    3637

    瀏覽量

    89833
  • GPU芯片
    +關(guān)注

    關(guān)注

    1

    文章

    303

    瀏覽量

    5747
  • AI芯片
    +關(guān)注

    關(guān)注

    17

    文章

    1828

    瀏覽量

    34663

原文標(biāo)題:英偉達全球首發(fā)超級AI芯片:比上一代快50%,訓(xùn)練大模型成本更低

文章出處:【微信號:AI前線,微信公眾號:AI前線】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    AI模型不再依賴英偉GPU?蘋果揭秘自研大模型

    ,獲得足夠的算力構(gòu)建自己的計算中心,用于訓(xùn)練不同應(yīng)用的AI模型。 AI領(lǐng)域眾星捧月也造就了英偉
    的頭像 發(fā)表于 08-05 06:07 ?3694次閱讀
    <b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>不再依賴<b class='flag-5'>英偉</b><b class='flag-5'>達</b>GPU?蘋果揭秘自研大<b class='flag-5'>模型</b>

    英偉Blackwell可支持10萬億參數(shù)模型AI訓(xùn)練,實時大語言模型推理

    、NVLink交換機、Spectrum以太網(wǎng)交換機和Quantum InfiniBand交換機。 ? 英偉稱,Blackwell擁有6項革命性技術(shù),可支持多達10萬億參數(shù)的模型進行AI
    的頭像 發(fā)表于 09-04 09:10 ?2625次閱讀

    英偉打造人形機器人訓(xùn)練平臺,引領(lǐng)AI新紀元

    英偉近日宣布了一項重大舉措,為全球機器人制造業(yè)與AI領(lǐng)域注入強勁動力。公司推出了專為人形機器人設(shè)計的訓(xùn)練平臺,旨在為行業(yè)領(lǐng)先的制造商、
    的頭像 發(fā)表于 08-05 11:45 ?538次閱讀

    蘋果AI模型訓(xùn)練新動向:攜手谷歌,未選英偉

    近日,蘋果公司發(fā)布的最新研究報告揭示了其在人工智能領(lǐng)域的又一重要戰(zhàn)略選擇——采用谷歌設(shè)計的芯片訓(xùn)練AI模型,而非行業(yè)巨頭英偉
    的頭像 發(fā)表于 08-01 18:11 ?820次閱讀

    蘋果承認使用谷歌芯片訓(xùn)練AI

    蘋果公司最近在一篇技術(shù)論文中披露,其先進的人工智能系統(tǒng)Apple Intelligence背后的兩個關(guān)鍵AI模型,是在谷歌設(shè)計的云端芯片上完成預(yù)訓(xùn)練的。這一消息標(biāo)志著在尖端
    的頭像 發(fā)表于 07-30 17:03 ?597次閱讀

    AI模型訓(xùn)練成本飆升,未來三年或千億美元

    在科技日新月異的今天,人工智能(AI)領(lǐng)域的發(fā)展正以前所未有的速度推進,其中,AI模型的崛起尤為引人注目。然而,隨著模型參數(shù)的持續(xù)膨脹,其背后的訓(xùn)
    的頭像 發(fā)表于 07-11 15:06 ?364次閱讀

    英偉推出AI模型推理服務(wù)NVIDIA NIM

    英偉近日宣布推出一項革命性的AI模型推理服務(wù)——NVIDIA NIM。這項服務(wù)將極大地簡化AI模型
    的頭像 發(fā)表于 06-04 09:15 ?537次閱讀

    英偉首席執(zhí)行官黃仁勛:AI模型推動英偉AI芯片需求

    近來,以ChatGPT為代表的AI聊天機器人已經(jīng)導(dǎo)致英偉AI芯片供應(yīng)緊張。然而,隨著能夠創(chuàng)造視頻并進行近似人類交流的新型
    的頭像 發(fā)表于 05-24 10:04 ?375次閱讀

    進一步解讀英偉 Blackwell 架構(gòu)、NVlink及GB200 超級芯片

    能,加速模型訓(xùn)練和推理過程。 2. 生成式 AI 解決方案 與英偉 Grace CPU、新一代網(wǎng)絡(luò)
    發(fā)表于 05-13 17:16

    英偉擅用版權(quán)作品遭起訴 AI訓(xùn)練數(shù)據(jù)和版權(quán)的矛盾凸顯

    英偉擅用版權(quán)作品遭起訴 AI訓(xùn)練數(shù)據(jù)和版權(quán)的矛盾凸顯 據(jù)外媒路透社的報道,AI訓(xùn)練數(shù)據(jù)和版權(quán)之
    的頭像 發(fā)表于 03-11 14:17 ?449次閱讀

    英偉市值躍居全球第四 文生視頻大模型Sora帶動

    英偉市值躍居全球第四 文生視頻大模型Sora帶動 文生視頻大模型Sora引發(fā)市場關(guān)注;OpenAI的首款文生視頻大
    的頭像 發(fā)表于 02-19 16:48 ?888次閱讀

    英偉涉足定制芯片,聚焦云計算與AI市場

     作為全球高端AI芯片市場80%份額的霸主,英偉自2023以來股價上漲超過兩倍,2024年市值高達1.73萬億美元。知名公司如微軟、Ope
    的頭像 發(fā)表于 02-18 11:08 ?531次閱讀

    英偉DRIVE Thor超級芯片首搭極氪新車

    英偉和極氪汽車宣布了一項令人振奮的合作,新款極氪電動汽車將全球首發(fā)搭載英偉DRIVE Tho
    的頭像 發(fā)表于 01-25 17:25 ?1130次閱讀

    多GPU訓(xùn)練大型模型:資源分配與優(yōu)化技巧|英偉將推出面向中國的改良芯片HGX H20、L20 PCIe、L2 PCIe

    。為了解決這個問題,英偉將針對中國市場推出新的AI芯片,以應(yīng)對美國出口限制。本文將探討如何在多個GPU上訓(xùn)練大型
    的頭像 發(fā)表于 11-16 11:39 ?1440次閱讀
    多GPU<b class='flag-5'>訓(xùn)練</b>大型<b class='flag-5'>模型</b>:資源分配與優(yōu)化技巧|<b class='flag-5'>英偉</b><b class='flag-5'>達</b>將推出面向中國的改良<b class='flag-5'>芯片</b>HGX H20、L20 PCIe、L2 PCIe

    英偉特供版芯片性能降80%!

    報道中提到,英偉的這三款AI芯片并非“改良版”,而是“縮水版”,其分別是HGX H20、L20 PCle和L2 PCle。用于AI
    的頭像 發(fā)表于 11-14 17:09 ?815次閱讀