搜索歷史

清空
搜索熱詞
      0
      • 聊天消息
      • 系統(tǒng)消息
      • 評(píng)論與回復(fù)
      VIP于 到期 續(xù)費(fèi)
      登錄后你可以
      • 下載海量資料
      • 學(xué)習(xí)在線課程
      • 觀看技術(shù)視頻
      • 寫(xiě)文章/發(fā)帖/加入社區(qū)
      會(huì)員中心
      創(chuàng)作中心
      發(fā)布
      創(chuàng)作活動(dòng)

      完善資料讓更多小伙伴認(rèn)識(shí)你，還能領(lǐng)取20積分哦，立即完善>

      3天內(nèi)不再提示

      GTC 2023直播：英偉達(dá)推出Hopper GPU，速度比PCIE快7倍

      西西 ? 來(lái)源：GTC 2023主題直播 ? 作者：GTC 2023主題直播 ? 2023-03-22 12:40 ? 次閱讀

      針對(duì)ChatGPT等大型語(yǔ)言模型的推理，我們宣布推出一款新的Hopper GPU配備雙GPU NVLINK的PCIE H100

      poYBAGQah7OAPltqAAW93y8Azrc477.png

      同時(shí)還可支持商用PCIE服務(wù)器輕松擴(kuò)展

      目前在云上唯一可以實(shí)際處理ChatGPT的GPU是HGX A100與適用于GPT-3處理的HGX A100相比，一臺(tái)搭載四對(duì)H100及雙GPU NVLINK的標(biāo)準(zhǔn)服務(wù)器的速度

      H100可將大型語(yǔ)言模型的處理成本，降低一個(gè)數(shù)量級(jí)

      pYYBAGQah8yAQuDdAALW4wlNKRs308.png

      Grace Hopper非常適合處理大型數(shù)據(jù)集，例如適用于推薦系統(tǒng)和大型語(yǔ)言模型的AI數(shù)據(jù)庫(kù)。

      如今，利用大容量?jī)?nèi)存，CPU會(huì)存儲(chǔ)和查詢巨型嵌入表，然后將結(jié)果傳輸?shù)紾PU進(jìn)行推理，借助Grace-Hopper， Grace可以查詢嵌入表，并將結(jié)果直接傳輸?shù)紿opper速度比PCIE快7倍

      poYBAGQah9uAUneuAAIloky6pG4956.png

      GTC 2023主題直播地址：https://t.elecfans.com/live/2302.html

      聲明：本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題，請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
      • cpu
        cpu
        +關(guān)注

        關(guān)注

        68

        文章

        10804

        瀏覽量

        210829
      • 服務(wù)器
        +關(guān)注

        關(guān)注

        12

        文章

        8958

        瀏覽量

        85082
      • gtc
        gtc
        +關(guān)注

        關(guān)注

        0

        文章

        73

        瀏覽量

        4406
      • ChatGPT
        +關(guān)注

        關(guān)注

        29

        文章

        1546

        瀏覽量

        7358
      收藏 人收藏

        評(píng)論

        相關(guān)推薦

        英偉達(dá)發(fā)布新一代H200，搭載HBM3e，推理速度是H100兩倍！

        兼容，在推理速度上幾乎達(dá)到H100的兩倍。H200預(yù)計(jì)將于明年二季度開(kāi)始交付。此外，英偉達(dá)還透露，下一代Blackwell B100 GPU
        的頭像 發(fā)表于 11-15 01:15 ?3387次閱讀
        <b class='flag-5'>英偉</b><b class='flag-5'>達(dá)</b>發(fā)布新一代H200，搭載HBM3e，推理<b class='flag-5'>速度</b>是H100兩<b class='flag-5'>倍</b>！

        軟銀升級(jí)人工智能計(jì)算平臺(tái),安裝4000顆英偉達(dá)Hopper GPU

        軟銀公司宣布，其正在擴(kuò)展的日本頂級(jí)人工智能計(jì)算平臺(tái)已安裝了約4000顆英偉達(dá)Hopper GPU。這一舉措顯著提升了平臺(tái)的計(jì)算能力。據(jù)悉，該平臺(tái)自2
        的頭像 發(fā)表于 11-04 16:18 ?350次閱讀

        英偉達(dá):Hopper芯片需求強(qiáng)勁 英偉達(dá)發(fā)言人談生產(chǎn)增長(zhǎng)

        據(jù)外媒報(bào)道，英偉達(dá)發(fā)言人透露Hopper芯片需求強(qiáng)勁，而且Blackwell 芯片的廣泛采樣也已經(jīng)開(kāi)啟。而對(duì)于產(chǎn)量問(wèn)題；則表示有望在下半年實(shí)現(xiàn)增長(zhǎng)。
        的頭像 發(fā)表于 08-03 17:25 ?2640次閱讀

        英偉達(dá)GPU新品規(guī)劃與HBM市場(chǎng)展望

        在COMPUTEX 2024主題演講中，英偉達(dá)（NVIDIA）公布了其GPU產(chǎn)品的未來(lái)規(guī)劃。據(jù)英偉達(dá)透露，B100、B200和GB200系列
        的頭像 發(fā)表于 06-13 09:44 ?739次閱讀

        英偉達(dá)去年數(shù)據(jù)中心GPU出貨量占比約98%

        半導(dǎo)體分析公司TechInsights的最新報(bào)告揭示了英偉達(dá)在數(shù)據(jù)中心GPU領(lǐng)域的驚人增長(zhǎng)。據(jù)悉，在2023年，英偉
        的頭像 發(fā)表于 06-12 16:06 ?447次閱讀

        亞馬遜AWS暫緩訂購(gòu)英偉達(dá)Grace Hopper，等待新品Grace Blackwel

        今年 3 月，英偉達(dá)宣布了新款人工智能處理器Blackwell，比上一代Hopper提前不到一年面世。CEO黃仁勛表示，新產(chǎn)品在訓(xùn)練大規(guī)模語(yǔ)言模型方面的性能將提升一倍。
        的頭像 發(fā)表于 05-22 12:03 ?608次閱讀

        英偉達(dá)靜候新品來(lái)臨，亞馬遜暫緩購(gòu)買(mǎi)Grace Hopper

        今年3月，英偉達(dá)發(fā)布了全新的Blackwell處理器，距離前任產(chǎn)品Hopper的發(fā)布不過(guò)短短一年。英偉達(dá)首席執(zhí)行官黃仁勛表示，新款產(chǎn)品在訓(xùn)練
        的頭像 發(fā)表于 05-22 09:07 ?263次閱讀

        進(jìn)一步解讀英偉達(dá) Blackwell 架構(gòu)、NVlink及GB200 超級(jí)芯片

        2024年3月19日，[英偉達(dá)]CEO[黃仁勛]在GTC大會(huì)上公布了新一代AI芯片架構(gòu)BLACKWELL，并推出基于該架構(gòu)的超級(jí)芯片GB200，將助推數(shù)據(jù)處理、工程模擬、電子設(shè)計(jì)自動(dòng)化
        發(fā)表于 05-13 17:16

        英偉達(dá)發(fā)布新一代AI芯片架構(gòu)Blackwell GPU

        近日，英偉達(dá)首席執(zhí)行官黃仁勛在GTC 2024會(huì)議上發(fā)表主題演講，重磅推出全新AI芯片架構(gòu)Blackwell GPU。這一創(chuàng)新技術(shù)的首款芯片
        的頭像 發(fā)表于 03-26 11:19 ?799次閱讀

        英偉達(dá)宣布推出新一代GPU Blackwell，SK海力士已量產(chǎn)HBM3E

        在英偉達(dá)GTC 2024大會(huì)上，英偉達(dá)CEO黃仁勛宣布推出新一代
        的頭像 發(fā)表于 03-20 11:32 ?1098次閱讀
        <b class='flag-5'>英偉</b><b class='flag-5'>達(dá)</b>宣布<b class='flag-5'>推出</b>新一代<b class='flag-5'>GPU</b> Blackwell，SK海力士已量產(chǎn)HBM3E

        英偉達(dá)發(fā)布性能大幅提升的新款B200 AI GPU

        英偉達(dá)宣稱，B200在性能上比以往最好的GPU快30倍不止。由它構(gòu)成的服務(wù)器集群相比上一代，運(yùn)算
        的頭像 發(fā)表于 03-20 09:37 ?712次閱讀

        英偉達(dá)GTC大會(huì)將開(kāi)幕 黃仁勛將帶你《見(jiàn)證AI的變革時(shí)刻》

        英偉達(dá)GTC大會(huì)將開(kāi)幕 黃仁勛將帶你《見(jiàn)證AI的變革時(shí)刻》 全球都在關(guān)注的英偉達(dá)GTC大會(huì)將開(kāi)幕
        的頭像 發(fā)表于 03-18 18:25 ?1297次閱讀

        英偉達(dá)GTC大會(huì)即將召開(kāi)，聚焦AI與機(jī)器人技術(shù)前沿

        備受矚目的英偉達(dá)GTC大會(huì)將于3月18日至21日盛大舉行。作為英偉達(dá)每年最重要的技術(shù)發(fā)布平臺(tái)，GTC
        的頭像 發(fā)表于 03-18 11:31 ?959次閱讀

        英偉達(dá)Grace-Hopper提供一個(gè)緊密集成的CPU + GPU解決方案

        英偉達(dá)Grace-Hopper提供了一個(gè)緊密集成的CPU + GPU解決方案，針對(duì)生成式人工智能逐漸成為主導(dǎo)的市場(chǎng)環(huán)境。
        的頭像 發(fā)表于 01-02 15:52 ?855次閱讀

        英偉達(dá)新一代人工智能（AI）芯片HGX H200

        基于英偉達(dá)的“Hopper”架構(gòu)的H200也是該公司第一款使用HBM3e內(nèi)存的芯片，這種內(nèi)存速度更快，容量更大，因此更適合大語(yǔ)言模型。英偉
        發(fā)表于 11-15 11:17 ?760次閱讀

        感谢您访问我们的网站，您可能还对以下资源感兴趣：

        好色先生污app