0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

ChatGPT對GPU算力的需求測算與分析

智能計算芯世界 ? 來源:智能計算芯世界 ? 2023-02-21 09:43 ? 次閱讀

GPGPU的核心壁壘是高精度浮點計算及CUDA生態(tài)。從高精度浮點計算能力來看,國內(nèi)GPU產(chǎn)品與國外產(chǎn)品的計算性能仍或有一代以上差距;在軟件和生態(tài)層面與英偉達CUDA生態(tài)的差距則更為明顯。

AI計算GPU領(lǐng)域,國內(nèi)壁仞科技發(fā)布的BR100產(chǎn)品在FP32單精度計算性能上實現(xiàn)超越NVIDIA A100芯片,但是不支持FP64雙精度計算;天數(shù)智芯推出的天垓100的FP32單精度計算性能實現(xiàn)超越A100芯片,但是在INT8整數(shù)計算性能方面卻低于A100;海光推出的DCU實現(xiàn)了FP64雙精度浮點計算,但是其性能為A100的60%左右,大概相當于其4年前水平。因此,從高精度浮點計算能力來看,國內(nèi)GPU產(chǎn)品與國外產(chǎn)品的計算性能仍或有一代以上差距。

雖然目前國內(nèi)產(chǎn)品的計算性能和軟件生態(tài)實力與國際廠商還有差距,但是,國內(nèi)廠商依然在奮起直追,努力實現(xiàn)GPGPU的國產(chǎn)化突破。長久來看,美國對中國高端GPU的禁售令反而給國產(chǎn)GPGPU和AI芯片廠商帶來快速發(fā)展的機會。

短期來看,我們認為對高端通用計算GPU的禁令可能會影響英偉達和AMD的GPU產(chǎn)品在中國的銷售,中國AI計算、超級計算和云計算產(chǎn)業(yè)進步受到一定的阻礙。可使用英偉達和AMD還沒有被禁止的及國產(chǎn)廠商的中高計算性能CPU、GPU、ASIC芯片等替代。

長期來看,國產(chǎn)CPU、GPU、AI芯片廠商受益于龐大的國內(nèi)市場,疊加國內(nèi)信創(chuàng)市場帶來國產(chǎn)化需求增量,我們預(yù)期國內(nèi)AI芯片的國產(chǎn)化比例將顯著提升,借此機會進行產(chǎn)品升級,逐漸達到國際先進水平,突破封鎖。

252d9224-b179-11ed-bfe3-dac502259ad0.png

25601a32-b179-11ed-bfe3-dac502259ad0.png

25c4ce14-b179-11ed-bfe3-dac502259ad0.png

26200658-b179-11ed-bfe3-dac502259ad0.png

26702eee-b179-11ed-bfe3-dac502259ad0.png

269a6c2c-b179-11ed-bfe3-dac502259ad0.png

26e77c10-b179-11ed-bfe3-dac502259ad0.png

2734b1e2-b179-11ed-bfe3-dac502259ad0.png

27a7ff58-b179-11ed-bfe3-dac502259ad0.png

2818d76e-b179-11ed-bfe3-dac502259ad0.png

2871b690-b179-11ed-bfe3-dac502259ad0.png

28bdec54-b179-11ed-bfe3-dac502259ad0.png

2904abf8-b179-11ed-bfe3-dac502259ad0.png

292f6e1a-b179-11ed-bfe3-dac502259ad0.png

29829590-b179-11ed-bfe3-dac502259ad0.png

29baab24-b179-11ed-bfe3-dac502259ad0.png

29f2e7b4-b179-11ed-bfe3-dac502259ad0.png

2a2451f0-b179-11ed-bfe3-dac502259ad0.png

2a734e4a-b179-11ed-bfe3-dac502259ad0.png

2aaf76d6-b179-11ed-bfe3-dac502259ad0.png

2af9dece-b179-11ed-bfe3-dac502259ad0.png

2b16e636-b179-11ed-bfe3-dac502259ad0.png

2b695d94-b179-11ed-bfe3-dac502259ad0.png

2ba82718-b179-11ed-bfe3-dac502259ad0.png

2bdfcee8-b179-11ed-bfe3-dac502259ad0.png

2c1b7f56-b179-11ed-bfe3-dac502259ad0.png

2c82d1ba-b179-11ed-bfe3-dac502259ad0.png

2cc716fe-b179-11ed-bfe3-dac502259ad0.png

2d2c8066-b179-11ed-bfe3-dac502259ad0.png

2d710cb8-b179-11ed-bfe3-dac502259ad0.png

2db79ebc-b179-11ed-bfe3-dac502259ad0.png

2df3a6e6-b179-11ed-bfe3-dac502259ad0.png

本文選自“ChatGPT對GPU算力的需求測算與相關(guān)分析”,以上為部分內(nèi)容,完整報告請參看原文。

審核編輯 :李倩

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 芯片
    +關(guān)注

    關(guān)注

    450

    文章

    49636

    瀏覽量

    417194
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    27

    文章

    4591

    瀏覽量

    128144
  • ChatGPT
    +關(guān)注

    關(guān)注

    28

    文章

    1517

    瀏覽量

    6935

原文標題:ChatGPT對GPU算力的需求測算與分析

文章出處:【微信號:AI_Architect,微信公眾號:智能計算芯世界】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    需求爆發(fā),租賃價格暴漲200%!廠商紛紛加碼,未來趨勢如何?

    實際使用情況支付相應(yīng)費用。使用者通過租賃計算資源,可以快速地啟動項目,減少相應(yīng)成本。 ? 今年以來,大模型、人工智能技術(shù)快速發(fā)展,需求大爆發(fā)。GPU
    的頭像 發(fā)表于 12-04 06:43 ?2858次閱讀

    【書籍評測活動NO.43】 芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析

    的應(yīng)用需求。 12年前,我與本書作者相識時,他向我提出一個想法:建立中關(guān)村在線高性能計算頻道。該頻道隸屬于核心硬件事業(yè)部,聚焦芯片相關(guān)的產(chǎn)品技術(shù)分析、評測,并為企業(yè)客戶提供內(nèi)部參考
    發(fā)表于 09-02 10:09

    大模型時代的需求

    現(xiàn)在AI已進入大模型時代,各企業(yè)都爭相部署大模型,但如何保證大模型的,以及相關(guān)的穩(wěn)定性和性能,是一個極為重要的問題,帶著這個極為重要的問題,我需要在此書中找到答案。
    發(fā)表于 08-20 09:04

    【書籍評測活動NO.41】大模型時代的基礎(chǔ)架構(gòu):大模型中心建設(shè)指南

    書籍介紹 大模型是近年來引人注目的熱點之一。大模型蓬勃發(fā)展的基礎(chǔ),是針對其需求設(shè)計的及基礎(chǔ)架構(gòu)。本書針對如何為大模型構(gòu)建基礎(chǔ)架構(gòu)進行深入講解,并基于TOGAF方法論,剖析業(yè)界知名案例的設(shè)計方案
    發(fā)表于 08-16 18:33

    服務(wù)器為什么選擇GPU

    隨著人工智能技術(shù)的快速普及,需求日益增長。智中心的服務(wù)器作為支撐大規(guī)模數(shù)據(jù)處理和計算的核心設(shè)備,其性能優(yōu)化顯得尤為關(guān)鍵。而GPU服務(wù)器
    的頭像 發(fā)表于 07-25 08:28 ?276次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>服務(wù)器為什么選擇<b class='flag-5'>GPU</b>

    摩爾線程張建中:以國產(chǎn)助力數(shù)智世界,滿足大模型需求

    摩爾線程創(chuàng)始人兼CEO張建中在會上透露,為了滿足國內(nèi)對AI的迫切需求,他們正在積極尋求與國內(nèi)頂尖科研機構(gòu)的深度合作,共同推動更大規(guī)模的AI智集群項目。
    的頭像 發(fā)表于 05-10 16:36 ?627次閱讀

    十問:超,通存比

    鄔賀銓指出,現(xiàn)有測算方法難以精準衡量。國內(nèi)企業(yè)服務(wù)器的出貨量并不等于國內(nèi)市場的使用量,而且進口國外的服務(wù)器未統(tǒng)計在內(nèi);服務(wù)器出貨量也不等于上架量,更不等于已經(jīng)加電使用量。通常服務(wù)器集群的
    的頭像 發(fā)表于 04-13 11:40 ?3614次閱讀

    液冷是大模型對需求的必然選擇?|英偉達 GTC 2024六大亮點

    在這個以高性能計算和大模型推動未來通用人工智能時代,已成為科技發(fā)展的隱形支柱。本文將重點探討的演進,深入分析在不同領(lǐng)域中
    的頭像 發(fā)表于 04-10 12:57 ?345次閱讀
    液冷是大模型對<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>需求</b>的必然選擇?|英偉達 GTC 2024六大亮點

    Sora需求引發(fā)業(yè)界對集結(jié)國內(nèi)AI企業(yè)的探討

    據(jù)周鴻祎觀察,Sora視頻分析所需恐遠超千億規(guī)模模型。因而,考慮到如今國內(nèi)芯片供應(yīng)受限,問題至關(guān)重要。事實上,Meta已有約50萬臺
    的頭像 發(fā)表于 02-25 10:03 ?450次閱讀

    大茉莉X16-P,5800M大稱王稱霸

    Rykj365
    發(fā)布于 :2024年01月25日 14:54:52

    深入分析評估GPU需求

    長期來看,國產(chǎn)CPU、GPU、AI芯片廠商受益于龐大的國內(nèi)市場,疊加國內(nèi)信創(chuàng)市場帶來國產(chǎn)化需求增量,我們預(yù)期國內(nèi)AI芯片的國產(chǎn)化比例將顯著提升,借此機會進行產(chǎn)品升級,逐漸達到國際先進水平,突破封鎖。
    發(fā)表于 01-17 11:45 ?646次閱讀
    深入<b class='flag-5'>分析</b>評估<b class='flag-5'>GPU</b><b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>需求</b>

    GPU是顯卡嗎 cpu和gpu哪個

    很大的區(qū)別,因此它們的計算能力也不同。 首先,我們來看一下CPU(中央處理器)的。CPU是一種通用處理器,它被設(shè)計用于處理各種不同類型的任務(wù),包括數(shù)據(jù)處理、指令執(zhí)行、邏輯控制等。CPU的核心數(shù)量和頻率是衡量其
    的頭像 發(fā)表于 01-10 15:45 ?4459次閱讀

    芯科技,解密ChatGPT暢聊之芯片

    GPU服務(wù)器,尤其是英偉達的A100 GPU,提供了強大而精確的計算能力。ChatGPT的功能遠超日常對話,它能夠?qū)W習(xí)、理解并生成人類般的文本,是人工智能領(lǐng)域的一個重要突破。但其真正力量的源泉,是背后那些不斷工作的
    的頭像 發(fā)表于 12-27 07:45 ?805次閱讀
    芯科技,解密<b class='flag-5'>ChatGPT</b>暢聊之<b class='flag-5'>算</b><b class='flag-5'>力</b>芯片

    人工智能為什么需要GPU?

    GPU前面加一個“GP”,就變?yōu)镚eneral-Purpose Computing on Graphics Processing Units,即通用計算圖形處理器。我們?nèi)バg(shù)語化,可以直接說這是一種用于處理非特定需求(通用類型)計算目的的
    發(fā)表于 11-10 14:48 ?5417次閱讀
    人工智能<b class='flag-5'>算</b><b class='flag-5'>力</b>為什么需要<b class='flag-5'>GPU</b>?

    ChatGPT迎重磅升級 需求噴發(fā)可期

    在OpenAI給出的示例視頻中可以看到,當用戶向ChatGPT發(fā)送一張自行車照片、詢問如何調(diào)低車墊時,ChatGPT不僅會自發(fā)觀察自行車型號、辨認零部件、給出詳細步驟,還會看說明書,并分辨用戶現(xiàn)有工具能否完成這項工作。
    的頭像 發(fā)表于 09-27 17:11 ?778次閱讀