0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

?CPU開始淪為配角

jf_GctfwYN7 ? 來源:IC修真院 ? 2023-11-16 14:21 ? 次閱讀

最近,英特爾財務長DavidZinsner表示,雖然數(shù)據(jù)中心芯片需求在過去兩季有所好轉,但庫存消化將比電腦芯片更長,可能還要過幾季才能達到較佳的狀態(tài)。在這個AI被炒的火熱的時代,當英特爾說數(shù)據(jù)中心芯片的庫存正在積壓,出乎很多人的意料。

01 前所未有的壓力

PC產(chǎn)業(yè)正同時經(jīng)歷“加速運算”和“生成式AI”兩大轉變。據(jù)Gartner最新報告,2023年全球用于AI的硬件銷售收入預計將達到534億美元,按年增長20.9%,這一銷售還將在2024年進一步增長到671億美元,在2027年進一步增長到1194億美元。

今年,不少互聯(lián)網(wǎng)公司紛紛開發(fā)自己的大模型。3月,百度制作了類似ChatGPT的項目ErnieBot;4月,騰訊云發(fā)布了新的服務器集群,該集群可供其他人租用計算能力;阿里巴巴計劃將所有產(chǎn)品插入大型語言模型,包括在線購物平臺淘寶和地圖工具高德地圖。

據(jù)報道,目前百度、騰訊、阿里巴巴和字節(jié)跳動四家公司合計向英偉達訂購了價值50億美元的AI芯片。這些芯片包括英偉達2023年發(fā)貨的10萬塊A800芯片,價值10億美元,另外價值40億美元的芯片將在2024年交付。

數(shù)據(jù)中心芯片風光一時無兩。目前,數(shù)據(jù)中心領域有三大巨頭:英特爾、英偉達、AMD。在數(shù)據(jù)中心CPU方面,根據(jù)Counterpoint數(shù)據(jù),2022年英特爾以71%的份額保持數(shù)據(jù)中心市場的領先地位,AMD以20%的市場份額位居第二。

在數(shù)據(jù)中心GPU方面,英偉達不僅占有一席之地,甚至可以說幾乎“壟斷”。英偉達數(shù)據(jù)中心產(chǎn)品的客戶主要來自云服務商和大型互聯(lián)網(wǎng)公司,它們貢獻了英偉達大約一半的數(shù)據(jù)中心收入。英偉達的GPU用于ChatGPT等人工智能應用程序背后大模型的訓練和推理,目前科技公司對英偉達最高端的人工智能芯片H100的需求極大。

從今年的業(yè)績來看,英偉達是毋庸置疑的收入暴漲,尤其是在數(shù)據(jù)中心領域,在英偉達公布的截至7月30日的季度財報中,英偉達數(shù)據(jù)中心業(yè)務收入增長141%至103億美元,占其總收入比超過76%。按照這種趨勢,有分析師估計,到2025財年,英偉達的數(shù)據(jù)中心部門收入將擴大到400億美元。

英偉達如此強勢,其他兩大巨頭自然頗受影響。

AMD對數(shù)據(jù)中心同時供應CPU、GPU、FPGA、DPU和SoC,二季度AMD的數(shù)據(jù)中心業(yè)務下滑了。根據(jù)其財報數(shù)據(jù),AMD數(shù)據(jù)中心營收為13.21億美元,同比下滑11%。AMD坦言,報告期內(nèi)的Epyc處理器銷售沒有預期那么好,而且加大的研發(fā)支出也攤薄了利潤率。

從二季度的業(yè)績來看,英特爾數(shù)據(jù)中心和人工智能業(yè)務銷售額從去年同期的47億美元下降15%至40億美元。英特爾首席執(zhí)行官帕特·基辛格表示,服務器CPU的庫存過剩將持續(xù)到今年下半年,數(shù)據(jù)中心芯片銷售將在第三季度小幅下降,在第四季度恢復。

對于英特爾抱怨數(shù)據(jù)中心芯片庫存積壓,分析師陸行之表示:“庫存難消耗有兩種原因,一是產(chǎn)能利用率維持高檔不墜、超過穩(wěn)定需求,二是需求下降速度快過產(chǎn)能利用率下降速度?!彼J為,英特爾在數(shù)據(jù)中心早已喪失話語權。依據(jù)預算的排擠效應,每買一臺AI服務器,就少買幾臺通用服務器,即使功用不盡相同,但這趨勢應該會持續(xù)數(shù)個季度,甚至數(shù)年。

一臺AI服務器價格比通用服務器貴20倍以上,也因此客戶無法大幅加碼服務器采購預算,只能少買數(shù)臺通用服務器。如果一臺AI服務器使用兩顆英特爾的CPU,假設少買三臺,那就少了6顆比較便宜的CPU需求,也就是為什么英特爾的CPU庫存被積壓。

實際上,不止陸行之認為英特爾在數(shù)據(jù)中心早已喪失話語權。Global X分析師Tejas Dessai也認為,英特爾等對于AI著墨不深的傳統(tǒng)芯片企業(yè),恐面臨市占率下滑窘境。也有業(yè)內(nèi)人士表示,生成式AI改變了數(shù)據(jù)中心平臺的戰(zhàn)局,英特爾、AMD正面臨前所未有的壓力。

02 CPU開始淪為配角

今年的市場中,通用服務器和AI服務器需求出現(xiàn)了兩極分化。

AI服務器和通用服務器的差異是什么?實際上,比起通用服務器以CPU為主要算力,AI服務器則是以GPU為主要架構,通過異質運算架構提高運算能力。目前依據(jù)應用的類型,AI服務器可以分為訓練和推理兩種。

從前電腦、服務器最重要的零組件是CPU,但隨著需要大量運算能力的AI應用出現(xiàn)后,CPU開始淪為配角,GPU的時代開啟了。

從目前AI服務器的市場來看,一張主板需要1~8個GPU、1~2個CPU,以及1個Arm Grace CPU,其中英偉達的GPU市場占有率超過8成,并以運算效能達5 PetaFLOPS的DGX A100和H100為AI服務器運算主力。

即使英偉達的GPU價格高昂,但是效率是遠高于其他產(chǎn)品的。一起來算一筆賬,假設建置數(shù)據(jù)中心預算為1000萬美元,可以選擇建置1座搭載960顆CPU、電力消耗達11GW的數(shù)據(jù)中心,可提供1倍的大型語言模型LLM處理性能;但是選擇建置1座有48顆GPU、功耗僅需3.2GW的數(shù)據(jù)中心,且LLM資料處理量是CPU的44倍。

從綜合成本收益來看,還是占優(yōu)。更何況英偉達GPU在人工智能的推理和計算方面獨具優(yōu)勢。因此一些財務實力不雄厚甚至負債累累的初創(chuàng)企業(yè)也在搶購英偉達芯片。這也就是為什么黃仁勛之前表示:買的越多,省的越多(The more you buy,the more you save.)。

在15年前,黃仁勛就表示,CUDA運算效果較CPU高出10~100倍。GPU應用能力早已不亞于CPU,甚至更勝一籌,自家GPU持續(xù)擴大生態(tài)系統(tǒng)(ecosystem),全新視覺運算世代即將來臨。今年,黃仁勛更是直接說到:“盡管CPU過去幾年運算速度不斷提升,但進入AI時代后,以CPU為運算基礎的時代已經(jīng)結束,現(xiàn)在大型語言模型(LLM)需要更新的解決方案?!?/p>

業(yè)界分析師估計,AI芯片市場有超過8成掌握在英偉達手里。在一篇名為《Nvidia H100 GPU:供需》文章中,深度剖析了當前科技公司們對GPU的使用情況和需求。文章推測,小型和大型云提供商的大規(guī)模H100集群容量即將耗盡,H100的需求趨勢至少會持續(xù)到2024年底。不過,目前英偉達GPU的產(chǎn)能受到供應鏈的限制,給英特爾和AMD反超的機會。

03 AI趨勢下,英特爾、AMD能分到一杯羹嗎?

英特爾不會放過AI發(fā)展的浪潮。今年英特爾在加州圣何塞舉辦Innovation 2023活動中,AI是貫穿始終的主旋律。

演講開篇,英特爾執(zhí)行長帕特·基辛格便表示,AI正在催生全球增長的新時代,在新時代當中,算力便起到了重要的作用,開發(fā)者正迎來巨大的商業(yè)和社會機會——算力離不開芯片,如今芯片形成了規(guī)模達5740億美元的行業(yè),驅動著全球背后約8萬億美元的技術經(jīng)濟。

數(shù)據(jù)中心方面,英特爾將數(shù)據(jù)中心芯片分為兩類,包括著重效能但耗能更高的Granite Rapids芯片,以及聚焦能源效率的Sierra Forest芯片。目前英特爾新款數(shù)據(jù)中心芯片“Sierra Forest”已經(jīng)預定明年上市,每瓦性能將比目前的數(shù)據(jù)中心芯片提高240%。這是英特爾首次披露這類數(shù)據(jù),對性能的提前披露,也能看出英特爾頗為著急。

看一下Granite Rapids和Sierra Forest這兩款數(shù)據(jù)中心芯片的具體細節(jié)。Sierra Forest,它是英特爾首款用于數(shù)據(jù)中心的E核Xeon可擴展芯片,還是基于EUV的Intel 3工藝的主導產(chǎn)品。Granite Rapids可將AI工作負載性能提升2-3倍,實現(xiàn)2.8倍的更好內(nèi)存帶寬,內(nèi)存模組MCR DIMM帶寬可提高30-40%。

英特爾預估,在AI戰(zhàn)場,還需要幾年時間,應該就可以追上NVIDIA在高端AI相關的進展,除此之外,英特爾在HPC是具有高度優(yōu)勢,HPC與AI未來是會匯聚,英特爾除了AI持續(xù)進展,HPC更具有優(yōu)勢。

AMD也在發(fā)力。AMD也跟英特爾一樣面臨產(chǎn)品推出時機落后的問題,旗艦AI芯片MI300目前僅少量送樣,要到明年才會上市。AMD數(shù)據(jù)中心硬件部門主管諾羅德(Forrest Norrod)表示,ChatGPT引爆的AI熱潮是AMD始料未及的。

目前,AMD已經(jīng)將人工智能作為分配資源和投資的首要領域。AMD正在增加AI相關的研發(fā)支出,并已經(jīng)制定AI戰(zhàn)略——包括AI專用芯片和軟件的開發(fā)。

對標英偉達AI芯片H100的大模型專用芯片,AMD的MI300X號稱HBM密度高達英偉達H100的2.4倍,HBM帶寬高達H100的1.6倍,單個芯片可運行多達800億參數(shù)的模型,可以運行比H100更大的模型。

也有市場機構看好AMD,Northland資本市場分析師理查(Gus Richard)預期,AMD未來可望在AI芯片市場拿下20%市占率。他認為除了AMD芯片表現(xiàn)不凡之外,AMD與大型數(shù)據(jù)中心的合作關系也有利AI芯片銷售。

值得注意的是,從晶圓代工的角度來看,數(shù)據(jù)中心芯片對高級節(jié)點的需求不斷增加。AMD在最近5年中崛起,并且在PC、服務器領域能夠威脅英特爾,其2018年宣布擁抱臺積電7nm是個關鍵決定。而英偉達也一直和臺積電關系緊密,盡管部分產(chǎn)品因分散風險、價格考量而轉由三星代工,如先前的RTX 30系列,但面臨三星制程技術落后下,最終RTX 40系列也回歸臺積電。

不管怎么說,在英特爾和AMD最新的數(shù)據(jù)中心芯片明年大量出貨之前,英偉達的高端GPU沒有抗打的對手。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 英特爾
    +關注

    關注

    60

    文章

    9749

    瀏覽量

    170657
  • 數(shù)據(jù)中心

    關注

    16

    文章

    4517

    瀏覽量

    71637
  • ChatGPT
    +關注

    關注

    28

    文章

    1517

    瀏覽量

    6937

原文標題:?CPU開始淪為配角

文章出處:【微信號:IC修真院,微信公眾號:IC修真院】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    什么是CPU緩存?它有哪些作用?

    CPU緩存(Cache Memory)是計算機系統(tǒng)中一個至關重要的組成部分,它位于CPU與內(nèi)存之間,作為兩者之間的臨時存儲器。CPU緩存的主要作用是減少CPU訪問內(nèi)存所需的時間,從而提
    的頭像 發(fā)表于 08-22 14:54 ?986次閱讀

    超級電容器,后燃油車時代的完美配角

    超級電容器,后燃油車時代的完美配角多國陸續(xù)發(fā)布燃油車禁售時間表,宣告燃油車即將退出歷史舞臺。汽車產(chǎn)業(yè)的過渡期內(nèi),混合動力、純電動、燃料電池等不同技術路線汽車廠商的市場競爭日益加劇,紛紛搶占先機。頗值
    的頭像 發(fā)表于 06-28 11:30 ?1033次閱讀
    超級電容器,后燃油車時代的完美<b class='flag-5'>配角</b>

    如何將S7-1500 CPU重置為出廠設置呢?

    如果在項目環(huán)境中開始重置為出廠設置,必須具有到相關 CPU 的在線連接。
    的頭像 發(fā)表于 05-21 11:15 ?2086次閱讀
    如何將S7-1500 <b class='flag-5'>CPU</b>重置為出廠設置呢?

    CPU的各種知識

    1、CPU的位和字長位:在數(shù)字電路和電腦技術中采用二進制,代碼只有“0”和“1”,其中無論是“0”或是“1”在CPU中都是一“位”。字長:電腦技術中對CPU在單位時間內(nèi)(同一時間)能一次處理的二進制
    的頭像 發(fā)表于 04-19 08:26 ?291次閱讀
    <b class='flag-5'>CPU</b>的各種知識

    從頭開始構建 RISC-V CPU使用分立邏輯芯片,通過最熱門的新架構構建功能驚人的 CPU

    這是一種驅使人們自愿構建自己的CPU的癢。我們開始思考我們理解中的空白,這個空白潛伏在邏輯門和觸發(fā)器如何單獨工作以及機器代碼如何控制完全組裝的處理器之間。在硬連線電路開始隨著軟件不斷變化的曲調跳舞
    的頭像 發(fā)表于 04-02 17:28 ?1376次閱讀

    服務器cpu和普通電腦cpu的區(qū)別

    服務器CPU和普通電腦CPU之間存在許多區(qū)別。在以下文章中,我們將詳細介紹服務器CPU和普通電腦CPU之間的區(qū)別,并探討它們在性能、穩(wěn)定性、擴展性、功耗和可靠性方面的差異。 一、性能
    的頭像 發(fā)表于 02-01 11:14 ?5531次閱讀

    cpu溫度太高怎么解決?cpu溫度高的原因?

    cpu溫度太高怎么解決?cpu溫度高的原因? CPU (中央處理器) 溫度過高可能會導致系統(tǒng)崩潰、性能下降甚至損壞硬件,因此是一個需要嚴肅對待的問題。在本文中,我們將探討CPU溫度過高
    的頭像 發(fā)表于 12-09 16:15 ?2399次閱讀

    secondary cpu初始化狀態(tài)設置

    spin-table spin-table啟動流程的示意圖如下: 芯片上電后primary cpu開始執(zhí)行啟動流程,而secondary cpu則將自身設置為WFE睡眠狀態(tài),并且為內(nèi)核準備了一塊內(nèi)存
    的頭像 發(fā)表于 12-05 15:27 ?803次閱讀
    secondary <b class='flag-5'>cpu</b>初始化狀態(tài)設置

    cpu滿載是什么原因 cpu容易滿載怎么辦 cpu過高怎么處理

    cpu滿載是什么原因 cpu容易滿載怎么辦 cpu過高怎么處理? CPU滿載是指CPU的使用率非常高,接近或達到100%的狀態(tài)。
    的頭像 發(fā)表于 11-28 17:29 ?9450次閱讀

    CPU技術路線、分類及運行原理

    CPU按用途可分為桌面、服務器、移動端CPU和嵌入式CPU。桌面CPU主要應用于個人計算機(臺式機、筆記本電腦)。服務器CPU主要用于服務器
    發(fā)表于 11-27 10:02 ?1402次閱讀
    <b class='flag-5'>CPU</b>技術路線、分類及運行原理

    西門子博圖 :如何讀取CPU時鐘的本地時間

    使用該指令從 CPU 時鐘讀取當前本地時間,并將此時間在 OUT 輸出中輸出。在輸出本地時間時,會用到夏令時和標準時間的時區(qū)和開始時間(已在 CPU 時鐘的組態(tài)中設置)的相關信息。
    發(fā)表于 11-20 15:24 ?4632次閱讀
    西門子博圖 :如何讀取<b class='flag-5'>CPU</b>時鐘的本地時間

    AMD計劃生產(chǎn)基于Arm架構的CPU

    英偉達已經(jīng)開始設計基于 Arm 架構的 CPU。該處理器將運行微軟 Windows 操作系統(tǒng)。此外,AMD 也計劃生產(chǎn)基于 Arm 架構的 CPU
    的頭像 發(fā)表于 10-27 10:53 ?950次閱讀

    單周期cpu和多周期cpu的區(qū)別 多周期cpu和流水線的區(qū)別

    單周期cpu和多周期cpu的區(qū)別 多周期cpu和流水線的區(qū)別? 單周期CPU和多周期CPU的區(qū)別 單周期
    的頭像 發(fā)表于 10-19 16:53 ?1w次閱讀

    這類芯片,開始漲價了!

    來源:芯極速 編輯:感知芯視界 Link 行情回暖,半導體庫存調整出現(xiàn)好兆頭,最早淪為殺價重災區(qū)的MCU市場,之前帶頭砍價的廠商正在陸續(xù)停止殺價清庫存策略,部分產(chǎn)品甚至開始漲價。 有MCU廠商透露
    的頭像 發(fā)表于 10-17 11:04 ?316次閱讀

    通用服務器和AI服務器出現(xiàn)兩極分化 ?CPU開始淪為配角

    數(shù)據(jù)中心芯片風光一時無兩。目前,數(shù)據(jù)中心領域有三大巨頭:英特爾、英偉達、AMD。在數(shù)據(jù)中心CPU方面,根據(jù)Counterpoint數(shù)據(jù),2022年英特爾以71%的份額保持數(shù)據(jù)中心市場的領先地位,AMD以20%的市場份額位居第二。
    發(fā)表于 10-11 11:46 ?676次閱讀