0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

微軟砍單英偉達(dá)H100減少至8萬臺

晶揚(yáng)電子 ? 來源:晶揚(yáng)電子 ? 2023-12-13 11:45 ? 次閱讀

微軟明年減少H100 訂單至8 萬臺,大摩指出,但這是因為要改單拿B100,價格雖較H100 貴5 成,但算力是HBM 的2 倍,并會拿些許AMD MI300,而英偉達(dá)可能會延遲對臺積電明年下半年CoWoS 產(chǎn)能的預(yù)付款,但這不是砍單,主要是B100 芯片產(chǎn)能需要2 倍的CoWoS 產(chǎn)能。

大摩表示,微軟可能會將2024 年H100 AI 伺服器的訂單,從12 萬臺減少至8 萬臺,并將部分訂單轉(zhuǎn)移到B100,預(yù)計2024 年第四季出貨,因為B100 的運(yùn)算能力至少是H100 的2 倍,但價格僅高出 50~60%。

大摩指出,微軟從2024 年第二季開始將透過英業(yè)達(dá)將部分訂單轉(zhuǎn)移到MI300X,而且NVIDIA 在2024 年第二季對臺積電CoWoS 產(chǎn)能的預(yù)付款可能會有所延遲,但這并不意味著NVIDIA 在2024 年對臺積電CoWoS 的需求減少,反而是B100 需要2 倍的CoWoS 產(chǎn)能。

中國GPU 方面,大摩指出,美國商務(wù)部長提出警告,華盛頓將「改變」出口管制措施,以阻止NVIDIA 專門針對中國市場進(jìn)行芯片改良,而L20S 的云端推理似乎符合效能密度規(guī)則,并沒有使用高效能的HBM,并預(yù)計年底前就準(zhǔn)備好出貨,至于華為910B 需求暢旺,但代工能力卻不足。

散熱方面,大摩指出, 散熱解決方案供應(yīng)商預(yù)計AWS AI AISC 伺服器的出貨量將在2023 年第四季成長,而AI AISC 的3D VC 售價接近100 美元,預(yù)計微軟Maia 的水冷板出貨量最快要到2024 年第一季增加。

2023年Q3,英偉達(dá)AI GPU銷量達(dá)50萬塊

據(jù)市場跟蹤公司 Omdia 的統(tǒng)計分析,英偉達(dá)在 2023 年第三季度大約賣出了 50 萬臺 H100 和 A100 GPU,此前,Omdia 通過英偉達(dá)第二季度的銷售額,估計其大概賣出了 900 噸 GPU。據(jù)英偉達(dá)財報顯示,在本財年第三季度,Nvidia 在數(shù)據(jù)中心硬件上獲得了 145 億美元的收入,比去年同期幾乎翻了兩番。這顯然得益于隨著人工智能和高性能計算(HPC)的發(fā)展而變得炙手可熱的 H100 GPU。

416efeac-98d5-11ee-8b88-92fbcf53809c.jpg

市場跟蹤公司 Omdia 表示,Nvidia 售出了近 50 萬個 A100 和 H100 GPU,龐大的需求量也導(dǎo)致了,基于 H100 的服務(wù)器需要 36~52 周的時間才能交付。

Meta 和微軟是最大買家。它們各自采購了多達(dá) 15 萬個 H100 GPU,大大超過了谷歌、亞馬遜、甲骨文和騰訊采購的數(shù)量(各 5 萬個)。

英偉達(dá)明年推新AI芯片,加速CoWoS封裝需求

人工智能(AI)芯片帶動先進(jìn)封裝需求,市場預(yù)期AI芯片大廠英偉達(dá)(Nvidia)明年將推出新一代繪圖芯片架構(gòu),加速CoWoS封裝需求,臺灣,韓國、美國、日本、甚至中國等半導(dǎo)體大廠,積極布局2.5D先進(jìn)封裝。

AI芯片帶動先進(jìn)封裝需求,加速AI芯片效能,CoWoS先進(jìn)封裝扮演關(guān)鍵角色,不過CoWoS產(chǎn)能仍短缺,影響包括英偉達(dá)在內(nèi)的大廠AI芯片出貨進(jìn)度。

天風(fēng)國際證券分析師郭明錤預(yù)期,先進(jìn)封裝CoWoS供應(yīng)在第4季可顯著改善,有利未來生產(chǎn)能見度。美系外資法人表示,隨著CoWoS產(chǎn)能擴(kuò)充,英偉達(dá)AI芯片出貨量看增,這也反向帶動CoWoS產(chǎn)能需求成長。

外資評估,英偉達(dá)H100繪圖芯片(GPU)模組第4季供應(yīng)量可到80萬至90萬個,較第3季約50萬個增加,預(yù)估明年第1季供應(yīng)量可到100萬個,主要是CoWoS產(chǎn)能持續(xù)提升。

至于CoWoS產(chǎn)能配置,外資法人評估,英偉達(dá)可從臺積電取得5000至6000片CoWoS晶圓產(chǎn)量,也將從后段專業(yè)委外封測代工(OSAT)廠取得2000至3000片CoWoS產(chǎn)量。

市場預(yù)期,英偉達(dá)明年將推出新一代B100繪圖芯片架構(gòu),外資和本土投顧評估,B100架構(gòu)可能采用臺積電的4納米制程,推估采用結(jié)合2顆GPU晶粒和8顆高頻寬記憶體(HBM ),因此也將帶動CoWoS先進(jìn)封裝需求。

本土期貨法人分析,CoWoS先進(jìn)封裝主要有3種技術(shù)架構(gòu),其中矽中介層(CoWoS-S)封裝是目前主流,包括英偉達(dá)H100芯片和超微(AMD)MI300芯片均采用CoWoS-S封裝,效能佳不過成本較高。

至于導(dǎo)入重布線層(RDL)的有機(jī)中介層(CoWoS-R)封裝可降低成本,另外CoWoS-L封裝在矽中介層加進(jìn)主動元件LSI層提升芯片設(shè)計及封裝彈性,可支援更多顆高頻寬記憶體堆疊,預(yù)期明年CoWoS-R與CoWoS-L封裝應(yīng)用將明顯增加。

臺積電已卡位CoWoS先進(jìn)封裝3種技術(shù)架構(gòu),后段封測廠日月光半導(dǎo)體也布局扇出型FOCoS-Bridge(Fan-Out-Chip-on-Substrate-Bridge)封裝技術(shù),并推出跨平臺整合的先進(jìn)封裝設(shè)計平臺工具。

亞系外資和本土投顧指出,包括英特爾Intel)、韓國三星(Samsung)、艾克爾(Amkor)、聯(lián)電、中國江蘇長電、通富微電等也布局2.5D先進(jìn)封裝,此外,日本索尼(Sony)、力成、美國德州儀器TI)、韓國SK海力士(SK Hynix)等也急起直追。

417c5674-98d5-11ee-8b88-92fbcf53809c.jpg

值得注意的是,大多數(shù)服務(wù)器 GPU 都供應(yīng)給了超大規(guī)模云服務(wù)提供商。而服務(wù)器原始設(shè)備制造商(如戴爾、聯(lián)想、HPE)目前還無法獲得足夠的 AI 和 HPC GPU。

Omdia 預(yù)計,到 2023 年第四季度,Nvidia 的 H100 和 A100 GPU 的銷量將超過 50 萬臺。

不過,幾乎所有大量采購 Nvidia H100 GPU 的公司都在為人工智能、HPC 和視頻工作負(fù)載開發(fā)定制自己的芯片。

因此,隨著他們轉(zhuǎn)向使用自己的芯片,對 Nvidia 硬件的采購量可能會逐漸減少。

審核編輯:黃飛

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 微軟
    +關(guān)注

    關(guān)注

    4

    文章

    6554

    瀏覽量

    103903
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    4678

    瀏覽量

    128612
  • 服務(wù)器
    +關(guān)注

    關(guān)注

    12

    文章

    8977

    瀏覽量

    85100
  • 英偉達(dá)
    +關(guān)注

    關(guān)注

    22

    文章

    3723

    瀏覽量

    90708

原文標(biāo)題:傳微軟砍單英偉達(dá)H100

文章出處:【微信號:晶揚(yáng)電子,微信公眾號:晶揚(yáng)電子】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    英偉達(dá)發(fā)布新一代H200,搭載HBM3e,推理速度是H100兩倍!

    電子發(fā)燒友網(wǎng)報道(文/李彎彎)日前,英偉達(dá)正式宣布,在目前最強(qiáng)AI芯片H100的基礎(chǔ)上進(jìn)行一次大升級,發(fā)布新一代H200芯片。H200擁有1
    的頭像 發(fā)表于 11-15 01:15 ?3390次閱讀
    <b class='flag-5'>英偉</b><b class='flag-5'>達(dá)</b>發(fā)布新一代<b class='flag-5'>H</b>200,搭載HBM3e,推理速度是<b class='flag-5'>H100</b>兩倍!

    英偉達(dá)H100芯片市場降溫

    隨著英偉達(dá)新一代AI芯片GB200需求的不斷攀升,其上一代明星產(chǎn)品H100芯片卻遭遇了市場的冷落。據(jù)業(yè)內(nèi)人士透露,搭載H100的服務(wù)器通常以8
    的頭像 發(fā)表于 10-28 15:42 ?274次閱讀

    英偉達(dá)GB200芯片售價7美元,服務(wù)器單價或達(dá)30

    匯豐銀行分析師預(yù)測,英偉達(dá)“入門級”B100 GPU的平均銷售價將在33.5美元之間,與
    的頭像 發(fā)表于 05-15 14:31 ?1685次閱讀

    英偉達(dá)H200帶寬狂飆

    英偉達(dá)H200帶寬的顯著提升主要得益于其強(qiáng)大的硬件配置和先進(jìn)的技術(shù)創(chuàng)新。H200配備了高達(dá)141GB的HBM3e顯存,與前代產(chǎn)品H100相比
    的頭像 發(fā)表于 03-07 16:44 ?862次閱讀

    英偉達(dá)H200和A100的區(qū)別

    英偉達(dá)H200和A100兩款芯片在性能、架構(gòu)、內(nèi)存以及應(yīng)用場景等多個方面存在顯著的區(qū)別。
    的頭像 發(fā)表于 03-07 16:23 ?3283次閱讀

    英偉達(dá)H200和A100的差異

    英偉達(dá)H200和A100在多個方面存在差異。
    的頭像 發(fā)表于 03-07 16:18 ?2179次閱讀

    英偉達(dá)H200顯卡價格

    英偉達(dá)H200顯卡的具體價格尚未公布。根據(jù)上一代H100顯卡的價格范圍,預(yù)計H200的單片價格將超過40000美元。由于新芯片通常定價較高,
    的頭像 發(fā)表于 03-07 16:09 ?3772次閱讀

    英偉達(dá)H200和H100的比較

    英偉達(dá)H200和H100是兩款不同的AI芯片,它們各自具有獨特的特點和優(yōu)勢。以下是關(guān)于這兩款芯片的一些比較。
    的頭像 發(fā)表于 03-07 15:53 ?4086次閱讀

    Meta計劃2024年末購買35H100加速卡

    扎克伯格并未披露BIN為應(yīng)對日益增加的人工智能需求添購的具體數(shù)量。市場研究機(jī)構(gòu)雷蒙德詹姆斯的分析師根據(jù)推測,每顆H100系列芯片單價可能在2.53美金之間,若按照最低標(biāo)準(zhǔn)計算,購
    的頭像 發(fā)表于 01-19 10:25 ?691次閱讀

    AI計算需求激增,英偉達(dá)H100功耗成挑戰(zhàn)

    根據(jù)預(yù)測,若H100的年利用率保持在61%,那么設(shè)備每年將耗電3740千瓦小時左右。如果英偉達(dá)在2023年售出150
    的頭像 發(fā)表于 12-28 09:29 ?2162次閱讀

    AMD正式發(fā)布 MI300X AI 加速器,力壓英偉達(dá)H100

    爭奪剩余的市場而戰(zhàn)。然而,MI300X對英偉達(dá)H100構(gòu)成了有力的競爭,甚至微軟的首席技術(shù)官最近都表示,他認(rèn)為AMD最終在這個市場上將非常有競爭力。
    的頭像 發(fā)表于 12-10 11:30 ?902次閱讀
    AMD正式發(fā)布 MI300X AI 加速器,力壓<b class='flag-5'>英偉</b><b class='flag-5'>達(dá)</b><b class='flag-5'>H100</b>

    英偉達(dá)H100 GPU Q3售出50塊,科技巨頭爭搶

    這款產(chǎn)品最大購買客戶是Meta與微軟,各自購買了15塊;谷歌、亞馬遜、甲骨文、騰訊各自購買了5塊,榜單中還出現(xiàn)了百度、阿里巴巴、字節(jié)跳動這幾家中國公司。集微網(wǎng)了解到,目前H100
    的頭像 發(fā)表于 12-07 15:18 ?1083次閱讀
    <b class='flag-5'>英偉</b><b class='flag-5'>達(dá)</b><b class='flag-5'>H100</b> GPU Q3售出50<b class='flag-5'>萬</b>塊,科技巨頭爭搶

    英偉達(dá)H100,沒那么缺貨了 !RTX 4090 ,大漲

    這樣,在云端使用 H100 GPU 的排隊時間可能會縮短。數(shù)據(jù)中心提供商和前比特幣挖礦公司正在開設(shè)具有 H100 集群的數(shù)據(jù)中心。這些公司承諾以大型云提供商成本的一小部分提供 H100 GPU 計算,而大型云提供商對
    的頭像 發(fā)表于 11-23 15:59 ?1663次閱讀

    英偉達(dá)推出用于人工智能工作的頂級芯片HGX H200

    近日,英偉達(dá)推出了一款用于人工智能工作的頂級芯片HGX H200。新的GPU升級了需求巨大的H100,內(nèi)存帶寬增加了1.4倍,內(nèi)存容量增加了1.8倍,提高了其處理密集生成人工智能工作的
    的頭像 發(fā)表于 11-15 14:34 ?1440次閱讀

    英偉達(dá)推出新款A(yù)I芯片H200 性能飆升90%但是估計依然被出口管制

    生成式AI火爆全球之后,英偉達(dá)的AI芯片一張難求,就在英偉達(dá)重量級選手H100 AI芯片目前依然是一貨難求的情況下,
    的頭像 發(fā)表于 11-14 16:45 ?1478次閱讀
    <b class='flag-5'>英偉</b><b class='flag-5'>達(dá)</b>推出新款A(yù)I芯片<b class='flag-5'>H</b>200 性能飆升90%但是估計依然被出口管制