0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

成都匯陽(yáng)投資關(guān)于跨越帶寬增長(zhǎng)極限,HBM 賦能AI新紀(jì)元

話說(shuō)科技 ? 來(lái)源:話說(shuō)科技 ? 作者:話說(shuō)科技 ? 2024-07-04 10:55 ? 次閱讀

AI 時(shí)代新需求,HBM 應(yīng)運(yùn)而生】

隨著人工智能技術(shù)的快速發(fā)展,傳統(tǒng)的 GDDR 內(nèi)存逐漸達(dá)到其技術(shù)發(fā)展的瓶頸:

1)GDDR5 無(wú)法跟上 GPU 性能發(fā)展:AI 訓(xùn)練的參數(shù)量每?jī)赡暝鲩L(zhǎng) 410 倍,而單 GPU 內(nèi)存僅以每?jī)赡?2 倍的速度增長(zhǎng);硬件的峰值計(jì)算能力 20 年中提升了 60,000 倍,但 DRAM 帶寬的增長(zhǎng)卻僅提高了 100 倍,互連帶寬只提升了 30 倍。 內(nèi)存難以跟上AI硬件的計(jì)算速度,限制了AI 芯片性能發(fā)揮,形成了“ 內(nèi)存墻 ” ;

2)GDDR5限制了外形尺寸:為實(shí)現(xiàn)高帶寬,越來(lái)越多的 GDDR5 和電路要集成在一起會(huì)限制產(chǎn)品的尺寸;

3)片上集成并非萬(wàn)能:片上集成的兼容和可拓展性受到限制。

HBM 的出現(xiàn)克服傳統(tǒng) GDDR 在帶寬上的局限,并突破內(nèi)存墻的限制,以適應(yīng)AI 時(shí)代對(duì)高算力和高帶寬內(nèi)存的需求。

在HBM出現(xiàn)之前,DRAM按照產(chǎn)品分類主要分為 DDR、LPDDR 和 GDDR。其中 DDR 適用于計(jì)算機(jī)、服務(wù)器和其他高性 能計(jì)算設(shè)備等領(lǐng)域;LPDDR 適合移動(dòng)設(shè)備和嵌入式系統(tǒng)等需要長(zhǎng)時(shí)間使用的場(chǎng)景,如手機(jī)、平板、穿戴等;GDDR是為了 設(shè)計(jì)高端顯卡而特別設(shè)計(jì)的高性能 DDR存儲(chǔ)器規(guī)格,它比主內(nèi)存中使用的普通 DDR存儲(chǔ)器時(shí)鐘頻率更高,發(fā)熱量更小,所以更適合搭配高端顯示芯片。

HBM全稱為 High Bandwidth Memory,即高帶寬內(nèi)存,它將多個(gè)DDR 芯片垂直堆疊在一起后和GPU封裝在一起。與傳統(tǒng)的DRAM相比,它確保了更多的 I/O (Input/Output,輸入/輸出)通道,一次可以傳輸大量的數(shù)據(jù),在較小的物理空間內(nèi)實(shí)現(xiàn)高帶寬、低延遲和低功耗,從而成為數(shù)據(jù)中心等應(yīng)用場(chǎng)景的新一代內(nèi)存解決方案。

【國(guó)內(nèi)HBM 初起步,三大巨頭推進(jìn)產(chǎn)線建設(shè)】

全球 HBM 市場(chǎng)長(zhǎng)久以來(lái)都由三大存儲(chǔ)原廠牢牢占據(jù)龍頭地位。根據(jù)高盛的數(shù)據(jù),2023 年 HBM市場(chǎng)的競(jìng)爭(zhēng)格局中,海力士約占 54%,三星占 41%,美光占 5%。 海力士目前占據(jù)市場(chǎng)主導(dǎo)地位,三星緊隨其后追擊,而美光雖然目前市場(chǎng)份額較 小,但正在積極擴(kuò)大產(chǎn)能和技術(shù)。由于HBM3E 產(chǎn)能不足,三大巨頭或都進(jìn)入英偉達(dá)供應(yīng)鏈,目前美光搶先獲得英偉達(dá) H200 訂單,海力士也開(kāi)始量產(chǎn)供貨英偉達(dá), 三星已通過(guò) AMD MI350 的驗(yàn)證,英偉達(dá)方面的驗(yàn)證時(shí)間稍晚于其他兩家。

內(nèi)DRAM 市場(chǎng)大部分份額仍然被三星、海力士和美光等占據(jù),還有部分臺(tái)灣廠商南亞科技、華邦電子等角逐市場(chǎng)份額,國(guó)內(nèi)廠商的市場(chǎng)份額相對(duì)較小,主要DRAM 廠商有兆易創(chuàng)新、北京君正、東芯股份、長(zhǎng)鑫存儲(chǔ)、紫光國(guó)微、福建晉華等。

國(guó)內(nèi)存儲(chǔ)廠商武漢新芯和長(zhǎng)鑫存儲(chǔ)正處于 HBM 制造的早期階段,主要是為了應(yīng)對(duì)未來(lái)人工智能(AI)和高性能計(jì)算(HPC)領(lǐng)域的應(yīng)用需求。其中武漢新芯正在針對(duì) HBM 建造月產(chǎn)能 3000 片晶圓的 12 英寸工廠,長(zhǎng)鑫存儲(chǔ)則與封裝和測(cè)試廠通富微電合作開(kāi)發(fā)了HBM 樣品,并向潛在的客戶展示。

除存儲(chǔ)大廠以外,華為也準(zhǔn)備建立其內(nèi)部 HBM 供應(yīng)鏈。據(jù) The Information 報(bào)道,華為已開(kāi)始將其重點(diǎn)轉(zhuǎn)移到有吸引力的HBM 市場(chǎng)。該聯(lián)盟現(xiàn)在與從事存儲(chǔ)器業(yè)務(wù)的公司合作。HBM在AI 市場(chǎng)的動(dòng)態(tài)中發(fā)揮著至關(guān)重要的作用,特別是在 制造AI加速器時(shí),HBM 在中國(guó)的供應(yīng)受到更大程度的限制下,建立 HBM 內(nèi)部生產(chǎn)鏈將有利提振未來(lái)國(guó)內(nèi)AI 能力。

【AI 需求強(qiáng)勁驅(qū)動(dòng),HBM 量?jī)r(jià)齊升】

AI和高性能計(jì)算(HPC)領(lǐng)域的需求是 HBM 增長(zhǎng)的主要驅(qū)動(dòng)力。HBM顯著的高速、高帶寬和低功耗特性使得它在AI和高性能計(jì)算領(lǐng)域中具有廣泛的應(yīng)用前景。AI 服務(wù)器主流 GPU 如 H100、 A100、A800 以及 AMD MI250、MI250X 等基本都配備了 HBM。后續(xù)推出的王牌產(chǎn)品也持續(xù)升級(jí) HBM 最新迭代版本,對(duì) HBM 需求居高不下。

全球各大科技巨頭都在競(jìng)購(gòu) HBM,AI 浪潮下HBM 市場(chǎng)規(guī)模將快速增長(zhǎng)。根據(jù)騰訊科技的測(cè)算,2024 年全年,全球經(jīng)由CoWoS 封裝的 GPU 產(chǎn)品,產(chǎn)能約為 900 萬(wàn)顆。按照單顆 GPU 邏輯芯片搭配 6 顆 HBM內(nèi)存顆粒的標(biāo)準(zhǔn)計(jì)算(部分搭配8 顆 HBM),全球 2024年的 GPU,對(duì) HBM 內(nèi)存的需求就在 5400 萬(wàn)顆以上(12 層為主)。TrendForce 預(yù)估 2023 年全球 HBM 需求量將年增近 60%,2024 年將再成長(zhǎng) 30%。

《2023-2024 中國(guó)人工智能計(jì)算力發(fā)展評(píng)估報(bào)告》指出,中國(guó)AI 算力市場(chǎng)規(guī)模正在快速成長(zhǎng)擴(kuò)大,2023 年中國(guó)AI服務(wù)器市場(chǎng)規(guī)模將達(dá) 91 億美元,同比增長(zhǎng) 82.5%;智能算力規(guī)模預(yù)計(jì)達(dá)到 414.1EFLOPS(每秒百億億次浮點(diǎn)運(yùn)算), 同比增長(zhǎng) 59.3%;2022-2027 年期間,年復(fù)合增長(zhǎng)率預(yù)計(jì)達(dá) 33.9%。

隨著美國(guó)將限制 HBM 芯片對(duì)華出口,這種情況疊加 HBM 供不應(yīng)求使得國(guó)內(nèi)廠商購(gòu)買到 HBM 的可能性大大下降,企業(yè)將轉(zhuǎn)向國(guó)內(nèi)HBM 廠商,未來(lái)中國(guó) HBM 市場(chǎng)空間廣闊。根據(jù) IDC 的數(shù)據(jù),2022 年上半年到 2023 年上半年,中國(guó)AI 加速卡出貨約 109 萬(wàn)張,英偉達(dá)市場(chǎng)份額為 85%,華為市占率為 10%,百度市占率為 2%、 寒武紀(jì)和燧原科技均為 1%。隨著國(guó)內(nèi)HBM 從 0 到 1 實(shí)現(xiàn)突破后,市占約 15%的國(guó)產(chǎn)算力芯片廠商將會(huì)逐步切換為國(guó)產(chǎn) HBM,替代空間廣闊。

DRAM 市場(chǎng)經(jīng)歷了 2022 年平均銷售單價(jià)的下滑后,三星在 2023 年 Q4 大幅減產(chǎn),庫(kù)存壓力改善后 DRAM 出貨拉升帶動(dòng)價(jià)格從 2023 年 9 月中旬開(kāi)始持續(xù)上漲, 2024 年 Q1 投片量開(kāi)始回升,產(chǎn)能利用率達(dá)到80%左右,下半年是旺季,需求預(yù)期將較上半年明顯增加,產(chǎn)能會(huì)持續(xù)提升至 Q4。而 HBM 此前受ChatGPT 的 拉動(dòng)同時(shí)受限產(chǎn)能不足,HBM 價(jià)格一路上漲,與性能最高的DRAM 相比,HBM3 的價(jià)格 上漲了五倍,預(yù)計(jì) 2024 年 HBM 價(jià)格還會(huì)再上漲 5-10%。HBM 呈現(xiàn)量?jī)r(jià)齊升的態(tài)勢(shì), SEMI 預(yù)計(jì) 2024 年市場(chǎng)規(guī)模達(dá) 70 億美元,2030 年達(dá) 400 億美元,2022- 2030 年CAGR 達(dá) 63.85%。

我們篩選出以下潛力標(biāo)的

雅克科技(002409)公司是全球著名的磷酸酯阻燃劑生產(chǎn)企業(yè),海力士為其前驅(qū)體業(yè)務(wù)第一大客戶,配套供應(yīng) HBM 所需前驅(qū)體。

長(zhǎng)電科技(600584)半導(dǎo)體存儲(chǔ)市場(chǎng)領(lǐng)域,公司的封測(cè)服務(wù)覆蓋 DRAM、Flash 等各種存儲(chǔ)芯片產(chǎn)品,擁有 20 多年 Memory 封裝量產(chǎn)經(jīng)驗(yàn),16 層 NAND Flash 堆疊,35um 超薄芯片制程能力,Hvbrid 異型堆疊等,都處于國(guó)內(nèi)行業(yè)領(lǐng)先的地位。

盛美上海(688082)公司有刷洗設(shè)備、涂膠設(shè)備等 7 款產(chǎn)品用于先進(jìn)封裝。產(chǎn)品可覆蓋完整的工藝流程,包括清洗、涂膠、顯影、電鍍、平坦化電拋光、光刻膠去除及濕法蝕刻等。年初以來(lái)盛美上海已多次收到先進(jìn)封裝清洗設(shè)備的采購(gòu)訂單, 及電鍍?cè)O(shè)備的批量訂單,最近又推出升級(jí)版的涂膠設(shè)備,該款設(shè)備在性能和外觀進(jìn)行了優(yōu)化,應(yīng)用于先進(jìn)晶圓級(jí)封裝。

參考資料華鑫證券-HBM 專題報(bào)告:跨越帶寬增長(zhǎng)極限,HBM 賦能AI新紀(jì)元.pdf

免責(zé)聲明:本文由投資顧問(wèn): 馮利勇(執(zhí)業(yè)證書編碼:A1280620060001)、羅力川(登記編號(hào):A1280622110002)等編輯整理,僅代表團(tuán)隊(duì)觀點(diǎn),任何投資建議不作為您投資的依據(jù),您須獨(dú)立作出投資決策,風(fēng)險(xiǎn)自擔(dān)。請(qǐng)您確認(rèn)自己具有相應(yīng)的權(quán)利能力、行為能力、風(fēng)險(xiǎn)識(shí)別能力及風(fēng)險(xiǎn)承受能力,能夠獨(dú)立承擔(dān)法律責(zé)任。 所涉及個(gè)股僅作投資參考和學(xué)習(xí)交流,不作為買賣依據(jù)。投資有風(fēng)險(xiǎn),入市需謹(jǐn)慎!


審核編輯 黃宇


聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 帶寬
    +關(guān)注

    關(guān)注

    3

    文章

    897

    瀏覽量

    40796
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    29806

    瀏覽量

    268106
  • HBM
    HBM
    +關(guān)注

    關(guān)注

    0

    文章

    365

    瀏覽量

    14681
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    HBM4到來(lái)前夕,HBM熱出現(xiàn)兩極分化

    電子發(fā)燒友網(wǎng)報(bào)道(文/黃晶晶)高帶寬存儲(chǔ)器HBM由于生成式AI的到來(lái)而異軍突起,成為AI訓(xùn)練不可或缺的存儲(chǔ)產(chǎn)品。三大HBM廠商SK海力士、三
    的頭像 發(fā)表于 09-23 12:00 ?2505次閱讀

    HBM4需求激增,英偉達(dá)與SK海力士攜手加速高帶寬內(nèi)存技術(shù)革新

    隨著生成式AI技術(shù)的迅猛發(fā)展和大模型參數(shù)量的急劇增加,對(duì)高帶寬、高容量存儲(chǔ)的需求日益迫切,這直接推動(dòng)了高帶寬內(nèi)存(HBM)市場(chǎng)的快速增長(zhǎng),并
    的頭像 發(fā)表于 11-05 14:13 ?209次閱讀

    高精度3D Hall搖桿專用芯片,開(kāi)啟操控新紀(jì)元

    在飛控領(lǐng)域中的3D霍爾搖桿,開(kāi)啟操控新紀(jì)元!
    的頭像 發(fā)表于 10-30 09:29 ?135次閱讀
    高精度3D Hall搖桿專用芯片,開(kāi)啟操控<b class='flag-5'>新紀(jì)元</b>

    倒計(jì)時(shí)1天 | 第三屆OpenHarmony技術(shù)大會(huì)——明天,上海見(jiàn)!

    技術(shù)引領(lǐng)筑生態(tài),萬(wàn)物智聯(lián)創(chuàng)未來(lái) OpenHarmony 開(kāi)源生態(tài) 繁榮于各方共建,又于千行百業(yè) 開(kāi)創(chuàng)了萬(wàn)物智聯(lián)的新紀(jì)元,開(kāi)源盛事,亦是開(kāi)源盛世!
    發(fā)表于 10-11 23:29

    跨越地理限制:動(dòng)態(tài)海外住宅IP技術(shù)引領(lǐng)全球化網(wǎng)絡(luò)新紀(jì)元

    跨越地理限制:動(dòng)態(tài)海外住宅IP技術(shù)引領(lǐng)全球化網(wǎng)絡(luò)新紀(jì)元這一主題,凸顯了動(dòng)態(tài)海外住宅IP技術(shù)在全球化網(wǎng)絡(luò)環(huán)境中的重要作用。
    的頭像 發(fā)表于 09-27 08:30 ?239次閱讀

    能耗管理系統(tǒng)新紀(jì)元:智能科技引領(lǐng)綠色生活風(fēng)尚

    能耗管理系統(tǒng)新紀(jì)元:智能科技引領(lǐng)綠色生活風(fēng)尚 在科技日新月異的今天,我們的生活正經(jīng)歷著前所未有的變革,而能耗管理系統(tǒng)作為連接環(huán)保與可持續(xù)發(fā)展的橋梁,正步入一個(gè)由智能科技引領(lǐng)的新紀(jì)元。這一變革不僅重塑
    的頭像 發(fā)表于 08-15 18:17 ?461次閱讀

    比爾·蓋茨展望AI:耳機(jī)與智能眼鏡引領(lǐng)人機(jī)交互新紀(jì)元

    我們描繪了一幅人工智能(AI)技術(shù)普及后,生活與工作方式的全新圖景。他特別指出,耳機(jī)與智能眼鏡將成為AI硬件領(lǐng)域的兩大焦點(diǎn),引領(lǐng)人機(jī)交互進(jìn)入前所未有的新紀(jì)元。
    的頭像 發(fā)表于 07-04 16:34 ?836次閱讀

    技嘉科技推出GIGABYTE AI TOP,引領(lǐng)本地AI訓(xùn)練新紀(jì)元

    技嘉科技在COMPUTEX 2024前夕推出GIGABYTE AI TOP,引領(lǐng)本地AI訓(xùn)練新紀(jì)元   在即將到來(lái)的COMPUTEX 2024科技盛會(huì)前夕,全球知名的計(jì)算機(jī)硬件制造商技嘉
    的頭像 發(fā)表于 06-11 14:11 ?811次閱讀

    一圖看懂2024華為智能充電網(wǎng)絡(luò)開(kāi)啟超充新紀(jì)元

    一圖看懂2024華為智能充電網(wǎng)絡(luò)開(kāi)啟超充新紀(jì)元
    的頭像 發(fā)表于 04-29 10:27 ?523次閱讀
    一圖看懂2024華為智能充電網(wǎng)絡(luò)開(kāi)啟超充<b class='flag-5'>新紀(jì)元</b>

    高通重磅發(fā)布第三代驍龍7+,引領(lǐng)AI與性能新紀(jì)元

    近日,科技界掀起一陣狂潮,高通技術(shù)公司盛大發(fā)布第三代驍龍7+移動(dòng)平臺(tái),此舉不僅將終端側(cè)生成式AI技術(shù)首次引入驍龍7系,更在性能上實(shí)現(xiàn)飛躍,CPU性能飆升15%,GPU性能更是驚人提升45%。這一革命性的移動(dòng)平臺(tái),無(wú)疑將引領(lǐng)智能手機(jī)行業(yè)進(jìn)入全新的AI與性能
    的頭像 發(fā)表于 03-25 09:46 ?1333次閱讀

    HBM:突破AI算力內(nèi)存瓶頸,技術(shù)迭代引領(lǐng)高性能存儲(chǔ)新紀(jì)元

    HBM制造集成前道工藝與先進(jìn)封裝,TSV、EMC、鍵合工藝是關(guān)鍵。HBM制造的關(guān)鍵在于TSV DRAM,以及每層TSV DRAM之間的連接方式。
    發(fā)表于 03-14 09:58 ?1073次閱讀
    <b class='flag-5'>HBM</b>:突破<b class='flag-5'>AI</b>算力內(nèi)存瓶頸,技術(shù)迭代引領(lǐng)高性能存儲(chǔ)<b class='flag-5'>新紀(jì)元</b>

    芯原成都獲評(píng)“年度技術(shù)企業(yè)”

    成都市集成電路行業(yè)協(xié)會(huì)在成都天府皇冠假日酒店召開(kāi)了“成都集成電路產(chǎn)業(yè)發(fā)展大會(huì)”。大會(huì)上,芯原微電子 (成都) 有限公司 (以下簡(jiǎn)稱:芯原成都
    的頭像 發(fā)表于 01-22 10:23 ?687次閱讀

    AI的突破與融合:2024年中國(guó)智能技術(shù)的新紀(jì)元

    隨著人工智能領(lǐng)域的不斷突破,2024年注定將成為中國(guó)智能技術(shù)發(fā)展的一個(gè)新紀(jì)元。當(dāng)下,AI技術(shù)不僅在理論研究上取得了重大進(jìn)展,其在商業(yè)應(yīng)用、社會(huì)服務(wù)等領(lǐng)域的融合也日益深入。本文將結(jié)合近期網(wǎng)絡(luò)上的AI熱點(diǎn),展望中國(guó)在
    的頭像 發(fā)表于 01-03 15:41 ?792次閱讀
    <b class='flag-5'>AI</b>的突破與融合:2024年中國(guó)智能技術(shù)的<b class='flag-5'>新紀(jì)元</b>

    巧用AIPMC管理,打造智能制造新紀(jì)元!

    一、AIPMC管理的意義 PMC管理是企業(yè)生產(chǎn)計(jì)劃和物料控制的核心環(huán)節(jié),直接關(guān)系到企業(yè)的生產(chǎn)效率和成本控制。然而,傳統(tǒng)的PMC管理方式往往存在效率低下、錯(cuò)誤率高等問(wèn)題。AI技術(shù)的引
    的頭像 發(fā)表于 12-19 10:47 ?695次閱讀
    巧用<b class='flag-5'>AI</b><b class='flag-5'>賦</b><b class='flag-5'>能</b>PMC管理,打造智能制造<b class='flag-5'>新紀(jì)元</b>!

    開(kāi)啟AI PC新紀(jì)元!英特爾酷睿Ultra重磅發(fā)布,勝任200億參數(shù)大語(yǔ)言模型

    出色的計(jì)算和圖形性能以及非凡的AI PC體驗(yàn),英特爾宣布將與主流OEM伙伴推出230余款機(jī)型,開(kāi)啟AI PC新紀(jì)元。
    的頭像 發(fā)表于 12-16 15:14 ?2260次閱讀
    開(kāi)啟<b class='flag-5'>AI</b> PC<b class='flag-5'>新紀(jì)元</b>!英特爾酷睿Ultra重磅發(fā)布,勝任200億參數(shù)大語(yǔ)言模型