【AI 時(shí)代新需求,HBM 應(yīng)運(yùn)而生】
隨著人工智能技術(shù)的快速發(fā)展,傳統(tǒng)的 GDDR 內(nèi)存逐漸達(dá)到其技術(shù)發(fā)展的瓶頸:
1)GDDR5 無(wú)法跟上 GPU 性能發(fā)展:AI 訓(xùn)練的參數(shù)量每?jī)赡暝鲩L(zhǎng) 410 倍,而單 GPU 內(nèi)存僅以每?jī)赡?2 倍的速度增長(zhǎng);硬件的峰值計(jì)算能力 20 年中提升了 60,000 倍,但 DRAM 帶寬的增長(zhǎng)卻僅提高了 100 倍,互連帶寬只提升了 30 倍。 內(nèi)存難以跟上AI硬件的計(jì)算速度,限制了AI 芯片性能發(fā)揮,形成了“ 內(nèi)存墻 ” ;
2)GDDR5限制了外形尺寸:為實(shí)現(xiàn)高帶寬,越來(lái)越多的 GDDR5 和電路要集成在一起會(huì)限制產(chǎn)品的尺寸;
3)片上集成并非萬(wàn)能:片上集成的兼容和可拓展性受到限制。
HBM 的出現(xiàn)克服傳統(tǒng) GDDR 在帶寬上的局限,并突破內(nèi)存墻的限制,以適應(yīng)AI 時(shí)代對(duì)高算力和高帶寬內(nèi)存的需求。
在HBM出現(xiàn)之前,DRAM按照產(chǎn)品分類主要分為 DDR、LPDDR 和 GDDR。其中 DDR 適用于計(jì)算機(jī)、服務(wù)器和其他高性 能計(jì)算設(shè)備等領(lǐng)域;LPDDR 適合移動(dòng)設(shè)備和嵌入式系統(tǒng)等需要長(zhǎng)時(shí)間使用的場(chǎng)景,如手機(jī)、平板、穿戴等;GDDR是為了 設(shè)計(jì)高端顯卡而特別設(shè)計(jì)的高性能 DDR存儲(chǔ)器規(guī)格,它比主內(nèi)存中使用的普通 DDR存儲(chǔ)器時(shí)鐘頻率更高,發(fā)熱量更小,所以更適合搭配高端顯示芯片。
HBM全稱為 High Bandwidth Memory,即高帶寬內(nèi)存,它將多個(gè)DDR 芯片垂直堆疊在一起后和GPU封裝在一起。與傳統(tǒng)的DRAM相比,它確保了更多的 I/O (Input/Output,輸入/輸出)通道,一次可以傳輸大量的數(shù)據(jù),在較小的物理空間內(nèi)實(shí)現(xiàn)高帶寬、低延遲和低功耗,從而成為數(shù)據(jù)中心等應(yīng)用場(chǎng)景的新一代內(nèi)存解決方案。
【國(guó)內(nèi)HBM 初起步,三大巨頭推進(jìn)產(chǎn)線建設(shè)】
全球 HBM 市場(chǎng)長(zhǎng)久以來(lái)都由三大存儲(chǔ)原廠牢牢占據(jù)龍頭地位。根據(jù)高盛的數(shù)據(jù),2023 年 HBM市場(chǎng)的競(jìng)爭(zhēng)格局中,海力士約占 54%,三星占 41%,美光占 5%。 海力士目前占據(jù)市場(chǎng)主導(dǎo)地位,三星緊隨其后追擊,而美光雖然目前市場(chǎng)份額較 小,但正在積極擴(kuò)大產(chǎn)能和技術(shù)。由于HBM3E 產(chǎn)能不足,三大巨頭或都進(jìn)入英偉達(dá)供應(yīng)鏈,目前美光搶先獲得英偉達(dá) H200 訂單,海力士也開(kāi)始量產(chǎn)供貨英偉達(dá), 三星已通過(guò) AMD MI350 的驗(yàn)證,英偉達(dá)方面的驗(yàn)證時(shí)間稍晚于其他兩家。
內(nèi)DRAM 市場(chǎng)大部分份額仍然被三星、海力士和美光等占據(jù),還有部分臺(tái)灣廠商南亞科技、華邦電子等角逐市場(chǎng)份額,國(guó)內(nèi)廠商的市場(chǎng)份額相對(duì)較小,主要DRAM 廠商有兆易創(chuàng)新、北京君正、東芯股份、長(zhǎng)鑫存儲(chǔ)、紫光國(guó)微、福建晉華等。
國(guó)內(nèi)存儲(chǔ)廠商武漢新芯和長(zhǎng)鑫存儲(chǔ)正處于 HBM 制造的早期階段,主要是為了應(yīng)對(duì)未來(lái)人工智能(AI)和高性能計(jì)算(HPC)領(lǐng)域的應(yīng)用需求。其中武漢新芯正在針對(duì) HBM 建造月產(chǎn)能 3000 片晶圓的 12 英寸工廠,長(zhǎng)鑫存儲(chǔ)則與封裝和測(cè)試廠通富微電合作開(kāi)發(fā)了HBM 樣品,并向潛在的客戶展示。
除存儲(chǔ)大廠以外,華為也準(zhǔn)備建立其內(nèi)部 HBM 供應(yīng)鏈。據(jù) The Information 報(bào)道,華為已開(kāi)始將其重點(diǎn)轉(zhuǎn)移到有吸引力的HBM 市場(chǎng)。該聯(lián)盟現(xiàn)在與從事存儲(chǔ)器業(yè)務(wù)的公司合作。HBM在AI 市場(chǎng)的動(dòng)態(tài)中發(fā)揮著至關(guān)重要的作用,特別是在 制造AI加速器時(shí),HBM 在中國(guó)的供應(yīng)受到更大程度的限制下,建立 HBM 內(nèi)部生產(chǎn)鏈將有利提振未來(lái)國(guó)內(nèi)AI 能力。
【AI 需求強(qiáng)勁驅(qū)動(dòng),HBM 量?jī)r(jià)齊升】
AI和高性能計(jì)算(HPC)領(lǐng)域的需求是 HBM 增長(zhǎng)的主要驅(qū)動(dòng)力。HBM顯著的高速、高帶寬和低功耗特性使得它在AI和高性能計(jì)算領(lǐng)域中具有廣泛的應(yīng)用前景。AI 服務(wù)器主流 GPU 如 H100、 A100、A800 以及 AMD MI250、MI250X 等基本都配備了 HBM。后續(xù)推出的王牌產(chǎn)品也持續(xù)升級(jí) HBM 最新迭代版本,對(duì) HBM 需求居高不下。
全球各大科技巨頭都在競(jìng)購(gòu) HBM,AI 浪潮下HBM 市場(chǎng)規(guī)模將快速增長(zhǎng)。根據(jù)騰訊科技的測(cè)算,2024 年全年,全球經(jīng)由CoWoS 封裝的 GPU 產(chǎn)品,產(chǎn)能約為 900 萬(wàn)顆。按照單顆 GPU 邏輯芯片搭配 6 顆 HBM內(nèi)存顆粒的標(biāo)準(zhǔn)計(jì)算(部分搭配8 顆 HBM),全球 2024年的 GPU,對(duì) HBM 內(nèi)存的需求就在 5400 萬(wàn)顆以上(12 層為主)。TrendForce 預(yù)估 2023 年全球 HBM 需求量將年增近 60%,2024 年將再成長(zhǎng) 30%。
《2023-2024 中國(guó)人工智能計(jì)算力發(fā)展評(píng)估報(bào)告》指出,中國(guó)AI 算力市場(chǎng)規(guī)模正在快速成長(zhǎng)擴(kuò)大,2023 年中國(guó)AI服務(wù)器市場(chǎng)規(guī)模將達(dá) 91 億美元,同比增長(zhǎng) 82.5%;智能算力規(guī)模預(yù)計(jì)達(dá)到 414.1EFLOPS(每秒百億億次浮點(diǎn)運(yùn)算), 同比增長(zhǎng) 59.3%;2022-2027 年期間,年復(fù)合增長(zhǎng)率預(yù)計(jì)達(dá) 33.9%。
隨著美國(guó)將限制 HBM 芯片對(duì)華出口,這種情況疊加 HBM 供不應(yīng)求使得國(guó)內(nèi)廠商購(gòu)買到 HBM 的可能性大大下降,企業(yè)將轉(zhuǎn)向國(guó)內(nèi)HBM 廠商,未來(lái)中國(guó) HBM 市場(chǎng)空間廣闊。根據(jù) IDC 的數(shù)據(jù),2022 年上半年到 2023 年上半年,中國(guó)AI 加速卡出貨約 109 萬(wàn)張,英偉達(dá)市場(chǎng)份額為 85%,華為市占率為 10%,百度市占率為 2%、 寒武紀(jì)和燧原科技均為 1%。隨著國(guó)內(nèi)HBM 從 0 到 1 實(shí)現(xiàn)突破后,市占約 15%的國(guó)產(chǎn)算力芯片廠商將會(huì)逐步切換為國(guó)產(chǎn) HBM,替代空間廣闊。
DRAM 市場(chǎng)經(jīng)歷了 2022 年平均銷售單價(jià)的下滑后,三星在 2023 年 Q4 大幅減產(chǎn),庫(kù)存壓力改善后 DRAM 出貨拉升帶動(dòng)價(jià)格從 2023 年 9 月中旬開(kāi)始持續(xù)上漲, 2024 年 Q1 投片量開(kāi)始回升,產(chǎn)能利用率達(dá)到80%左右,下半年是旺季,需求預(yù)期將較上半年明顯增加,產(chǎn)能會(huì)持續(xù)提升至 Q4。而 HBM 此前受ChatGPT 的 拉動(dòng)同時(shí)受限產(chǎn)能不足,HBM 價(jià)格一路上漲,與性能最高的DRAM 相比,HBM3 的價(jià)格 上漲了五倍,預(yù)計(jì) 2024 年 HBM 價(jià)格還會(huì)再上漲 5-10%。HBM 呈現(xiàn)量?jī)r(jià)齊升的態(tài)勢(shì), SEMI 預(yù)計(jì) 2024 年市場(chǎng)規(guī)模達(dá) 70 億美元,2030 年達(dá) 400 億美元,2022- 2030 年CAGR 達(dá) 63.85%。
我們篩選出以下潛力標(biāo)的
雅克科技(002409)公司是全球著名的磷酸酯阻燃劑生產(chǎn)企業(yè),海力士為其前驅(qū)體業(yè)務(wù)第一大客戶,配套供應(yīng) HBM 所需前驅(qū)體。
長(zhǎng)電科技(600584)在半導(dǎo)體存儲(chǔ)市場(chǎng)領(lǐng)域,公司的封測(cè)服務(wù)覆蓋 DRAM、Flash 等各種存儲(chǔ)芯片產(chǎn)品,擁有 20 多年 Memory 封裝量產(chǎn)經(jīng)驗(yàn),16 層 NAND Flash 堆疊,35um 超薄芯片制程能力,Hvbrid 異型堆疊等,都處于國(guó)內(nèi)行業(yè)領(lǐng)先的地位。
盛美上海(688082)公司有刷洗設(shè)備、涂膠設(shè)備等 7 款產(chǎn)品用于先進(jìn)封裝。產(chǎn)品可覆蓋完整的工藝流程,包括清洗、涂膠、顯影、電鍍、平坦化電拋光、光刻膠去除及濕法蝕刻等。年初以來(lái)盛美上海已多次收到先進(jìn)封裝清洗設(shè)備的采購(gòu)訂單, 及電鍍?cè)O(shè)備的批量訂單,最近又推出升級(jí)版的涂膠設(shè)備,該款設(shè)備在性能和外觀進(jìn)行了優(yōu)化,應(yīng)用于先進(jìn)晶圓級(jí)封裝。
參考資料:華鑫證券-HBM 專題報(bào)告:跨越帶寬增長(zhǎng)極限,HBM 賦能AI新紀(jì)元.pdf
免責(zé)聲明:本文由投資顧問(wèn): 馮利勇(執(zhí)業(yè)證書編碼:A1280620060001)、羅力川(登記編號(hào):A1280622110002)等編輯整理,僅代表團(tuán)隊(duì)觀點(diǎn),任何投資建議不作為您投資的依據(jù),您須獨(dú)立作出投資決策,風(fēng)險(xiǎn)自擔(dān)。請(qǐng)您確認(rèn)自己具有相應(yīng)的權(quán)利能力、行為能力、風(fēng)險(xiǎn)識(shí)別能力及風(fēng)險(xiǎn)承受能力,能夠獨(dú)立承擔(dān)法律責(zé)任。 所涉及個(gè)股僅作投資參考和學(xué)習(xí)交流,不作為買賣依據(jù)。投資有風(fēng)險(xiǎn),入市需謹(jǐn)慎!
審核編輯 黃宇
-
帶寬
+關(guān)注
關(guān)注
3文章
897瀏覽量
40796 -
AI
+關(guān)注
關(guān)注
87文章
29806瀏覽量
268106 -
HBM
+關(guān)注
關(guān)注
0文章
365瀏覽量
14681
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論