存儲(chǔ)三強(qiáng)的競(jìng)爭(zhēng)更加激烈了。
美光(Micron)宣布開(kāi)始量產(chǎn)HBM3E高帶寬內(nèi)存。美光稱,其HBM3E的功耗將比競(jìng)爭(zhēng)對(duì)手的產(chǎn)品低30%。
據(jù)悉,美光的HBM3E將應(yīng)用于英偉達(dá)下一代AI芯片H200 Tensor Core GPU。之前英偉達(dá)的HBM由SK海力士獨(dú)家供應(yīng),如今美光、三星都將加入。
HBM(High Bandwidth Memory)即高帶寬存儲(chǔ)器,屬于圖形DDR內(nèi)存的一種,通過(guò)使用先進(jìn)的封裝方法(如TSV硅通孔技術(shù))垂直堆疊多個(gè)DRAM,與GPU通過(guò)中介層互聯(lián)封裝在一起。HBM的優(yōu)點(diǎn)在于打破了內(nèi)存帶寬及功耗瓶頸。CPU處理的任務(wù)類型更多,且更具隨機(jī)性,對(duì)速率及延遲更為敏感,HBM特性更適合搭配GPU進(jìn)行密集數(shù)據(jù)的處理運(yùn)算,英偉達(dá)新一代AI芯片,均搭載HBM內(nèi)存。
HBM產(chǎn)品問(wèn)世至今,HBM技術(shù)已經(jīng)發(fā)展至第四代,分別為HBM、HBM2、HBM2E、HBM3,第五代HBM3E目前已量產(chǎn),HBM被認(rèn)為是人工智能時(shí)代的新一代DRAM。
HBM方案作為近存計(jì)算的典型技術(shù),可以改善存算分離導(dǎo)致的“存儲(chǔ)墻”問(wèn)題,即存儲(chǔ)單元的帶寬問(wèn)題、存儲(chǔ)單元與計(jì)算單元數(shù)據(jù)傳輸?shù)哪苄?wèn)題,并且,HBM中Die裸片的垂直堆疊也增大了容量。因此,在存算一體真正落地之前,HBM技術(shù)是契合當(dāng)前GPU對(duì)更多內(nèi)存、更高帶寬需求的最佳方案。
HBM的特點(diǎn)是大容量、高帶寬(帶寬用于衡量DRAM傳輸數(shù)據(jù)的速率,是核心技術(shù)指標(biāo)),它將多個(gè)DDR裸片堆疊在一起后和GPU封裝在一起,實(shí)現(xiàn)大容量、高位寬的DDR組合陣列。
2013年,SK海力士率先推出HBM1,HBM1每個(gè)堆棧的帶寬為128GB/s、支持4個(gè)DRAM堆棧集成,容量為每堆棧4GB。2017年,SK海力士推出了HBM2,它的帶寬和容量與HBM1相比實(shí)現(xiàn)翻倍增長(zhǎng)。2018年,JEDEC推出了HBM2e規(guī)范,HBM2e可以實(shí)現(xiàn)每堆棧461GB/s的帶寬。SK海力士于2022上半年開(kāi)始量產(chǎn)HBM3,帶寬達(dá)到819.2 GB/s,支持12個(gè)DRAM堆棧集成,容量達(dá)每堆棧24GB。2023年,主流市場(chǎng)需求從HBM2e轉(zhuǎn)向HBM3,HBM3需求占比提升至39%,隨著使用HBM3的加速芯片陸續(xù)放量,預(yù)計(jì)2024年HBM3的市場(chǎng)需求占比將達(dá)到60%。
2023年底,英偉達(dá)發(fā)布了DGX GH200,進(jìn)一步推升了AI服務(wù)器對(duì)內(nèi)存性能的需求,DGX GH200共鏈接了256個(gè)Grace Hopper超級(jí)芯片,具有144TB的共享內(nèi)存,GH200單卡配備了480GB LPDDR5內(nèi)存和96GB的HBM顯存,而在上一代DGX H100服務(wù)器中,平均單個(gè)H100芯片對(duì)應(yīng)256GB內(nèi)存和80GB的HBM。二者對(duì)比,GH200方案的內(nèi)存容量有顯著提升。
TrendForce認(rèn)為,英偉達(dá)正在規(guī)劃更多HBM供應(yīng)商,美光、SK海力士、三星都已于2023年陸續(xù)提供了8hi(24GB)樣品,三星的HBM3(24GB)已經(jīng)在2023年底完成驗(yàn)證。
由于HBM的驗(yàn)證過(guò)程繁瑣,預(yù)計(jì)耗時(shí)兩個(gè)季度,以上三大內(nèi)存原廠都預(yù)計(jì)于2024年第一季完成驗(yàn)證。各原廠的HBM3e驗(yàn)證結(jié)果,也將決定英偉達(dá)2024年HBM供應(yīng)商的采購(gòu)權(quán)重分配。
英偉達(dá)2023年的高端AI芯片(采用HBM的)的既有產(chǎn)品為A100、A800和H100、H800,2024年,除了上述型號(hào)外,該公司還將推出使用6個(gè)HBM3e的H200和8個(gè)HBM3e的B100,并同步整合自家基于Arm架構(gòu)的 CPU,推出GH200和GB200。
2024年,AMD將重點(diǎn)出貨MI300系列,采用HBM3,下一代MI350將采用HBM3e,將在2024下半年開(kāi)始進(jìn)行HBM驗(yàn)證,預(yù)計(jì)大規(guī)模量產(chǎn)時(shí)間將出現(xiàn)在2025年第一季度。
英特爾方面,2022下半年推出了Habana Gaudi 2,采用6個(gè)HBM2e,預(yù)計(jì)2024年新型號(hào)Gaudi 3將繼續(xù)采取HBM2e,但用量將升級(jí)至8個(gè)。
1月下旬,SK海力士公布了HBM發(fā)展路線圖,該公司副總裁Kim Chun-hwan透露,計(jì)劃在2024上半年量產(chǎn)HBM3e,并向客戶交付8層堆疊樣品,在6層堆棧HBM3e配置中,每層堆??商峁?.2 TB/s的通信帶寬,8層堆疊將進(jìn)一步提升HBM內(nèi)存的帶寬。
Kim Chun-hwan表示,在不斷升級(jí)的客戶期望的推動(dòng)下,存儲(chǔ)行業(yè)正在面臨激烈的生存競(jìng)爭(zhēng)。隨著制程工藝節(jié)點(diǎn)的縮小接近極限,存儲(chǔ)器廠商越來(lái)越關(guān)注新一代存儲(chǔ)架構(gòu)和工藝,以給客戶應(yīng)用系統(tǒng)提供更高的性能。為此,SK海力士已經(jīng)啟動(dòng)了HBM4的開(kāi)發(fā),計(jì)劃于2025年提供樣品,并于次年量產(chǎn)。
根據(jù)美光提供的信息,與前幾代HBM相比,HBM4每層堆棧的理論峰值帶寬將超過(guò)1.5 TB/s。為了實(shí)現(xiàn)這樣的帶寬,在保持合理功耗的同時(shí),HBM4的目標(biāo)是實(shí)現(xiàn)大約6GT/s的數(shù)據(jù)傳輸速率。
三星也有發(fā)展HBM4的時(shí)間表,計(jì)劃于2025年提供樣品,并于2026年量產(chǎn)。據(jù)三星高管Jaejune Kim透露,該公司HBM產(chǎn)量的一半以上是定制化產(chǎn)品,未來(lái),定制HBM方案的市場(chǎng)規(guī)模將進(jìn)一步擴(kuò)大。通過(guò)邏輯集成,量身定制的HBM對(duì)于滿足客戶個(gè)性化需求至關(guān)重要。
一些市場(chǎng)觀察人士表示,三星在HBM芯片開(kāi)發(fā)方面落后于SK海力士,為了在新接口標(biāo)準(zhǔn)CXL開(kāi)發(fā)中占據(jù)優(yōu)勢(shì)地位,三星加快了技術(shù)研發(fā)和產(chǎn)品布局。
審核編輯:劉清
-
DDR
+關(guān)注
關(guān)注
11文章
697瀏覽量
64931 -
美光
+關(guān)注
關(guān)注
5文章
702瀏覽量
51326 -
HBM
+關(guān)注
關(guān)注
0文章
332瀏覽量
14612 -
硅通孔技術(shù)
+關(guān)注
關(guān)注
0文章
3瀏覽量
3431 -
AI芯片
+關(guān)注
關(guān)注
17文章
1828瀏覽量
34663 -
HBM3E
+關(guān)注
關(guān)注
0文章
71瀏覽量
187
原文標(biāo)題:美光量產(chǎn)HBM3E內(nèi)存,功耗比對(duì)手產(chǎn)品低30%
文章出處:【微信號(hào):ICViews,微信公眾號(hào):半導(dǎo)體產(chǎn)業(yè)縱橫】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論