ChatGPT帶旺HBM存儲

據(jù)韓媒報(bào)道，自今年年初以來，三星電子和SK海力士的高帶寬存儲器（HBM）訂單激增。盡管HBM具有優(yōu)異的性能，但其應(yīng)用比一般DRAM少。這是因?yàn)镠BM的平均售價(jià)（ASP）至少是DRAM的三倍。HBM需要復(fù)雜的生產(chǎn)過程和高度先進(jìn)的技術(shù)。人工智能服務(wù)的擴(kuò)展扭轉(zhuǎn)了局面。一位業(yè)內(nèi)人士表示，“與性能最高的DRAM相比，HBM3的價(jià)格上漲了五倍。”

據(jù)了解，目前SK海力士在HBM市場處于領(lǐng)先地位，約有60%-70%的份額。HBM（高帶寬存儲器）是高價(jià)值、高性能存儲器，垂直互連多個(gè)DRAM芯片，與傳統(tǒng)DRAM產(chǎn)品相比顯著提高數(shù)據(jù)處理速度。SK海力士 HBM3 DRAM是繼HBM（第一代）、HBM2（第二代）和HBM2E（第三代）之后的第四代HBM產(chǎn)品。

SK海力士介紹，其HBM3的容量是HBM2E的1.5倍，從12個(gè)DRAM管芯堆疊到相同的總封裝高度，適合AI和HPC等功率容量密集型應(yīng)用。單個(gè)立方體可以產(chǎn)生高達(dá)819GB/s的帶寬，而在同一硅片上具有六個(gè)HBM芯片的SiP（系統(tǒng)封裝）可以實(shí)現(xiàn)高達(dá)4.8TB/s的帶寬，以支持exascale需求。

來源：SK海力士

來源：SK海力士

SK hynix HBM3還具有一個(gè)強(qiáng)大的、定制的片上ECC（糾錯(cuò)碼），它使用預(yù)先分配的奇偶校驗(yàn)位來檢查和糾正接收數(shù)據(jù)中的錯(cuò)誤。嵌入式電路允許DRAM自校正單元內(nèi)的錯(cuò)誤，顯著提高了器件可靠性。

去年6月，SK海力士宣布其HBM3將與NVIDIA H100 Tensor Core GPU結(jié)合用于加速計(jì)算。SK hynix的HBM3有望通過高達(dá)819GB/s的內(nèi)存帶寬增強(qiáng)加速計(jì)算性能，相當(dāng)于每秒傳輸163部FHD（全高清）電影（5GB標(biāo)準(zhǔn)）。在NVIDIA完成對SK海力士HBM3樣品的性能評估后，SK hynix于2022年第三季度開始發(fā)貨。

三星推出HBM3 Icebolt，專為數(shù)據(jù)中心加速，減輕高性能計(jì)算負(fù)荷，充分挖掘人工智能 (AI) 潛能的存儲芯片。HBM3 Icebolt 高帶寬存儲采用 12 層高速 DRAM，擁有更快速度、更高能效和更大容量。

HBM3 Icebolt 以高達(dá) 6.4Gbps 處理速度和高達(dá) 819GB/s 的帶寬將性能提升到新高度。比上一代產(chǎn)品快將近 1.8 倍。

借助專為數(shù)據(jù)中心加速而設(shè)計(jì)的 HBM，讓數(shù)據(jù)發(fā)揮更大作用。HBM3 Icebolt 采用 12 層 10 納米級 16 Gb DRAM die堆疊，實(shí)現(xiàn) 24GB 的存儲容量，24GB是三星前代產(chǎn)品HBM2E的 1.5 倍。利用新型解決方案打造更強(qiáng)大的神經(jīng)網(wǎng)絡(luò)，并以更快的速度處理數(shù)據(jù)。

處理速度更快，存儲容量更大，但能效比卻明顯高于上一代HBM2E。HBM3 Icebolt 具有前所未有的強(qiáng)大能力，采用超高效設(shè)計(jì)，能效比上一代產(chǎn)品提高了 10%。因此，能提高性能同時(shí)減輕服務(wù)器的負(fù)擔(dān)。

HBM3 Icebolt即使在提供更高速度的情況下，仍然提供增強(qiáng)型自我校正功能，從而保證數(shù)據(jù)可靠性。HBM3 Icebolt 解決方案可校正所有 16 位錯(cuò)誤 - 相較于僅校正單比特錯(cuò)誤的上一代產(chǎn)品HBM2E，ODECC 能力實(shí)現(xiàn)巨大飛躍。因此，能夠消除更多錯(cuò)誤，更好的防止數(shù)據(jù)損壞，保持你數(shù)據(jù)的穩(wěn)定性和安全性。

與傳統(tǒng)DRAM相比，HBM在數(shù)據(jù)處理速度和性能方面具有顯著的競爭力。ChatGPT大火帶動(dòng)人工智能和數(shù)據(jù)中心建設(shè)投入升級，也必將帶動(dòng)HBM產(chǎn)品的需求增長。