0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

人工智能芯片革命:HBM崛起

微云疏影 ? 來源:綜合整理 ? 作者:綜合整理 ? 2023-12-19 14:18 ? 次閱讀

曾幾何時,我們需要花費一個多小時才能下載一部電影。如今,最新處理器能夠在一秒鐘內(nèi)處理相當于160多部全高清電影的數(shù)據(jù)量。高帶寬內(nèi)存(HBM)是實現(xiàn)這一高效數(shù)據(jù)傳輸?shù)暮诵募夹g(shù)。雖然HBM在2013年首次亮相時曾面臨商用風險評估,但是經(jīng)過幾年的發(fā)展和驗證,現(xiàn)已成為人工智能芯片的基本要素。各大芯片制造商,例如英偉達AMD,均致力于推動此項尖端技術(shù),以滿足他們?nèi)找嬖鲩L的處理能力及帶寬需求。

大量數(shù)據(jù)生成式人工智能應(yīng)用對傳統(tǒng)存儲芯片的性能產(chǎn)生了巨大挑戰(zhàn)。為了應(yīng)對這個問題,我們需要更快的數(shù)據(jù)傳輸速度和更高的處理效率,從而導致更密集的芯片布局以及更大的能耗輸出。一直以來,傳統(tǒng)安裝形式均是將芯片平放在同一平面上,然后利用電纜及保險絲進行鏈接。這一方式會隨著芯片數(shù)量的增多而降低通信和功耗效率。而HBM改變了這一狀況,它將多個芯片沿垂直方向堆疊,同時利用尖端材料,包括比紙片還要纖小的微型電路板,將模塊匯聚成為立體形態(tài)。這一改進對于人工智能芯片制造商來說極為重要,因為當芯片間距減小,能耗亦隨之下降,HBM的能耗較之傳統(tǒng)方式低了約四分之三。此外,HBM還擁有高達五倍的帶寬優(yōu)勢,且占用空間小于現(xiàn)有產(chǎn)品的一半。

盡管如此,HBM的成本仍然較高,為常見內(nèi)存芯片的五倍以上。然而,由于HBM滿足了現(xiàn)代高性能人工智能芯片的特殊需求,因此此類集成了HBM的人工智能芯片也具有較高價值。與十年前相比,現(xiàn)在各大科技巨頭的芯片投資預算明顯增加。據(jù)TrendForce公司數(shù)據(jù)顯示,全球HBM市場中50%的份額由韓國SK海力士占有,余下市場則被三星和美光瓜分。這兩家公司分別生產(chǎn)了上一代以及即將面世的新款HBM芯片。

總的來說,在當前市場環(huán)境下,只有SK海力士公司能夠大規(guī)模生產(chǎn)第三代HBM產(chǎn)品。據(jù)稱,該公司滿足了全球超過60%的客戶需求,而其他競爭者則主要面向市場生產(chǎn)上一代產(chǎn)品。盡管HBM目前尚存在成本較高等問題,但毫無疑問的是,隨著人工智能領(lǐng)域的不斷拓展以及數(shù)據(jù)中心規(guī)模的擴大,對于HBM的需求將會持續(xù)攀升。預測至2023年6月份,全球HBM需求將同比增加60%。

2024年,人工智能芯片大戰(zhàn)將進一步推動這一增長。AMD剛剛推出了一款新產(chǎn)品,希望與英偉達抗衡。全球市場供不應(yīng)求,再加上人們對價格更低廉的英偉達產(chǎn)品需求旺盛,這意味著能夠提供規(guī)格相當芯片的企業(yè)將有機會獲得豐厚的利潤。但是,撼動英偉達的關(guān)鍵不僅在于物理芯片本身,還在于其軟件生態(tài)系統(tǒng),其中包括流行的開發(fā)工具和編程模型。要想復制這一點,需要數(shù)年時間。

這就是為什么硬件,以及每塊新芯片中的HBM數(shù)量,對英偉達的競爭者來說變得更加重要。通過使用升級的HBM來提高內(nèi)存容量,是短期內(nèi)獲得競爭力的少數(shù)方法之一。例如,AMD最新的MI300加速器使用了8個HBM,比英偉達產(chǎn)品的5或6個要多。

芯片歷來是一個周期性行業(yè),容易出現(xiàn)劇烈的繁榮和蕭條。從目前的趨勢來看,新產(chǎn)品需求的持續(xù)增長應(yīng)該會使未來的衰退期不像過去那么動蕩。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 人工智能
    +關(guān)注

    關(guān)注

    1789

    文章

    46652

    瀏覽量

    237083
  • 存儲芯片
    +關(guān)注

    關(guān)注

    11

    文章

    881

    瀏覽量

    43048
  • HBM
    HBM
    +關(guān)注

    關(guān)注

    0

    文章

    365

    瀏覽量

    14681
收藏 人收藏

    評論

    相關(guān)推薦

    《AI for Science:人工智能驅(qū)動科學創(chuàng)新》第6章人AI與能源科學讀后感

    幸得一好書,特此來分享。感謝平臺,感謝作者。受益匪淺。 在閱讀《AI for Science:人工智能驅(qū)動科學創(chuàng)新》的第6章后,我深刻感受到人工智能在能源科學領(lǐng)域中的巨大潛力和廣泛應(yīng)用。這一章詳細
    發(fā)表于 10-14 09:27

    AI for Science:人工智能驅(qū)動科學創(chuàng)新》第4章-AI與生命科學讀后感

    閱讀這一章后,我深感人工智能與生命科學的結(jié)合正引領(lǐng)著一場前所未有的科學革命,以下是我個人的讀后感: 1. 技術(shù)革新與生命科學進步 這一章詳細闡述了人工智能如何通過其強大的數(shù)據(jù)處理和分析能力,加速生命科學
    發(fā)表于 10-14 09:21

    《AI for Science:人工智能驅(qū)動科學創(chuàng)新》第一章人工智能驅(qū)動的科學創(chuàng)新學習心得

    ,無疑為讀者鋪設(shè)了一條探索人工智能(AI)如何深刻影響并推動科學創(chuàng)新的道路。在閱讀這一章后,我深刻感受到了人工智能技術(shù)在科學領(lǐng)域的廣泛應(yīng)用潛力以及其帶來的革命性變化,以下是我個人的學習心得: 1.
    發(fā)表于 10-14 09:12

    risc-v在人工智能圖像處理應(yīng)用前景分析

    RISC-V在人工智能圖像處理領(lǐng)域的應(yīng)用前景十分廣闊,這主要得益于其開源性、靈活性和低功耗等特點。以下是對RISC-V在人工智能圖像處理應(yīng)用前景的詳細分析: 一、RISC-V的基本特點 RISC-V
    發(fā)表于 09-28 11:00

    SK海力士開始先進人工智能芯片生產(chǎn)

    SK海力士宣布,公司已正式踏入人工智能芯片生產(chǎn)的新階段,批量生產(chǎn)業(yè)界領(lǐng)先的12層HBM3E芯片。這款芯片不僅代表了SK海力士在內(nèi)存技術(shù)上的重
    的頭像 發(fā)表于 09-26 14:24 ?257次閱讀

    人工智能ai4s試讀申請

    目前人工智能在繪畫對話等大模型領(lǐng)域應(yīng)用廣闊,ai4s也是方興未艾。但是如何有效利用ai4s工具助力科研是個需要研究的課題,本書對ai4s基本原理和原則,方法進行描訴,有利于總結(jié)經(jīng)驗,擬按照要求準備相關(guān)體會材料??茨芊裼兄谌腴T和提高ss
    發(fā)表于 09-09 15:36

    名單公布!【書籍評測活動NO.44】AI for Science:人工智能驅(qū)動科學創(chuàng)新

    芯片設(shè)計的自動化水平、優(yōu)化半導體制造和封測的工藝和水平、尋找新一代半導體材料等方面提供幫助。 第6章介紹了人工智能在化石能源科學研究、可再生能源科學研究、能源轉(zhuǎn)型三個方面的落地應(yīng)用。 第7章從環(huán)境監(jiān)測
    發(fā)表于 09-09 13:54

    報名開啟!深圳(國際)通用人工智能大會將啟幕,國內(nèi)外大咖齊聚話AI

    8月28日至30日,2024深圳(國際)通用人工智能大會暨深圳(國際)通用人工智能產(chǎn)業(yè)博覽會將在深圳國際會展中心(寶安)舉辦。大會以“魅力AI·無限未來”為主題,致力于打造全球通用人工智能領(lǐng)域集產(chǎn)品
    發(fā)表于 08-22 15:00

    FPGA在人工智能中的應(yīng)用有哪些?

    FPGA(現(xiàn)場可編程門陣列)在人工智能領(lǐng)域的應(yīng)用非常廣泛,主要體現(xiàn)在以下幾個方面: 一、深度學習加速 訓練和推理過程加速:FPGA可以用來加速深度學習的訓練和推理過程。由于其高并行性和低延遲特性
    發(fā)表于 07-29 17:05

    5G智能物聯(lián)網(wǎng)課程之Aidlux下人工智能開發(fā)(SC171開發(fā)套件V2)

    人工智能 工業(yè)檢測:芯片模組外觀檢測實訓part1 11分40秒 https://t.elecfans.com/v/25609.html *附件:芯片模組外觀檢測實訓.pdf 人工智能
    發(fā)表于 05-10 16:46

    5G智能物聯(lián)網(wǎng)課程之Aidlux下人工智能開發(fā)(SC171開發(fā)套件V1)

    https://t.elecfans.com/v/27186.html *附件:引體向上測試案例_20240126.pdf 人工智能 工業(yè)檢測:芯片模組外觀檢測實訓part1 11分40秒 https
    發(fā)表于 04-01 10:40

    美光量產(chǎn)行業(yè)領(lǐng)先的HBM3E解決方案,加速人工智能發(fā)展

    領(lǐng)先地位,并且憑借 HBM3E 的超凡性能和能效為人工智能(AI)解決方案賦能。 HBM3E:推動人工智能革命 隨著
    的頭像 發(fā)表于 03-04 18:51 ?1145次閱讀
    美光量產(chǎn)行業(yè)領(lǐng)先的<b class='flag-5'>HBM</b>3E解決方案,加速<b class='flag-5'>人工智能</b>發(fā)展

    美光開始量產(chǎn)行業(yè)領(lǐng)先的 HBM3E 解決方案,加速人工智能發(fā)展

    里程碑式進展持續(xù)保持行業(yè)領(lǐng)先地位,并且憑借 HBM3E?的超凡性能和能效為人工智能(AI)解決方案賦能。 ? ? HBM3E:推動人工智能革命
    的頭像 發(fā)表于 03-04 14:51 ?815次閱讀
    美光開始量產(chǎn)行業(yè)領(lǐng)先的 <b class='flag-5'>HBM</b>3E 解決方案,加速<b class='flag-5'>人工智能</b>發(fā)展

    嵌入式人工智能的就業(yè)方向有哪些?

    嵌入式人工智能的就業(yè)方向有哪些? 在新一輪科技革命與產(chǎn)業(yè)變革的時代背景下,嵌入式人工智能成為國家新型基礎(chǔ)建設(shè)與傳統(tǒng)產(chǎn)業(yè)升級的核心驅(qū)動力。同時在此背景驅(qū)動下,眾多名企也紛紛在嵌入式人工智能
    發(fā)表于 02-26 10:17

    大算力芯片里的HBM,你了解多少?

    最近,隨著人工智能行業(yè)的高速崛起,大算力芯片業(yè)成為半導體行業(yè)為數(shù)不多的熱門領(lǐng)域HBM(高寬帶內(nèi)存:High-bandwidthmemory)作為大算力
    的頭像 發(fā)表于 12-05 16:14 ?1547次閱讀
    大算力<b class='flag-5'>芯片</b>里的<b class='flag-5'>HBM</b>,你了解多少?