0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

億鑄科技熊大鵬探討AI大算力芯片的挑戰(zhàn)與解決策略

要長(zhǎng)高 ? 2024-10-25 11:52 ? 次閱讀

在SEMiBAY2024《HBM與存儲(chǔ)器技術(shù)與應(yīng)用論壇》上,億鑄科技的創(chuàng)始人、董事長(zhǎng)兼CEO熊大鵬博士發(fā)表了題為《超越極限:大算力芯片的技術(shù)挑戰(zhàn)與解決之道》的演講,深入剖析了AI大模型時(shí)代算力芯片所面臨的挑戰(zhàn)與機(jī)遇。

熊大鵬博士指出,AI大模型技術(shù)的快速發(fā)展推動(dòng)了算力需求的急劇增長(zhǎng)。隨著數(shù)據(jù)、算力和模型參數(shù)量的不斷提升,AI大模型的能力顯著增強(qiáng),甚至出現(xiàn)了類似人類的“涌現(xiàn)”能力,預(yù)示著AI應(yīng)用的廣泛落地即將到來(lái)。然而,現(xiàn)有的芯片硬件性能提升速度已難以滿足這種急劇增長(zhǎng)的算力需求,摩爾定律正面臨前所未有的挑戰(zhàn)。

據(jù)Omdia最新報(bào)告預(yù)測(cè),用于云計(jì)算和數(shù)據(jù)中心人工智能GPU和其他加速芯片市場(chǎng)規(guī)模將大幅增長(zhǎng),但到2026年市場(chǎng)可能會(huì)出現(xiàn)明顯拐點(diǎn),增長(zhǎng)動(dòng)力將從技術(shù)采用轉(zhuǎn)向人工智能應(yīng)用需求的變化。同時(shí),IDC預(yù)測(cè)未來(lái)人工智能服務(wù)器將更加注重提高計(jì)算能力和處理效率(能效比),以適應(yīng)更復(fù)雜、更大規(guī)模的人工智能應(yīng)用。

面對(duì)這一挑戰(zhàn),熊大鵬博士強(qiáng)調(diào),硬件架構(gòu)的創(chuàng)新成為突破算力瓶頸的關(guān)鍵路徑之一?,F(xiàn)有的AI芯片面臨著“三堵墻”問題:存儲(chǔ)墻、能耗墻和編譯墻。存儲(chǔ)墻是指存儲(chǔ)器的數(shù)據(jù)訪問速度跟不上計(jì)算單元的數(shù)據(jù)處理速度,導(dǎo)致性能瓶頸;能耗墻則是指隨著芯片性能的提升,能耗和散熱問題成為限制性能進(jìn)一步提升的主要因素;編譯墻則是隨著AI模型的復(fù)雜性增加,編譯器需要處理的數(shù)據(jù)量和計(jì)算任務(wù)也急劇增加,使得優(yōu)化變得非常困難。

為了打破這三堵墻,億鑄科技選擇了創(chuàng)新之路。熊大鵬博士介紹,億鑄科技采用“存算一體超異構(gòu)”架構(gòu)這一全新的芯片設(shè)計(jì)思路,極大地減少了數(shù)據(jù)搬運(yùn)的延遲,提升了整體的計(jì)算效率和能效比。這種架構(gòu)通過將數(shù)據(jù)搬運(yùn)量大幅下降,使得有效算力密度能夠線性增長(zhǎng),從而突破傳統(tǒng)計(jì)算模式的瓶頸。

熊大鵬博士進(jìn)一步指出,未來(lái)算力增長(zhǎng)將以存儲(chǔ)單元為中心,而不是傳統(tǒng)的算力單元。通過存算一體架構(gòu)等技術(shù),可以打破有效算力的天花板,實(shí)現(xiàn)更高的有效算力。億鑄科技自成立以來(lái),始終致力于通過存算一體提供更具性價(jià)比、更高能效比、更大算力發(fā)展空間的AI大算力芯片發(fā)展新路徑。

展望未來(lái),熊大鵬博士表示,隨著AI技術(shù)的不斷進(jìn)步和算力需求的不斷增長(zhǎng),億鑄科技將通過創(chuàng)新的存算一體架構(gòu)為AI芯片的發(fā)展提供新的方向。在大模型時(shí)代,億鑄科技的技術(shù)和產(chǎn)品將為AI技術(shù)的發(fā)展提供強(qiáng)大的支持,推動(dòng)整個(gè)行業(yè)向前發(fā)展。我們有理由期待,隨著億鑄科技技術(shù)的不斷成熟和應(yīng)用的不斷擴(kuò)展,AI芯片技術(shù)將迎來(lái)一個(gè)新的發(fā)展階段,為科技進(jìn)步做出更大的貢獻(xiàn)。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 芯片
    +關(guān)注

    關(guān)注

    452

    文章

    50167

    瀏覽量

    420602
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    29724

    瀏覽量

    268029
  • 算力
    +關(guān)注

    關(guān)注

    1

    文章

    898

    瀏覽量

    14688
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    AI科技日:圖靈AI芯片40天完成2791項(xiàng)驗(yàn)證

    驗(yàn)證。   隨著智能駕駛技術(shù)的不斷發(fā)展,對(duì)車端的高需求也日益增長(zhǎng)。為了應(yīng)對(duì)這一挑戰(zhàn),并解決公版芯片在通用
    的頭像 發(fā)表于 11-06 17:08 ?438次閱讀

    AI時(shí)代的重要性及現(xiàn)狀:平衡發(fā)展與優(yōu)化配置的挑戰(zhàn)

    AI時(shí)代,扮演著至關(guān)重要的角色。如果說(shuō)數(shù)據(jù)是AI大模型的“燃料”,那么則是其強(qiáng)大的“動(dòng)
    的頭像 發(fā)表于 11-04 11:45 ?220次閱讀

    AI芯片供電電源測(cè)試?yán)?費(fèi)思低壓大電流系列電子負(fù)載

    AI芯片作為驅(qū)動(dòng)復(fù)雜計(jì)算任務(wù)的核心引擎,其性能與穩(wěn)定性成為了決定應(yīng)用成敗的關(guān)鍵因素。而在這背后,供電電源的穩(wěn)定性和高效性則是保障AI
    的頭像 發(fā)表于 10-25 11:26 ?169次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>芯片</b>供電電源測(cè)試?yán)?費(fèi)思低壓大電流系列電子負(fù)載

    芯片面臨的技術(shù)挑戰(zhàn)和解決策略

    在灣芯展SEMiBAY2024《HBM與存儲(chǔ)器技術(shù)與應(yīng)用論壇》上,科技創(chuàng)始人、董事長(zhǎng)兼CEO發(fā)表了題為《超越極限:大
    的頭像 發(fā)表于 10-23 14:50 ?233次閱讀

    一體架構(gòu)創(chuàng)新助力國(guó)產(chǎn)大AI芯片騰飛

    在灣芯展SEMiBAY2024《AI芯片與高性能計(jì)算(HPC)應(yīng)用論壇》上,科技高級(jí)副總裁徐芳發(fā)表了題為《存一體架構(gòu)創(chuàng)新助力國(guó)產(chǎn)大
    的頭像 發(fā)表于 10-23 14:48 ?187次閱讀

    【「芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗(yàn)】--全書概覽

    1章 從TOP500和MLPerf看芯片格局 1.1科學(xué)最前沿TOP500 1.2 AI
    發(fā)表于 10-15 22:08

    科技完成數(shù)元融資

    近日,AI芯片領(lǐng)域的佼佼者科技宣布成功完成數(shù)元融資,再次贏得了資本市場(chǎng)的青睞。
    的頭像 發(fā)表于 10-14 16:04 ?237次閱讀

    科技2024年完成數(shù)元融資

    和技術(shù)創(chuàng)新注入強(qiáng)勁動(dòng)力。 ? 科技始終專注于通過架構(gòu)創(chuàng)新實(shí)現(xiàn)打破和降低 “存儲(chǔ)墻”、“能耗墻”以及“編譯墻”,面向數(shù)據(jù)中心、AI云計(jì)算、中心側(cè)AI服務(wù)器等場(chǎng)景積極進(jìn)行產(chǎn)品開發(fā),為業(yè)
    發(fā)表于 10-12 11:04 ?183次閱讀

    今日看點(diǎn)丨小自研芯片流片!是同行三倍;加拿大將對(duì)中國(guó)電動(dòng)汽車征收100%關(guān)稅

    1. 小自研芯片流片!是同行三倍 ? 據(jù)報(bào)道,小汽車自研的智能駕駛芯片已經(jīng)成功流片。有知
    發(fā)表于 08-27 11:22 ?1142次閱讀
    今日看點(diǎn)丨小<b class='flag-5'>鵬</b>自研<b class='flag-5'>芯片</b>流片!<b class='flag-5'>算</b><b class='flag-5'>力</b>是同行三倍;加拿大將對(duì)中國(guó)電動(dòng)汽車征收100%關(guān)稅

    安謀科技異構(gòu)組合,破局生成式AI挑戰(zhàn)

    近日,此芯科技集團(tuán)有限公司(以下簡(jiǎn)稱“此芯科技”)AI PC戰(zhàn)略暨首款芯片發(fā)布會(huì)在上海舉行,正式推出了其首款專為AI PC打造的異構(gòu)高能效芯片產(chǎn)品——“此芯P1”。作為國(guó)產(chǎn)新一代
    的頭像 發(fā)表于 08-13 09:12 ?494次閱讀

    科技談大芯片面臨的技術(shù)挑戰(zhàn)和解決策略

    隨著人工智能技術(shù)的飛速發(fā)展,已成為推動(dòng)產(chǎn)業(yè)變革的關(guān)鍵力量,但大模型的快速發(fā)展,參數(shù)的爆發(fā),對(duì)于需求也提出了更高的要求,帶來(lái)了全新的挑戰(zhàn)
    的頭像 發(fā)表于 08-07 10:03 ?653次閱讀

    Sora需求引發(fā)業(yè)界對(duì)集結(jié)國(guó)內(nèi)AI企業(yè)探討

    據(jù)周鴻祎觀察,Sora視頻分析所需恐遠(yuǎn)超千億規(guī)模模型。因而,考慮到如今國(guó)內(nèi)芯片供應(yīng)受限,問題至關(guān)重要。事實(shí)上,Meta已有約50萬(wàn)臺(tái)
    的頭像 發(fā)表于 02-25 10:03 ?518次閱讀

    “芯”勢(shì)力賦能AI未來(lái)

    對(duì)人類生產(chǎn)的提升。如果說(shuō)大模型的任務(wù)是讓AI“夠聰明”的話,那么的任務(wù)就是讓AI“夠便宜”,兩者共同發(fā)展直到
    的頭像 發(fā)表于 01-10 10:21 ?687次閱讀

    弘信電子與AI服務(wù)器合資,助力國(guó)產(chǎn)芯片落地

    此外,弘信電子近期在AI業(yè)務(wù)上取得了突破性進(jìn)展,這并非源自本土化的積累,而是依賴于團(tuán)隊(duì)敏銳的戰(zhàn)略眼光和強(qiáng)烈的創(chuàng)新動(dòng)力。此次投資是弘信電子在AI
    的頭像 發(fā)表于 12-25 09:30 ?773次閱讀

    淺談為AI而生的存-體芯片

    大模型爆火之后,存一體獲得了更多的關(guān)注與機(jī)會(huì),其原因之一是因?yàn)榇?b class='flag-5'>算一體芯片的裸相比傳統(tǒng)架構(gòu)的AI
    發(fā)表于 12-06 15:00 ?353次閱讀
    淺談為<b class='flag-5'>AI</b>大<b class='flag-5'>算</b><b class='flag-5'>力</b>而生的存<b class='flag-5'>算</b>-體<b class='flag-5'>芯片</b>