0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

英特爾發(fā)布Gaudi3 AI加速器,押注低成本優(yōu)勢(shì)挑戰(zhàn)市場(chǎng)

要長(zhǎng)高 ? 2024-09-26 16:16 ? 次閱讀

英特爾近期震撼發(fā)布了專為AI工作負(fù)載設(shè)計(jì)的Gaudi3加速器,這款新芯片雖在速度上不及英偉達(dá)熱門型號(hào)H100與H200 GPU,但英特爾巧妙地將競(jìng)爭(zhēng)優(yōu)勢(shì)聚焦于其更為親民的價(jià)格與總擁有成本(TCO)上。

Gaudi3處理器采用雙芯片設(shè)計(jì),內(nèi)置強(qiáng)大的計(jì)算單元,包括64個(gè)張量處理器核心(TPC,配備256x256 MAC結(jié)構(gòu)并集成FP32累加器)、8個(gè)高效的矩陣乘法引擎(MME,支持256位寬矢量處理)以及高達(dá)96MB的片上SRAM緩存,提供驚人的19.2TB/s帶寬。此外,它還集成了24個(gè)200GbE網(wǎng)絡(luò)接口和14個(gè)媒體引擎,后者能夠高效處理多種視頻編解碼格式,如H.265、H.264、JPEG和VP9,為視覺(jué)處理應(yīng)用增添強(qiáng)大助力。內(nèi)存方面,Gaudi3搭載了128GB HBM2E內(nèi)存,通過(guò)八個(gè)內(nèi)存堆棧實(shí)現(xiàn)高達(dá)3.67TB/s的帶寬,確保數(shù)據(jù)處理的高效流暢。

相較于前代產(chǎn)品Gaudi2,Gaudi3在架構(gòu)上進(jìn)行了顯著優(yōu)化,盡管在TPC和MME數(shù)量上有所精簡(jiǎn),但它專注于提升特定精度下的計(jì)算能力,僅支持FP8矩陣運(yùn)算及BFloat16矩陣和矢量運(yùn)算,這一調(diào)整旨在更好地滿足當(dāng)前AI工作負(fù)載的需求。

在性能表現(xiàn)上,Gaudi3提供了高達(dá)1856 TFLOPS的BF16/FP8矩陣運(yùn)算能力,以及28.7 TFLOPS的BF16矢量運(yùn)算能力,同時(shí)其熱設(shè)計(jì)功耗(TDP)約為600W。盡管在某些指標(biāo)上略遜于英偉達(dá)H100,但英特爾強(qiáng)調(diào),Gaudi3在實(shí)際應(yīng)用中的性價(jià)比優(yōu)勢(shì)將尤為突出。

英特爾為Gaudi3制定了明確的市場(chǎng)定位,旨在與AMD的Instinct MI300系列及英偉達(dá)的H100、B100/B200等高端芯片展開(kāi)競(jìng)爭(zhēng)。據(jù)英特爾透露,基于8個(gè)Gaudi3芯片的加速器套件定價(jià)為125,000美元,單芯片成本約為15,625美元,相較于英偉達(dá)H100的30,678美元售價(jià),展現(xiàn)了顯著的價(jià)格優(yōu)勢(shì)。然而,面對(duì)可能具備更強(qiáng)性能的英偉達(dá)Blackwell架構(gòu)GPU(如B100/B200),英特爾能否持續(xù)保持其競(jìng)爭(zhēng)優(yōu)勢(shì),仍需市場(chǎng)進(jìn)一步驗(yàn)證。

英特爾執(zhí)行副總裁Justin Hotard表示:“AI需求的激增正驅(qū)動(dòng)數(shù)據(jù)中心領(lǐng)域的深刻變革,行業(yè)迫切需要更多元化的硬件、軟件及開(kāi)發(fā)工具選擇。通過(guò)推出搭載P核與Gaudi3 AI加速器的Xeon 6,英特爾正積極構(gòu)建一個(gè)開(kāi)放的生態(tài)系統(tǒng),助力客戶以更高的性能、效率和安全性應(yīng)對(duì)各種工作負(fù)載?!?/p>

目前,Gaudi3 AI加速器已通過(guò)IBM Cloud及英特爾Tiber開(kāi)發(fā)者云平臺(tái)提供服務(wù),并計(jì)劃于今年第四季度通過(guò)戴爾、慧與(HPE)和Supermicro等合作伙伴全面上市,其中戴爾和Supermicro的部分系統(tǒng)將于10月開(kāi)始出貨,而Supermicro的設(shè)備則將于12月抵達(dá)市場(chǎng)。

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 英特爾
    +關(guān)注

    關(guān)注

    60

    文章

    9773

    瀏覽量

    170749
  • 加速器
    +關(guān)注

    關(guān)注

    2

    文章

    786

    瀏覽量

    37204
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    29014

    瀏覽量

    266469
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    IBM Cloud將部署英特爾Gaudi 3 AI芯片

    近日,科技巨頭IBM與英特爾宣布了一項(xiàng)重大合作計(jì)劃,雙方將共同在IBM Cloud平臺(tái)上部署英特爾最新的Gaudi 3 AI芯片,預(yù)計(jì)該服務(wù)
    的頭像 發(fā)表于 09-03 15:52 ?258次閱讀

    從運(yùn)動(dòng)員到開(kāi)發(fā)者: 英特爾以開(kāi)放式AI系統(tǒng)應(yīng)對(duì)多重挑戰(zhàn)

    打造的生成式AI(GenAI)檢索增強(qiáng)生成(RAG)解決方案。該成果深度展示了英特爾如何通過(guò)基于英特爾?至強(qiáng)?處理英特爾??
    的頭像 發(fā)表于 07-25 09:28 ?202次閱讀
    從運(yùn)動(dòng)員到開(kāi)發(fā)者: <b class='flag-5'>英特爾</b>以開(kāi)放式<b class='flag-5'>AI</b>系統(tǒng)應(yīng)對(duì)多重<b class='flag-5'>挑戰(zhàn)</b>

    英特爾發(fā)布新一代Lunar Lake處理

    在近期舉辦的中國(guó)臺(tái)北國(guó)際電腦展(Computex)上,英特爾CEO蓋爾辛格向全球展示了其最新的技術(shù)成果。他發(fā)布了第六代至強(qiáng)處理,并重點(diǎn)強(qiáng)調(diào)了Gaudi
    的頭像 發(fā)表于 06-05 11:23 ?792次閱讀

    英特爾確認(rèn)Ponte Vecchio GPU將以云服務(wù)形式推出

    英特爾在公告中強(qiáng)調(diào),隨著AI技術(shù)需求的不斷增加,公司重點(diǎn)利用Gaudi AI加速器的性能優(yōu)勢(shì)及有
    的頭像 發(fā)表于 05-18 17:14 ?957次閱讀

    英特爾Falcon Shores GPU預(yù)計(jì)2025年末問(wèn)世,滿足AI產(chǎn)業(yè)需求

    英特爾首席執(zhí)行官帕特·基辛格表示,F(xiàn)alcon Shores將融合全可編程架構(gòu)與Gaudi 3加速器的卓越系統(tǒng)性能,讓用戶能在兩代硬件之間實(shí)現(xiàn)順暢無(wú)縫的升級(jí)。
    的頭像 發(fā)表于 05-06 14:45 ?423次閱讀

    英特爾擬推出中國(guó)市場(chǎng)“特供版芯片”Gaudi 3

    英特爾計(jì)劃在中國(guó)市場(chǎng)推出“特供版”Gaudi 3 AI芯片,這一決策主要是基于美國(guó)對(duì)于AI芯片的
    的頭像 發(fā)表于 04-16 14:48 ?430次閱讀

    英特爾公布Gaudi 3 AI加速器中國(guó)特供版計(jì)劃

    這兩款專供版加速卡,分別被命名為HL-328和HL-388,它們代表了英特爾AI加速領(lǐng)域的最新技術(shù)成果。
    的頭像 發(fā)表于 04-15 15:19 ?600次閱讀

    Intel Vision 2024大會(huì): 英特爾發(fā)布全新軟硬件平臺(tái),全速助力企業(yè)推進(jìn)AI創(chuàng)新

    的下一代英特爾?至強(qiáng)?6處理的全新品牌。 ?推出英特爾?Gaudi 3 AI
    的頭像 發(fā)表于 04-12 14:52 ?397次閱讀
    Intel Vision 2024大會(huì): <b class='flag-5'>英特爾</b><b class='flag-5'>發(fā)布</b>全新軟硬件平臺(tái),全速助力企業(yè)推進(jìn)<b class='flag-5'>AI</b>創(chuàng)新

    英特爾的最強(qiáng)AI芯片要來(lái)了,聲稱性能完勝英偉達(dá)H100

    美國(guó)東部時(shí)間4月9日凌晨,英特爾發(fā)布了其最新的人工智能芯片Gaudi3,預(yù)計(jì)將在第三季度大范圍上市。 在當(dāng)天舉辦的Intel Vision 2024大會(huì)上,英特爾CEO帕特·基辛格(P
    的頭像 發(fā)表于 04-11 23:36 ?357次閱讀

    英特爾進(jìn)軍AI芯片市場(chǎng):推出Gaudi 3 AI加速卡與Xeon 6處理

    Gaudi 3作為英特爾AI領(lǐng)域的最新力作,旨在與英偉達(dá)等市場(chǎng)領(lǐng)導(dǎo)者展開(kāi)競(jìng)爭(zhēng)。據(jù)英特爾透露,這
    的頭像 發(fā)表于 04-10 15:37 ?685次閱讀

    英特爾專家為您揭秘第五代英特爾? 至強(qiáng)? 可擴(kuò)展處理如何為AI加速

    近日,英特爾發(fā)布了第五代至強(qiáng) 可擴(kuò)展處理,尤其是其“為 AI 加速”的口號(hào)引起了廣泛關(guān)注。 在 AI
    的頭像 發(fā)表于 12-23 12:20 ?640次閱讀

    AI 無(wú)處不在,英特爾酷睿Ultra 和第五代英特爾至強(qiáng)可擴(kuò)展處理正式發(fā)布

    今天,英特爾在北京舉辦以“AI無(wú)處不在,創(chuàng)芯無(wú)所不及”為主題的2023英特爾新品發(fā)布會(huì)暨AI 技術(shù)創(chuàng)新派對(duì),攜手ISV、OEM、CSP產(chǎn)業(yè)伙
    的頭像 發(fā)表于 12-16 16:05 ?597次閱讀
    <b class='flag-5'>AI</b> 無(wú)處不在,<b class='flag-5'>英特爾</b>酷睿Ultra 和第五代<b class='flag-5'>英特爾</b>至強(qiáng)可擴(kuò)展處理<b class='flag-5'>器</b>正式<b class='flag-5'>發(fā)布</b>

    英特爾:讓我們一起消滅CUDA

    基爾辛格認(rèn)為:"由于推理的發(fā)生,一旦你訓(xùn)練了模型......就不會(huì)依賴CUDA。"關(guān)鍵在于,你能否很好地運(yùn)行該模型?他表示,英特爾將利用今日首次在舞臺(tái)上展示的 Gaudi3 迎接挑戰(zhàn),并利用至強(qiáng)和邊緣PC實(shí)現(xiàn)這一目標(biāo)
    的頭像 發(fā)表于 12-15 17:12 ?899次閱讀

    英特爾Gaudi 3系列AI加速器明年上市

    英特爾總裁帕特·基辛格(Pat Gelsinger)認(rèn)為,鑒于英特爾Gaudi3具備的持續(xù)加強(qiáng)的性能優(yōu)勢(shì)和極具競(jìng)爭(zhēng)性的TCO及定價(jià)機(jī)制,預(yù)測(cè)該產(chǎn)品有望在2024年憑借領(lǐng)先的
    的頭像 發(fā)表于 12-15 11:07 ?688次閱讀

    英特爾啟動(dòng)首個(gè)AI PC加速計(jì)劃

    人工智能(AI)特性,并由計(jì)劃于12月14日發(fā)布英特爾 酷睿Ultra處理率先推動(dòng)。 通過(guò)與超過(guò)100家ISV合作伙伴深度合作,并集合300余項(xiàng)
    的頭像 發(fā)表于 10-21 16:40 ?476次閱讀
    <b class='flag-5'>英特爾</b>啟動(dòng)首個(gè)<b class='flag-5'>AI</b> PC<b class='flag-5'>加速</b>計(jì)劃