0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

微軟發(fā)布自研AI芯片!

中國半導(dǎo)體論壇 ? 來源:中國半導(dǎo)體論壇 ? 2023-11-16 14:13 ? 次閱讀

11月16日消息,美國時(shí)間周三,微軟發(fā)布了首款自研人工智能AI芯片,可用于訓(xùn)練大語言模型,擺脫對英偉達(dá)昂貴芯片的依賴。微軟還為云基礎(chǔ)設(shè)施構(gòu)建了基于Arm架構(gòu)的CPU。這兩款自研芯片旨在為Azure數(shù)據(jù)中心提供動力,并幫助該公司及其企業(yè)客戶準(zhǔn)備迎接AI時(shí)代的到來。

微軟的Azure Maia AI芯片和Arm架構(gòu)Azure Cobalt CPU將于2024年上市。今年,英偉達(dá)的H100 GPU需求激增,這些處理器被廣泛用于訓(xùn)練和運(yùn)行生成圖像工具和大語言模型。這些GPU的需求非常高,甚至在eBay上的售價(jià)超過了4萬美元。

微軟Azure硬件系統(tǒng)和基礎(chǔ)設(shè)施主管拉尼·博卡(Rani Borkar)在接受采訪時(shí)解釋說:“微軟在芯片開發(fā)方面有著悠久的歷史?!痹缭?0多年前,微軟就與人合作開發(fā)了Xbox的芯片,甚至還合作設(shè)計(jì)了Surface設(shè)備的芯片。博卡表示:“這些努力都是建立在這些經(jīng)驗(yàn)基礎(chǔ)之上的。2017年,我們開始構(gòu)建云硬件堆棧,并開啟了這段旅程,使我們走上了構(gòu)建新自研芯片的軌道?!?/p>

新的Azure Maia AI芯片和Azure Cobalt CPU都是由微軟內(nèi)部構(gòu)建的,并對其整個(gè)云服務(wù)器堆棧進(jìn)行了深度檢修,以優(yōu)化性能、功耗和成本。博卡表示:“我們正在重新考慮人工智能時(shí)代的云基礎(chǔ)設(shè)施,并真正優(yōu)化該基礎(chǔ)設(shè)施的每一層。”

Azure Cobalt CPU以元素“鈷”(鈷藍(lán)是重要的藍(lán)色顏料)命名,是一款128核芯片,基于Arm的Neoverse CSS設(shè)計(jì),并為微軟定制。它旨在為Azure上的通用云服務(wù)提供支持。博卡解釋稱:“我們花了很多心思,不僅要讓它具有高性能,還要注意到電源管理。為此我們做了許多有意識的設(shè)計(jì)選擇,包括控制每個(gè)內(nèi)核和每臺虛擬機(jī)上性能和功耗的能力?!?/p>

微軟目前正在測試Cobalt CPU的工作負(fù)載,如Teams和SQL服務(wù)器,并計(jì)劃明年為客戶提供各種工作負(fù)載的虛擬機(jī)。雖然博卡沒有直接將其與亞馬遜在AWS上提供的Graviton 3服務(wù)器進(jìn)行比較,但與微軟目前用于Azure的基于Arm的服務(wù)器相比,應(yīng)該會有一些明顯的性能提升。博卡表示:“我們的初步測試表明,我們的性能比目前使用商用Arm服務(wù)器的數(shù)據(jù)中心提高了40%。” 微軟還沒有分享完整的系統(tǒng)規(guī)格或基準(zhǔn)。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • 微軟
    +關(guān)注

    關(guān)注

    4

    文章

    6516

    瀏覽量

    103603
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    27

    文章

    4591

    瀏覽量

    128140
  • AI芯片
    +關(guān)注

    關(guān)注

    17

    文章

    1828

    瀏覽量

    34665

原文標(biāo)題:微軟發(fā)布自研AI芯片!

文章出處:【微信號:CSF211ic,微信公眾號:中國半導(dǎo)體論壇】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    大廠芯片背后的贏家,不只有晶圓廠

    電子發(fā)燒友網(wǎng)報(bào)道(文/周凱揚(yáng))隨著不少云服務(wù)廠商和互聯(lián)網(wǎng)廠商紛紛加入到芯片的行業(yè)中來,除了具備先進(jìn)工藝的晶圓代工廠外,提供設(shè)計(jì)解決方案的公司從中獲得了不少利潤。近期JP摩根發(fā)布了一
    的頭像 發(fā)表于 05-28 00:17 ?2415次閱讀

    微軟將推出自AI大模型

    微軟正在緊鑼密鼓地訓(xùn)練一款全新的人工智能大模型——“MAI-1”。據(jù)悉,這款模型規(guī)模龐大,足以與谷歌的Gemini和OpenAI的ChatGPT相媲美。
    的頭像 發(fā)表于 05-13 11:30 ?583次閱讀

    蘋果將通過芯片在云端推出AI功能

    近日,科技界傳來一則令人振奮的消息。據(jù)可靠報(bào)道,蘋果公司即將在云端推出強(qiáng)大的人工智能(AI)功能,而這一切將依托于的高端芯片
    的頭像 發(fā)表于 05-11 10:59 ?454次閱讀

    微軟AI大模型即將問世

    微軟正悄然醞釀一項(xiàng)重大技術(shù)突破,據(jù)內(nèi)部消息人士透露,公司正全力訓(xùn)練一款名為“MAI-1”的人工智能大模型。這款模型備受期待,其規(guī)模龐大,足以與谷歌的Gemini和OpenAI的ChatGPT等業(yè)界巨頭一較高下。
    的頭像 發(fā)表于 05-07 14:46 ?390次閱讀

    李未可科技發(fā)布全新首款AI眼鏡Chat,搭載AI大模型

    AI語音助手,為用戶開啟超擬人的AI語音交互新體驗(yàn)。用戶可使用語音交互讓AI幫助解決工作&日程安排,或開啟百科問答、學(xué)習(xí)輔助、英文翻譯、語音導(dǎo)航、超擬人情感陪伴及音樂娛樂等功能。 搭載
    發(fā)表于 04-26 10:45 ?1406次閱讀
    李未可科技<b class='flag-5'>發(fā)布</b>全新首款<b class='flag-5'>AI</b>眼鏡Chat,搭載<b class='flag-5'>自</b><b class='flag-5'>研</b><b class='flag-5'>AI</b>大模型

    微軟正在研發(fā)新型網(wǎng)卡,旨在提升AI芯片性能

    微軟近日被曝正在秘密研發(fā)一款高性能的新型網(wǎng)卡,這一創(chuàng)新旨在增強(qiáng)其的Maia AI服務(wù)器芯片的功能,并可能大幅度降低對外部
    的頭像 發(fā)表于 02-21 11:01 ?598次閱讀

    英偉達(dá)缺貨?OpenAI選擇芯片

    ?電子發(fā)燒友網(wǎng)報(bào)道(文/周凱揚(yáng))在生成式AI和大模型帶來的AI洪流下,不少大廠都不約而同地選擇了AI
    的頭像 發(fā)表于 01-30 00:51 ?3551次閱讀

    獨(dú)立的芯片公司未來該如何更好地發(fā)展?

    11月16日凌晨,微軟發(fā)布了兩款芯片AI加速芯片
    的頭像 發(fā)表于 11-25 14:38 ?544次閱讀
    獨(dú)立的<b class='flag-5'>芯片</b>公司未來該如何更好地發(fā)展?

    微軟AI芯片與H100、特斯拉D1性能對比

    微軟的多年投資顯示,芯片對于在AI和云計(jì)算領(lǐng)域取得優(yōu)勢至關(guān)重要。芯片可以讓
    發(fā)表于 11-22 15:38 ?497次閱讀
    <b class='flag-5'>微軟</b><b class='flag-5'>AI</b><b class='flag-5'>自</b><b class='flag-5'>研</b><b class='flag-5'>芯片</b>與H100、特斯拉D1性能對比

    微軟發(fā)布AI芯片——Azure Maia100

    Azure Maia 是一款AI 加速器芯片,用于OpenAI 模型、ChatGPT、Bing、GitHub Copilot 等AI 工作負(fù)載,Azure Maia 100 則是該系列第一代產(chǎn)品,采取5 納米制程生產(chǎn)。
    發(fā)表于 11-17 11:49 ?333次閱讀

    微軟重磅推出AI芯片!

    根據(jù)微軟官方消息,他們在最近舉行的Microsoft Ignite全球技術(shù)大會上推出了兩款人工智能芯片,并與AMD和英偉達(dá)展開合作,以推進(jìn)人工智能和計(jì)算能力。
    的頭像 發(fā)表于 11-16 18:24 ?1079次閱讀

    微軟AI芯片公布在即,云廠商進(jìn)一步優(yōu)化成本

    電子發(fā)燒友網(wǎng)報(bào)道(文/周凱揚(yáng))據(jù)外媒透露,微軟很有可能在11月舉辦的年度開發(fā)者Ignite大會上,公開其首個(gè)AI芯片。該
    的頭像 發(fā)表于 10-12 00:11 ?1006次閱讀

    OpenAI計(jì)劃AI芯片,試圖超越英偉達(dá)的市場份額

    據(jù)了解,OpenAI至少從去年開始就開始討論解決AI芯片短缺的方案,包括AI芯片、與英偉達(dá)等
    的頭像 發(fā)表于 10-09 18:24 ?1127次閱讀

    OpenAI和微軟下場造AI芯片 首款AI芯片11月上線!

    微軟AI芯片,11月上線! 知名外媒The Information獨(dú)家爆料稱,微軟計(jì)劃在下個(gè)
    發(fā)表于 10-09 11:36 ?193次閱讀
    OpenAI和<b class='flag-5'>微軟</b>下場造<b class='flag-5'>AI</b><b class='flag-5'>芯片</b> 首款<b class='flag-5'>自</b><b class='flag-5'>研</b><b class='flag-5'>AI</b><b class='flag-5'>芯片</b>11月上線!

    剛剛,蔚來發(fā)布首款激光雷達(dá)芯片!10月量產(chǎn)!

    介紹,“楊戩”芯片是蔚來智能硬件團(tuán)隊(duì)發(fā)布的第一顆芯片,型號為NX6031,號稱業(yè)界首顆
    的頭像 發(fā)表于 09-25 09:04 ?650次閱讀
    剛剛,蔚來<b class='flag-5'>發(fā)布</b>首款<b class='flag-5'>自</b><b class='flag-5'>研</b>激光雷達(dá)<b class='flag-5'>芯片</b>!10月量產(chǎn)!