11月16日消息,美國時(shí)間周三,微軟發(fā)布了首款自研人工智能(AI)芯片,可用于訓(xùn)練大語言模型,擺脫對英偉達(dá)昂貴芯片的依賴。微軟還為云基礎(chǔ)設(shè)施構(gòu)建了基于Arm架構(gòu)的CPU。這兩款自研芯片旨在為Azure數(shù)據(jù)中心提供動力,并幫助該公司及其企業(yè)客戶準(zhǔn)備迎接AI時(shí)代的到來。
微軟的Azure Maia AI芯片和Arm架構(gòu)Azure Cobalt CPU將于2024年上市。今年,英偉達(dá)的H100 GPU需求激增,這些處理器被廣泛用于訓(xùn)練和運(yùn)行生成圖像工具和大語言模型。這些GPU的需求非常高,甚至在eBay上的售價(jià)超過了4萬美元。
微軟Azure硬件系統(tǒng)和基礎(chǔ)設(shè)施主管拉尼·博卡(Rani Borkar)在接受采訪時(shí)解釋說:“微軟在芯片開發(fā)方面有著悠久的歷史?!痹缭?0多年前,微軟就與人合作開發(fā)了Xbox的芯片,甚至還合作設(shè)計(jì)了Surface設(shè)備的芯片。博卡表示:“這些努力都是建立在這些經(jīng)驗(yàn)基礎(chǔ)之上的。2017年,我們開始構(gòu)建云硬件堆棧,并開啟了這段旅程,使我們走上了構(gòu)建新自研芯片的軌道?!?/p>
新的Azure Maia AI芯片和Azure Cobalt CPU都是由微軟內(nèi)部構(gòu)建的,并對其整個(gè)云服務(wù)器堆棧進(jìn)行了深度檢修,以優(yōu)化性能、功耗和成本。博卡表示:“我們正在重新考慮人工智能時(shí)代的云基礎(chǔ)設(shè)施,并真正優(yōu)化該基礎(chǔ)設(shè)施的每一層。”
Azure Cobalt CPU以元素“鈷”(鈷藍(lán)是重要的藍(lán)色顏料)命名,是一款128核芯片,基于Arm的Neoverse CSS設(shè)計(jì),并為微軟定制。它旨在為Azure上的通用云服務(wù)提供支持。博卡解釋稱:“我們花了很多心思,不僅要讓它具有高性能,還要注意到電源管理。為此我們做了許多有意識的設(shè)計(jì)選擇,包括控制每個(gè)內(nèi)核和每臺虛擬機(jī)上性能和功耗的能力?!?/p>
微軟目前正在測試Cobalt CPU的工作負(fù)載,如Teams和SQL服務(wù)器,并計(jì)劃明年為客戶提供各種工作負(fù)載的虛擬機(jī)。雖然博卡沒有直接將其與亞馬遜在AWS上提供的Graviton 3服務(wù)器進(jìn)行比較,但與微軟目前用于Azure的基于Arm的服務(wù)器相比,應(yīng)該會有一些明顯的性能提升。博卡表示:“我們的初步測試表明,我們的性能比目前使用商用Arm服務(wù)器的數(shù)據(jù)中心提高了40%。” 微軟還沒有分享完整的系統(tǒng)規(guī)格或基準(zhǔn)。
-
微軟
+關(guān)注
關(guān)注
4文章
6516瀏覽量
103603 -
gpu
+關(guān)注
關(guān)注
27文章
4591瀏覽量
128140 -
AI芯片
+關(guān)注
關(guān)注
17文章
1828瀏覽量
34665
原文標(biāo)題:微軟發(fā)布自研AI芯片!
文章出處:【微信號:CSF211ic,微信公眾號:中國半導(dǎo)體論壇】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
評論