微軟已經(jīng)為深度學(xué)習(xí)優(yōu)化庫 DeepSpeed 申請了商標(biāo)保護(hù)。該商標(biāo)于2020年12月8日提交,其中提到“為人工智能處理和深度學(xué)習(xí)提供臨時(shí)使用的在線不可下載的計(jì)算機(jī)軟件”,這表明微軟可能在考慮通過在線云服務(wù)提供 DeepSpeed。
該庫于今年 2 月發(fā)布,可以在適度的硬件上訓(xùn)練大規(guī)模的人工智能模型。它只需要使用 800 塊 Nvidia V100 顯卡就可以創(chuàng)建具有萬億參數(shù)的深度學(xué)習(xí)模型,是目前世界上最大的模型的 5 倍多。如果沒有DeepSpeed,同樣的任務(wù)需要 4000 塊 Nvidia A100(性能比 V100 快2.5倍),而且事件縮短了 100 多天。
在 GPT-3 顯示模型在神經(jīng)網(wǎng)和數(shù)據(jù)集越大的情況下繼續(xù)改進(jìn)后,這個(gè)工具特別有用。然而,這確實(shí)有可能將最新的創(chuàng)新推到資源較少的小型團(tuán)隊(duì)的范圍之外,但DeepSpeed已經(jīng)允許這些團(tuán)隊(duì)以最小的硬件與更大的服務(wù)競爭。轉(zhuǎn)移到云處理可能會(huì)使大型模型AI訓(xùn)練更容易獲得。
責(zé)任編輯:PSY
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。
舉報(bào)投訴
相關(guān)推薦
小鵬汽車最新商標(biāo)動(dòng)態(tài)引發(fā)關(guān)注。據(jù)天眼查知識(shí)產(chǎn)權(quán)信息透露,廣東小鵬汽車科技有限公司近日已正式申請注冊“XPENG IRONMAN”、“Iron”及“XPENG IRON”三項(xiàng)商標(biāo),其國際分類均聚焦于科學(xué)儀器領(lǐng)域。目前,這些
發(fā)表于 09-05 17:14
?443次閱讀
近日,華為技術(shù)有限公司在商標(biāo)領(lǐng)域再添新動(dòng)作,申請注冊了“乾崑大挪移”商標(biāo),該商標(biāo)國際分類為運(yùn)輸工具,目前正處于等待實(shí)質(zhì)審查階段。這一舉動(dòng)不僅
發(fā)表于 08-13 15:22
?367次閱讀
近日,小米科技有限責(zé)任公司正式申請了一系列與“Xiaomi SU7 Ultra”及“Xiaomi Ultra”相關(guān)的文字商標(biāo),并配套申請了“Ultra”的圖形商標(biāo)。這些
發(fā)表于 08-05 17:23
?538次閱讀
美國VPS云服務(wù)器是位于美國數(shù)據(jù)中心的虛擬專用服務(wù)器,它們通過虛擬化技術(shù)在物理服務(wù)器上提供獨(dú)立
發(fā)表于 07-17 15:43
?182次閱讀
近日,百度在線網(wǎng)絡(luò)技術(shù)(北京)有限公司在知識(shí)產(chǎn)權(quán)領(lǐng)域有了新動(dòng)作。據(jù)天眼查知識(shí)產(chǎn)權(quán)信息顯示,百度已申請多枚“文小言”商標(biāo),這些商標(biāo)將涵蓋廣告銷售、網(wǎng)站
發(fā)表于 06-19 09:20
?369次閱讀
微軟將大規(guī)模采用AMD的旗艦產(chǎn)品MI300X,并通過Azure云計(jì)算平臺(tái)向用戶提供計(jì)算集群服務(wù)。鑒于Nvidia的H100和H200芯片供應(yīng)
發(fā)表于 05-17 16:38
?667次閱讀
近日,中國移動(dòng)通信集團(tuán)有限公司在商標(biāo)領(lǐng)域邁出了重要步伐。該公司已經(jīng)向有關(guān)部門遞交了多個(gè)包含“5G-A×AI”和“5G-A2”等字樣的圖形商標(biāo)申請,這些商標(biāo)的國際分類涵蓋通訊
發(fā)表于 05-14 11:47
?532次閱讀
阿里云僅作為平臺(tái)運(yùn)營方,保護(hù)并提升合作服務(wù)商的服務(wù)質(zhì)量。為了保障注冊記錄與訂單管理的連續(xù)性,阿里云將保留
發(fā)表于 03-04 15:33
?874次閱讀
中興通訊在商標(biāo)領(lǐng)域動(dòng)作頻頻,近日申請注冊了多枚涉及“星云”、“星云OS”以及“ZTE NEBULA OS”的商標(biāo),這些商標(biāo)的國際分類覆蓋了科學(xué)儀器和通訊
發(fā)表于 03-01 10:30
?557次閱讀
近日,浙江吉利控股集團(tuán)有限公司向國家知識(shí)產(chǎn)權(quán)局申請注冊兩枚“吉利星睿大模型”商標(biāo),其國際分類為科學(xué)儀器和網(wǎng)站服務(wù)。目前,這兩枚商標(biāo)均處于等待
發(fā)表于 02-28 10:12
?467次閱讀
”“智界”“勇界”“慧界”“筑界”“傲界”“知界”“羿界”等。部分商標(biāo)已經(jīng)已成功注冊;部分商標(biāo)狀態(tài)為等待實(shí)質(zhì)審查。 近日華為還申請了“合界”,國際分類
發(fā)表于 02-05 15:08
?1315次閱讀
華為技術(shù)有限公司近日向商標(biāo)局申請注冊一枚“合界”商標(biāo),國際分類為運(yùn)輸工具,當(dāng)前商標(biāo)狀態(tài)為等待實(shí)質(zhì)
發(fā)表于 02-05 13:55
?790次閱讀
據(jù)悉,賽力斯已經(jīng)開始申請注冊“賽力斯問界”商標(biāo),國際分類為運(yùn)輸工具,目前該申請的商標(biāo)狀態(tài)為等待實(shí)
發(fā)表于 01-26 20:03
?2784次閱讀
作為云計(jì)算技術(shù)落地的重要基礎(chǔ)設(shè)施成果,云服務(wù)器近年來獲得的飛速發(fā)展有目共睹。云服務(wù)器需求量的激增引發(fā)行業(yè)競爭的加劇,甚至很多
發(fā)表于 11-07 14:53
?374次閱讀
各個(gè)GPU上。 今天要給大家介紹的DeepSpeed,它就能實(shí)現(xiàn)這個(gè)拆散功能,它通過將模型參數(shù)拆散分布到各個(gè)
發(fā)表于 10-30 10:09
?2527次閱讀
評(píng)論