中國最大的計(jì)算芯片誕生！燧原科技發(fā)布邃思2.0 AI訓(xùn)練芯片

燧原科技于7月7日在上海發(fā)布第二代人工智能訓(xùn)練產(chǎn)品——“邃思2.0”芯片、基于邃思2.0的“云燧T20”訓(xùn)練加速卡和“云燧T21”訓(xùn)練OAM模組，全面升級的“馭算TopsRider”軟件平臺以及全新的“云燧集群”，成為國內(nèi)首家發(fā)布第二代人工智能訓(xùn)練產(chǎn)品組合的公司。

這是繼2019年12年發(fā)布第一代訓(xùn)練芯片，邃思1.0及云燧T10/T11，2020年12月發(fā)布第一代推理產(chǎn)品云燧i10之后，燧原科技的又一力作。

?
燧原科技CEO趙立東（左）與 燧原科技COO張亞林（右）共同發(fā)布“云燧T20”訓(xùn)練加速卡和“邃思2.0”芯片

燧原產(chǎn)品的商業(yè)落地場景包括，液冷超大規(guī)模集群，加速視頻內(nèi)容生產(chǎn)；強(qiáng)化學(xué)習(xí)使能游戲AI，改變數(shù)字娛樂的方式；強(qiáng)大的視覺能力，保駕護(hù)航金融安全；邊緣部署融合多數(shù)據(jù)，構(gòu)建新型智能化交通；高效推理算力集群，建設(shè)園區(qū)AI視頻云。

隨著第二代產(chǎn)品的發(fā)布，將加速這些場景的商業(yè)化落地。

云燧智算集群

隨著自然語言處理、強(qiáng)化學(xué)習(xí)、無監(jiān)督學(xué)習(xí)、多模態(tài)和認(rèn)知模型等的發(fā)展，在知識圖譜、智慧大腦、游戲引擎、融合媒體和通用人工智能的應(yīng)用上，綠色一體化的超級智算集群是關(guān)鍵趨勢。

燧原發(fā)布CloudBlazer Matrix云燧智算集群，它代表世界最高水平，最高8192Enflame CloudBlazer訓(xùn)練卡和DTU芯片，最高1.3E（130000T）單精度智能算力集群。液冷/每一體化PUE降到1.15以下。最高160T單精度張量訓(xùn)練卡以及80%的線性度。



這是為智能計(jì)算和新基建算力而推出的集群化產(chǎn)品。CloudBlazer Matrix 2.0將包括邃思DTU2.0，云燧CloudBlazer T20/T21板卡，和馭算軟件Topsrider2.0。

打造中國最大的計(jì)算芯片，邃思DTU2.0性能強(qiáng)悍

邃思DTU2.0是中國最大的計(jì)算芯片，突破封裝的極限。DTU2.0采用2.5D高級封裝，整合9顆芯片，其中1顆DTU芯片、4顆三星HBM2E等構(gòu)成先進(jìn)封裝。封裝尺寸為57.5mm*57.5mm。

?
DTU2.0的計(jì)算能力，單精度FP32達(dá)40FLOPS，支持單精度張量TF32，達(dá)160T FLOPS。TF32格式被認(rèn)為是在數(shù)據(jù)中心最先進(jìn)的數(shù)據(jù)模式。

此外，DTU2.0植入完全可編程的數(shù)據(jù)流，軟件指令驅(qū)動(dòng)的傳輸和數(shù)據(jù)計(jì)算，標(biāo)量、向量和張量的高效數(shù)據(jù)處理，和多地址廣播等。

存儲方面，邃思2.0共搭載了4顆HBM2E片上存儲芯片，高配支持64GB內(nèi)存，帶寬達(dá)1.8TB/s，是中國第一個(gè)支持世界最先進(jìn)存儲HBM2E和單芯片64 GB內(nèi)存的產(chǎn)品。



6個(gè)LARE卡間互聯(lián)端口，每一個(gè)端口雙向50GB/s，總集群互聯(lián)帶寬300GB/s。

云燧T21\T20訓(xùn)練產(chǎn)品，分別為OAM標(biāo)準(zhǔn)模組和全高全長PCIE板卡。



以Benchmark數(shù)據(jù)來看，云燧T20與友商次旗艦相比，在圖像識別/分類、NLP、目標(biāo)檢測、圖像分割、推薦等均有明顯優(yōu)勢。



馭算Topsrider2.0架構(gòu)

馭算TopsRider是燧原科技自主知識產(chǎn)權(quán)的計(jì)算及編程平臺，通過軟硬件協(xié)同架構(gòu)設(shè)計(jì)，充分發(fā)揮邃思2.0的性能；基于算子泛化技術(shù)及圖優(yōu)化策略，支持主流深度學(xué)習(xí)框架下的各類模型訓(xùn)練；利用Horovod分布式訓(xùn)練框架與GCU-LARE互聯(lián)技術(shù)相互配合，為超大規(guī)模集群的高效運(yùn)行提供解決方案。開放升級的編程模型和可擴(kuò)展的算子接口，為客戶模型的優(yōu)化提供了自定義的開發(fā)能力。



云端訓(xùn)練計(jì)算產(chǎn)品路線圖

訓(xùn)練產(chǎn)品方面，燧原計(jì)劃第三代T30/T31產(chǎn)品將于2023年發(fā)布，每瓦的能效將提升14倍。同時(shí)升級到Matrix3.0。



推理計(jì)算方面，2021年下半年將發(fā)布i20推理芯片，以及2023年將發(fā)布i30。其每瓦能效將分別提升4倍和16倍。


另外，在Topsrider2.x的基礎(chǔ)上，還將進(jìn)一步升級至Topsrider3.x，致力于泛AI生態(tài)。

生態(tài)建設(shè)

AI生態(tài)也是跨行業(yè)的、復(fù)雜的生態(tài)競爭。燧原推出的異構(gòu)計(jì)算生態(tài)燎原計(jì)劃，將聚集生態(tài)的三大特征：原始創(chuàng)新、標(biāo)準(zhǔn)化和生態(tài)共建。

燎原計(jì)劃將建立繁榮開放的開發(fā)者生態(tài)，健康互利的產(chǎn)業(yè)生態(tài)，持續(xù)創(chuàng)新的科研生態(tài)。打造以人工智能為起點(diǎn)構(gòu)建通用異構(gòu)計(jì)算生態(tài)，構(gòu)建標(biāo)準(zhǔn)化的技術(shù)體系，共建完整生態(tài)服務(wù)數(shù)字中國。將涵蓋深度學(xué)習(xí)計(jì)算，通用異構(gòu)計(jì)算以及視覺計(jì)算。



趙立東表示，未來行業(yè)的發(fā)展趨勢表明，以芯片為核心的算力，是工業(yè)4.0兵家必爭之地。工業(yè)4.0時(shí)代，人工智能是關(guān)鍵動(dòng)力。摩爾定律放緩，異構(gòu)計(jì)算加速，基于小芯片、封裝技術(shù)，人工智能落地將改變互聯(lián)網(wǎng)重塑傳統(tǒng)行業(yè)。算力需示爆炸，算力成為人工智能技術(shù)發(fā)展的基礎(chǔ)。燧原科技要建立世界水平的本土化研發(fā)和工程化團(tuán)隊(duì)，開發(fā)國產(chǎn)自主創(chuàng)新的核心技術(shù)，布局云端AI+高端芯片雙賽道。我們?yōu)閿?shù)據(jù)中心打造最優(yōu)的云端AI產(chǎn)品，形成訓(xùn)練推理完整的閉環(huán)解決方案。

本文由電子發(fā)燒友原創(chuàng)，作者黃晶晶，微信號kittyhjj，轉(zhuǎn)載請注明以上來源。如需入群交流，請?zhí)砑游⑿舉lecfans999，投稿發(fā)郵件到huangjingjing@elecfans.com。