天數(shù)智芯正式發(fā)布通用GPU推理產(chǎn)品“智鎧100”，峰值算力高達384TOPS@int8

電子發(fā)燒友網(wǎng)報道（文/吳子鵬）12月20日，天數(shù)智芯在全新通用GPU產(chǎn)品線上發(fā)布會上正式發(fā)布該公司第二款產(chǎn)品——智鎧100，面向人工智能推理應用。

“2021年3月，天數(shù)智芯發(fā)布了公司第一款產(chǎn)品天垓100，是國內(nèi)第一款通用GPU訓練產(chǎn)品，實現(xiàn)了我國高端通用GPU從0到1的突破。目前，天垓100已經(jīng)覆蓋20多個行業(yè)，適配300多個應用模型?！碧鞌?shù)智芯總裁蓋魯江表示，“智鎧100作為公司第二款產(chǎn)品，瞄準推理應用市場，可廣泛應用于金融、醫(yī)療、教育、安防、互聯(lián)網(wǎng)、智能語音、車路協(xié)同、智能中心等領域，標志著天數(shù)智芯成為國內(nèi)唯一擁有云邊協(xié)同、訓推組合的完整通用算力系統(tǒng)全方案提供商?！?br />
天數(shù)智芯于今年5月成功點亮智鎧100，在2022世界人工智能大會上，智鎧100首次公開亮相，被譽為“鎮(zhèn)館之寶”，吸引了眾多行業(yè)用戶的關注。

?

那么，智鎧100的真實性能如何呢？在本次發(fā)布會上，天數(shù)智芯產(chǎn)品線總裁鄒翾對智鎧100進行了全面的介紹。根據(jù)他的介紹，智鎧100具有計算性能高、應用覆蓋廣和使用成本低三大特點。

?

在計算性能高方面，智鎧100支持FP32、FP16、INT8等多精度混合計算，峰值算力表現(xiàn)為384TOPS@int8、96TFlops@FP16、24TFlops@FP32。
?

此外，智鎧100加速卡提供32GB的HBM存儲配置，800GB/s的理論峰值帶寬，16路PCIe 4.0通道，以及128路并發(fā)的多種視頻規(guī)格解碼能力。

?

鄒翾指出，和目前行業(yè)內(nèi)的主流方案相比，智鎧100在CV/自然語言處理，以及推薦/濾波/統(tǒng)計分析等方面，基本都能提供2-3倍實際使用性能。

?

在應用覆蓋廣方面，上面已經(jīng)提到，智鎧100能夠滿足多個行業(yè)的推理應用需求。同時，為了讓這些行業(yè)的用戶更好地使用智鎧100，天數(shù)智芯在智鎧100上做了專門的優(yōu)化。智鎧100能夠提供多達800余條通用指令集，500多個算子函數(shù)，支持國內(nèi)外主流深度學習開發(fā)框架，擁有豐富編程接口拓展和高性能函數(shù)庫，可以靈活支持各種算法模型，便于客戶自定義開發(fā)。

?

在使用成本低方面，智鎧100具備開發(fā)易遷移的特點，全面支持推理及訓練一體化方案，能夠在不額外增加購置成本的情況下完成增量訓練工作，有效減少用戶的成本支出。發(fā)布會上，有嘉賓在分享時講到，智鎧100帶來了非常好的使用體驗，在實際的算法遷移過程中，并不需要對上層算法做太多修改就能夠完成遷移。并且，智鎧100不僅遷移速度快，而且性能表現(xiàn)穩(wěn)定，可以滿足相關應用的需求。

目前，天數(shù)智芯在國內(nèi)通用GPU市場已經(jīng)打開局面。2022年4月，天垓100累計訂單金額已經(jīng)接近2億元，目前這一數(shù)字已經(jīng)超過了5億元。智鎧100的出現(xiàn)進一步豐富了天數(shù)智芯的產(chǎn)品陣容，并吸引了產(chǎn)學研多方面的關注。發(fā)布會上，極視角生態(tài)合作負責人葉炤陽介紹，該公司已經(jīng)在算法開發(fā)訓練、算法推理部署平臺上部署天垓100和智鎧100產(chǎn)品。讓我們期待2023年天數(shù)智芯在智鎧100上拿出亮眼的成績單。