墨芯人工智能發(fā)布大模型算力方案的最新成果

7月6日，在世界人工智能大會WAIC上，墨芯人工智能發(fā)布了大模型算力方案的最新成果，宣告進入“千億”時代：墨芯AI計算平臺率先支持高達千億參數(shù)的大語言模型，并在吞吐、延時等多項指標上表現(xiàn)優(yōu)異，創(chuàng)下又一里程碑。

在活動現(xiàn)場，墨芯展臺成為全場熱點：1760億參數(shù)的大語言模型Bloom在墨芯AI計算平臺的推理引擎支持下，能夠快速、流暢地回答各類問題，并完成詩歌創(chuàng)作、文案撰寫等多項語言生成任務(wù)，贏得現(xiàn)場觀眾的關(guān)注與贊嘆。

墨芯在千億參數(shù)大模型上的卓越表現(xiàn)，不僅再次彰顯出眾的產(chǎn)品技術(shù)優(yōu)勢，更是意義重大的行業(yè)性突破：

當前，算力瓶頸已成為大模型落地應(yīng)用的普遍痛點。墨芯針對大模型打造更高性能、更優(yōu)化的方案，緩解算力之困，為AIGC等大模型應(yīng)用釋放巨大空間，真正帶來“好用”、“用得起”的大模型算力方案。

千億參數(shù)大模型在墨芯AI計算平臺支持下的

推理效果

這對AIGC產(chǎn)業(yè)發(fā)展具有重要意義——

表明墨芯能夠為行業(yè)帶來新的前景：為企業(yè)、科研機構(gòu)提供高效的算力支持，有力助推AIGC等大模型成果走向社會、走向更多行業(yè)；同時幫助AI企業(yè)建立先發(fā)優(yōu)勢，加入AIGC潮流。

一起來了解，墨芯的“千億時刻“，所包含的重要突破——

在WAIC現(xiàn)場，墨芯還展示了MLPerf冠軍產(chǎn)品——墨芯AI卡計算卡、AI集成架構(gòu)方案等眾多展品，吸引了眾多嘉賓、觀眾與媒體的好評。

墨芯在千億參數(shù)大模型上的突破，再次顯示出稀疏計算的巨大優(yōu)勢，有效解決算力資源不足、功耗等運營成本巨大等行業(yè)痛點。墨芯率先將稀疏化算法與硬件結(jié)合落地，深度挖掘與釋放了稀疏計算在大模型上的潛力與價值，為行業(yè)帶來大模型算力的“最佳實踐”。

這不僅為AI算力的未來發(fā)展帶來了可行的創(chuàng)新路徑，為將來更大模型、更復(fù)雜應(yīng)用的發(fā)展奠定基礎(chǔ)，更為AIGC等大模型應(yīng)用的廣泛落地打開了空間，為新一輪智能革命提供加速引擎，推動AIGC的發(fā)展迎來新天地。