墨芯完成智譜大模型適配黃金認(rèn)證助推國(guó)產(chǎn)算力商業(yè)化進(jìn)程

在推動(dòng)大模型算力量級(jí)提升的道路上，稀疏計(jì)算引領(lǐng)者墨芯人工智能（以下簡(jiǎn)稱(chēng)“墨芯”）再次邁出重要的一步。

近日，墨芯旗下產(chǎn)品S30計(jì)算卡經(jīng)過(guò)智譜AI內(nèi)部專(zhuān)家的嚴(yán)格測(cè)評(píng)，榮獲黃金級(jí)別認(rèn)證，充分顯示了其與智譜AI（以下簡(jiǎn)稱(chēng)“智譜”）的ChatGLM2-6B開(kāi)源大模型在推理與微調(diào)方面的高度兼容性和卓越適配能力。

墨芯獲得智譜ChatGLM2-6B模型黃金認(rèn)證證書(shū)

除了上述已經(jīng)成功適配的ChatGLM2-6B大模型外，墨芯正通過(guò)基于S30計(jì)算卡的定制化算力為智譜提供一體化解決方案，同時(shí)也積極參與到智譜其他閉源商業(yè)大模型的兼容性適配中，這一過(guò)程也加速了智譜AI大模型的商用步伐。

墨芯的助力，不僅是對(duì)智譜現(xiàn)有AI產(chǎn)品矩陣的算力加持，更是對(duì)其未來(lái)AI技術(shù)應(yīng)用領(lǐng)域落地的一次積極探索。通過(guò)這種合作，墨芯和智譜AI共同推動(dòng)了國(guó)產(chǎn)大模型技術(shù)的商業(yè)化進(jìn)程，加快了其在多個(gè)行業(yè)中的實(shí)際應(yīng)用和普及。墨芯的S30計(jì)算卡作為這一合作的關(guān)鍵組成部分，其強(qiáng)大的算力和高效的適配能力不僅提升了智譜AI大模型的開(kāi)發(fā)和部署，也為之后在更多領(lǐng)域的合作提供了堅(jiān)實(shí)的基礎(chǔ)，進(jìn)一步推動(dòng)了國(guó)產(chǎn)大模型的廣闊應(yīng)用和行業(yè)滲透。

此外，S30計(jì)算卡在技術(shù)創(chuàng)新上的突破，特別是在稀疏計(jì)算和AI算法優(yōu)化方面的先進(jìn)性，為智譜的AI大模型提供了強(qiáng)大的后端支撐。這不僅加強(qiáng)了智譜大模型的性能和適用性，而且在促進(jìn)國(guó)產(chǎn)AI技術(shù)的商業(yè)化和產(chǎn)業(yè)化方面發(fā)揮了重要作用。通過(guò)這種強(qiáng)強(qiáng)聯(lián)手模式，墨芯和智譜共同展現(xiàn)了國(guó)內(nèi)AI技術(shù)在未來(lái)無(wú)限的競(jìng)爭(zhēng)力和創(chuàng)新潛力。

通過(guò)本次認(rèn)證的S30計(jì)算卡搭載墨芯首顆Antoum芯片，以其高達(dá)32倍稀疏率的強(qiáng)勁AI算力，專(zhuān)注服務(wù)與數(shù)據(jù)中心AI推理的多元需求。其應(yīng)用領(lǐng)域覆蓋了互聯(lián)網(wǎng)、通信、智慧城市建設(shè)、生命科學(xué)、自動(dòng)駕駛等關(guān)鍵行業(yè)，體現(xiàn)了其廣泛的適用性和靈活性。

墨芯的雙稀疏算法和Antoum架構(gòu)的創(chuàng)新，使S30在同行業(yè)產(chǎn)品中處于領(lǐng)先地位，更顯著優(yōu)化了客戶(hù)的總擁有成本（TCO）。

S30計(jì)算卡在行業(yè)內(nèi)以其卓越的推理加速性能始終保持領(lǐng)先。此前，在9月舉辦的最新一屆的全球權(quán)威測(cè)評(píng)MLPerf Inference 3.1推理評(píng)測(cè)中，墨芯S30計(jì)算卡，以其無(wú)與倫比的性能，在處理GPT-J（60億參數(shù)）大模型推理任務(wù)時(shí)，無(wú)論是單卡還是多卡配置，均力壓群雄，榮登榜首。這是墨芯連續(xù)第三次在MLPerf推理評(píng)測(cè)中取得領(lǐng)先成績(jī)，進(jìn)一步夯實(shí)其在AI算力領(lǐng)域的領(lǐng)導(dǎo)地位。

墨芯S30計(jì)算卡在GPT-J-99模型中的性能表現(xiàn)

ChatGLM2-6B模型由智譜AI與清華大學(xué)KEG實(shí)驗(yàn)室共同研發(fā)，是一款功能強(qiáng)大的開(kāi)源中英雙語(yǔ)對(duì)話(huà)模型。其在沿襲了初代模型的流暢對(duì)話(huà)和低部署難度的基礎(chǔ)上，進(jìn)一步提升了推理速度和降低顯存占用，整體性能更加出色。

S30計(jì)算卡的黃金認(rèn)證，不僅是其技術(shù)實(shí)力的顯著證明，更是墨芯賦能智譜大模型商業(yè)化進(jìn)程的關(guān)鍵一環(huán)，不僅證實(shí)了S30計(jì)算卡在運(yùn)行智譜ChatGLM2-6B大模型時(shí)的穩(wěn)定性和高吞吐能力，也標(biāo)志著墨芯與智譜在共同推進(jìn)大模型技術(shù)發(fā)展和生態(tài)建設(shè)方面的成功合作。未來(lái)，墨芯人工智能將與智譜AI在更多領(lǐng)域展開(kāi)廣闊合作，共同致力于推動(dòng)國(guó)產(chǎn)AI大模型生態(tài)圈的協(xié)同進(jìn)步與創(chuàng)新。

關(guān)于

智譜AI

ABOUT ZHIPU AI

北京智譜華章科技有限公司（簡(jiǎn)稱(chēng)“智譜AI”）致力于打造新一代認(rèn)知智能大模型，專(zhuān)注于做大模型的中國(guó)創(chuàng)新。公司合作研發(fā)了中英雙語(yǔ)千億級(jí)超大規(guī)模預(yù)訓(xùn)練模型GLM-130B，并基于此推出對(duì)話(huà)模型ChatGLM，開(kāi)源單卡版模型ChatGLM-6B。同時(shí)，團(tuán)隊(duì)還打造了AIGC模型及產(chǎn)品矩陣，包括AI提效助手智譜清言、高效率代碼模型CodeGeeX、多模態(tài)理解模型CogVLM和文生圖模型CogView等。公司踐行Model as a Service（MaaS）的市場(chǎng)理念，推出大模型MaaS開(kāi)放平臺(tái)，打造高效率、通用化的“模型即服務(wù)”AI開(kāi)發(fā)新范式。

關(guān)于墨芯

人工智能

ABOUT MOFFETT AI

墨芯人工智能是稀疏計(jì)算引領(lǐng)者，致力于提供云端和終端AI計(jì)算平臺(tái)和服務(wù)。通過(guò)全球領(lǐng)先的稀疏計(jì)算技術(shù)優(yōu)勢(shì)，打造軟硬協(xié)同的新一代智能計(jì)算平臺(tái)。產(chǎn)品性能位居行業(yè)領(lǐng)先，相較行業(yè)主流產(chǎn)品，在算力、能效比與成本等方面均實(shí)現(xiàn)數(shù)量級(jí)優(yōu)化。面向互聯(lián)網(wǎng)、運(yùn)營(yíng)商、金融、制造、醫(yī)療、交通、能源、生命科學(xué)、自動(dòng)駕駛等眾多行業(yè)與場(chǎng)景，提供高算力、低功耗、高性?xún)r(jià)比的AI算力服務(wù)，賦能前沿科技的進(jìn)步與社會(huì)的智能化升級(jí)。

審核編輯：劉清