近日,摩爾線程與國(guó)內(nèi)領(lǐng)先的數(shù)據(jù)智能服務(wù)商滴普科技共同宣布,摩爾線程夸娥(KUAE)千卡智算集群與滴普企業(yè)大模型Deepexi已完成訓(xùn)練及推理適配。基于摩爾線程夸娥千卡智算集群,滴普科技成功完成了700億參數(shù)LLaMA2大語言模型的預(yù)訓(xùn)練測(cè)試,訓(xùn)練時(shí)長(zhǎng)共計(jì)77小時(shí),全程無故障連續(xù)運(yùn)行,集群訓(xùn)練穩(wěn)定性達(dá)到100%,訓(xùn)練效率和兼容性均達(dá)到預(yù)期。
滴普科技作為數(shù)據(jù)智能服務(wù)商,以數(shù)據(jù)智能技術(shù)為基礎(chǔ),為客戶提供數(shù)據(jù)智能基礎(chǔ)設(shè)施、企業(yè)大模型產(chǎn)品,以及數(shù)據(jù)智能創(chuàng)新服務(wù)。基于已深度服務(wù)的頭部客戶所積累的深厚數(shù)據(jù)能力,滴普科技構(gòu)建的Deepexi企業(yè)大模型,在語義、視覺、語音、跨模態(tài)等方面的能力均表現(xiàn)優(yōu)越,能夠運(yùn)用模型工具鏈為企業(yè)提供高質(zhì)量的數(shù)據(jù)準(zhǔn)備、模型訓(xùn)練、調(diào)優(yōu)、部署及推理服務(wù),快速構(gòu)建企業(yè)不同領(lǐng)域模型以及智能體應(yīng)用,幫助企業(yè)實(shí)現(xiàn)從數(shù)據(jù)驅(qū)動(dòng)到智能驅(qū)動(dòng)的升級(jí)。
此次,摩爾線程與滴普科技的合作,借助夸娥千卡智算集群全棧方案的模型覆蓋、推理加速、CUDA兼容、斷點(diǎn)續(xù)訓(xùn)、分布式訓(xùn)練、集群可靠性等8大核心能力,為構(gòu)建國(guó)產(chǎn)化數(shù)智賦能底座奠定堅(jiān)實(shí)基礎(chǔ)。同時(shí),夸娥千卡智算集群作為業(yè)內(nèi)首個(gè)跑通、跑完國(guó)產(chǎn)大模型的千卡集群,以全功能GPU為底座,提供軟硬一體化的全棧解決方案?;诖舜魏献鳎p方能夠?yàn)楦餍懈鳂I(yè)提供全國(guó)產(chǎn)大模型解決方案,廣泛應(yīng)用于訓(xùn)練、微調(diào)和實(shí)時(shí)推理等場(chǎng)景。
目前,滴普科技已與中國(guó)海誠(chéng)、中核裝備院、百麗時(shí)尚等企業(yè)開展產(chǎn)業(yè)落地實(shí)踐,成為產(chǎn)業(yè)大模型落地的領(lǐng)先企業(yè)。未來,摩爾線程與滴普科技將繼續(xù)發(fā)揮雙方在技術(shù)、場(chǎng)景和軟硬件協(xié)同方面的優(yōu)勢(shì),在能源、金融、先進(jìn)制造等領(lǐng)域,以及與央企、國(guó)企的合作中,共同探索全國(guó)產(chǎn)化解決方案的落地機(jī)會(huì),推動(dòng)人工智能在更多產(chǎn)業(yè)領(lǐng)域的應(yīng)用,助力企業(yè)實(shí)現(xiàn)智能升級(jí),賦能行業(yè)高質(zhì)量發(fā)展。
-
gpu
+關(guān)注
關(guān)注
28文章
4673瀏覽量
128564 -
人工智能
+關(guān)注
關(guān)注
1789文章
46652瀏覽量
237054 -
摩爾線程
+關(guān)注
關(guān)注
1文章
194瀏覽量
4426 -
大模型
+關(guān)注
關(guān)注
2文章
2274瀏覽量
2356
原文標(biāo)題:摩爾線程 × 滴普科技|完成大模型訓(xùn)練與推理適配
文章出處:【微信號(hào):moorethreads,微信公眾號(hào):摩爾線程】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論