0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

摩爾線程千卡智算集群與滴普企業(yè)大模型已完成訓(xùn)練及推理適配

摩爾線程 ? 來源:摩爾線程 ? 2024-05-29 10:28 ? 次閱讀

近日,摩爾線程與國(guó)內(nèi)領(lǐng)先的數(shù)據(jù)智能服務(wù)商滴普科技共同宣布,摩爾線程夸娥(KUAE)千卡智算集群與滴普企業(yè)大模型Deepexi已完成訓(xùn)練及推理適配。基于摩爾線程夸娥千卡智算集群,滴普科技成功完成了700億參數(shù)LLaMA2大語言模型的預(yù)訓(xùn)練測(cè)試,訓(xùn)練時(shí)長(zhǎng)共計(jì)77小時(shí),全程無故障連續(xù)運(yùn)行,集群訓(xùn)練穩(wěn)定性達(dá)到100%,訓(xùn)練效率和兼容性均達(dá)到預(yù)期。

f3c76320-1d62-11ef-b74b-92fbcf53809c.png

滴普科技作為數(shù)據(jù)智能服務(wù)商,以數(shù)據(jù)智能技術(shù)為基礎(chǔ),為客戶提供數(shù)據(jù)智能基礎(chǔ)設(shè)施、企業(yè)大模型產(chǎn)品,以及數(shù)據(jù)智能創(chuàng)新服務(wù)。基于已深度服務(wù)的頭部客戶所積累的深厚數(shù)據(jù)能力,滴普科技構(gòu)建的Deepexi企業(yè)大模型,在語義、視覺、語音、跨模態(tài)等方面的能力均表現(xiàn)優(yōu)越,能夠運(yùn)用模型工具鏈為企業(yè)提供高質(zhì)量的數(shù)據(jù)準(zhǔn)備、模型訓(xùn)練、調(diào)優(yōu)、部署及推理服務(wù),快速構(gòu)建企業(yè)不同領(lǐng)域模型以及智能體應(yīng)用,幫助企業(yè)實(shí)現(xiàn)從數(shù)據(jù)驅(qū)動(dòng)到智能驅(qū)動(dòng)的升級(jí)。

此次,摩爾線程與滴普科技的合作,借助夸娥千卡智算集群全棧方案的模型覆蓋、推理加速、CUDA兼容、斷點(diǎn)續(xù)訓(xùn)、分布式訓(xùn)練、集群可靠性等8大核心能力,為構(gòu)建國(guó)產(chǎn)化數(shù)智賦能底座奠定堅(jiān)實(shí)基礎(chǔ)。同時(shí),夸娥千卡智算集群作為業(yè)內(nèi)首個(gè)跑通、跑完國(guó)產(chǎn)大模型的千卡集群,以全功能GPU為底座,提供軟硬一體化的全棧解決方案?;诖舜魏献鳎p方能夠?yàn)楦餍懈鳂I(yè)提供全國(guó)產(chǎn)大模型解決方案,廣泛應(yīng)用于訓(xùn)練、微調(diào)和實(shí)時(shí)推理等場(chǎng)景。

目前,滴普科技已與中國(guó)海誠(chéng)、中核裝備院、百麗時(shí)尚等企業(yè)開展產(chǎn)業(yè)落地實(shí)踐,成為產(chǎn)業(yè)大模型落地的領(lǐng)先企業(yè)。未來,摩爾線程與滴普科技將繼續(xù)發(fā)揮雙方在技術(shù)、場(chǎng)景和軟硬件協(xié)同方面的優(yōu)勢(shì),在能源、金融、先進(jìn)制造等領(lǐng)域,以及與央企、國(guó)企的合作中,共同探索全國(guó)產(chǎn)化解決方案的落地機(jī)會(huì),推動(dòng)人工智能在更多產(chǎn)業(yè)領(lǐng)域的應(yīng)用,助力企業(yè)實(shí)現(xiàn)智能升級(jí),賦能行業(yè)高質(zhì)量發(fā)展。

審核編輯:劉清
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    4673

    瀏覽量

    128564
  • 人工智能
    +關(guān)注

    關(guān)注

    1789

    文章

    46652

    瀏覽量

    237054
  • 摩爾線程
    +關(guān)注

    關(guān)注

    1

    文章

    194

    瀏覽量

    4426
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    2274

    瀏覽量

    2356

原文標(biāo)題:摩爾線程 × 滴普科技|完成大模型訓(xùn)練與推理適配

文章出處:【微信號(hào):moorethreads,微信公眾號(hào):摩爾線程】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    國(guó)產(chǎn)千卡GPU集群完成模型訓(xùn)練測(cè)試,極具高兼容性和穩(wěn)定性

    集群的方式成為了必然的選擇。 ? 2023年底,摩爾線程推出首個(gè)全國(guó)產(chǎn)千卡千億模型
    的頭像 發(fā)表于 06-11 07:50 ?3112次閱讀
    國(guó)產(chǎn)<b class='flag-5'>千卡</b>GPU<b class='flag-5'>集群</b><b class='flag-5'>完成</b>大<b class='flag-5'>模型</b><b class='flag-5'>訓(xùn)練</b>測(cè)試,極具高兼容性和穩(wěn)定性

    性能提升近一倍!壁仞科技攜手無問芯穹,在千卡訓(xùn)練集群等領(lǐng)域取得技術(shù)新突破

    隨著智能力需求的倍增,到2024年,千卡集群已成為國(guó)內(nèi)大模型訓(xùn)練的必備場(chǎng)景。壁仞科技,作為
    發(fā)表于 11-05 18:45 ?190次閱讀
    性能提升近一倍!壁仞科技攜手無問芯穹,在<b class='flag-5'>千卡</b><b class='flag-5'>訓(xùn)練</b><b class='flag-5'>集群</b>等領(lǐng)域取得技術(shù)新突破

    摩爾線程與羽人科技完成大語言模型訓(xùn)練測(cè)試

    近日,摩爾線程與羽人科技攜手宣布,雙方已成功實(shí)現(xiàn)夸娥(KUAE)千卡集群與羽人系列模型解決方
    的頭像 發(fā)表于 08-27 16:19 ?468次閱讀

    摩爾線程攜手東華軟件完成AI大模型推理測(cè)試與適配

    近日,摩爾線程與東華軟件云筑AI創(chuàng)新中心宣布,雙方已完成模型推理測(cè)試與適配。依托
    的頭像 發(fā)表于 07-31 10:51 ?626次閱讀

    摩爾線程與智譜AI完成模型性能測(cè)試與適配

    近日,摩爾線程與智譜AI在人工智能領(lǐng)域開展了一輪深入的合作,共同對(duì)GPU大模型進(jìn)行了適配及性能測(cè)試。此次測(cè)試不僅涵蓋了大模型
    的頭像 發(fā)表于 06-14 16:40 ?907次閱讀

    摩爾線程與羽人科技攜手完成7B大模型訓(xùn)練測(cè)試

    近日,摩爾線程與羽人科技聯(lián)合宣布了一項(xiàng)重要成果:雙方已成功實(shí)現(xiàn)夸娥(KUAE)千卡集群與羽人系列模型
    的頭像 發(fā)表于 06-14 16:33 ?442次閱讀

    摩爾線程與師者AI攜手完成70億參數(shù)教育AI大模型訓(xùn)練測(cè)試

    近日,國(guó)內(nèi)知名的GPU制造商摩爾線程與全學(xué)科教育AI大模型“師者AI”聯(lián)合宣布,雙方已成功完成了一項(xiàng)重要的大模型
    的頭像 發(fā)表于 06-14 16:31 ?524次閱讀

    摩爾線程科技完成模型訓(xùn)練推理適配

    近日,摩爾線程科技宣布了一項(xiàng)重要合作成果。摩爾線程的夸娥(KUAE)
    的頭像 發(fā)表于 05-30 10:14 ?483次閱讀

    國(guó)產(chǎn)GPU可替代!摩爾線程千卡集群點(diǎn)亮新成就

    摩爾線程、無問芯穹聯(lián)合宣布,雙方已經(jīng)正式完成MT-infini-3B 3B(30億參數(shù))規(guī)模大模型的實(shí)訓(xùn),基于摩爾
    的頭像 發(fā)表于 05-29 11:27 ?627次閱讀
    國(guó)產(chǎn)GPU可替代!<b class='flag-5'>摩爾</b><b class='flag-5'>線程</b><b class='flag-5'>千卡</b><b class='flag-5'>集群</b>點(diǎn)亮新成就

    摩爾線程、無問芯穹合作完成國(guó)產(chǎn)全功能GPU千卡集群

    據(jù)介紹,此項(xiàng)訓(xùn)練歷時(shí)13.2天,過程穩(wěn)定而有序,集群整體運(yùn)行穩(wěn)定性達(dá)到了100%。相較于單機(jī)訓(xùn)練,千卡集群的擴(kuò)展效率提升了超過90%。
    的頭像 發(fā)表于 05-27 14:40 ?563次閱讀

    摩爾線程與無問芯穹在國(guó)產(chǎn)GPU上首次實(shí)現(xiàn)大模型實(shí)訓(xùn)

    近日,摩爾線程與無問芯穹共同宣布,雙方已正式完成基于國(guó)產(chǎn)全功能GPU千卡集群的3B規(guī)模大模型實(shí)訓(xùn)
    的頭像 發(fā)表于 05-27 10:59 ?615次閱讀

    摩爾線程與無問芯穹宣布完成基于GPU千卡集群的3B規(guī)模大模型實(shí)訓(xùn)

    摩爾線程聯(lián)合無問芯穹宣布,雙方已在本周正式完成基于國(guó)產(chǎn)全功能GPU千卡集群的3B規(guī)模大模型實(shí)訓(xùn)。
    的頭像 發(fā)表于 05-27 10:44 ?434次閱讀
    <b class='flag-5'>摩爾</b><b class='flag-5'>線程</b>與無問芯穹宣布<b class='flag-5'>完成</b>基于GPU<b class='flag-5'>千卡</b><b class='flag-5'>集群</b>的3B規(guī)模大<b class='flag-5'>模型</b>實(shí)訓(xùn)

    摩爾線程攜手憨猴集團(tuán),深化AI力戰(zhàn)略合作,成功實(shí)現(xiàn)大模型分布式訓(xùn)練

    摩爾線程與憨猴科技集團(tuán)日前宣布,采用搭載摩爾線程的夸娥(KUAE)千卡
    的頭像 發(fā)表于 05-17 17:24 ?614次閱讀

    摩爾線程攜手憨猴集團(tuán),共同探索國(guó)產(chǎn)AI力的新應(yīng)用場(chǎng)景與落地實(shí)踐

    摩爾線程與憨猴科技集團(tuán)有限公司(簡(jiǎn)稱:憨猴集團(tuán))近日宣布,基于摩爾線程的夸娥(KUAE)千卡
    的頭像 發(fā)表于 05-17 15:08 ?409次閱讀

    摩爾線程助力AI大模型訓(xùn)練與計(jì)算升級(jí),共建美好數(shù)字化未來

    此外,在中關(guān)村國(guó)際技術(shù)交易大會(huì)高精尖技術(shù)產(chǎn)品首發(fā)會(huì)上,摩爾線程與無問芯穹聯(lián)合宣布,雙方正致力于開發(fā)基于夸娥千卡集群的“MT-infini
    的頭像 發(fā)表于 04-28 16:42 ?923次閱讀