0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

無問芯穹發(fā)布千卡規(guī)模異構(gòu)芯片混訓平臺

CHANBAEK ? 來源:網(wǎng)絡整理 ? 2024-07-08 14:27 ? 次閱讀

科技日新月異的今天,人工智能領域的每一次突破都引領著行業(yè)的新一輪變革。2024年世界人工智能大會AI基礎設施論壇上,無問芯穹以其卓越的創(chuàng)新力和前瞻視野,再次成為全場矚目的焦點。7月4日,無問芯穹聯(lián)合創(chuàng)始人兼CEO夏立雪在會上震撼發(fā)布了全球首個千卡規(guī)模異構(gòu)芯片混訓平臺,這一里程碑式的成果不僅標志著AI計算能力的巨大飛躍,也預示著異構(gòu)計算時代的新篇章已經(jīng)開啟。

無問芯穹此次發(fā)布的千卡異構(gòu)混合訓練集群,其算力利用率高達97.6%,這一數(shù)字背后是團隊對AI計算優(yōu)化技術(shù)的深刻理解和不懈追求。通過高效整合并優(yōu)化不同種類的異構(gòu)芯片資源,該平臺實現(xiàn)了前所未有的計算效能,為大規(guī)模、復雜的人工智能模型訓練提供了強有力的支撐。尤為值得一提的是,Infini-AI云平臺作為無問芯穹的核心產(chǎn)品,現(xiàn)已集成了這一千卡異構(gòu)混訓能力,成為全球首個支持單任務千卡規(guī)模異構(gòu)芯片混合訓練的平臺。這一創(chuàng)新不僅打破了傳統(tǒng)AI計算平臺的局限,更以其萬卡級別的擴展性,為未來的AI應用提供了無限可能。

無問芯穹始終站在行業(yè)前沿,對“M種模型”與“N種芯片”的行業(yè)格局有著深刻的理解和前瞻的判斷。面對日益多元化的AI模型和計算芯片,無問芯穹率先構(gòu)建了“MxN”中間層的生態(tài)格局,通過自主研發(fā)的核心技術(shù)和算法優(yōu)化,實現(xiàn)了多種大模型算法在多元芯片上的高效、統(tǒng)一部署。這一創(chuàng)新不僅簡化了AI應用的開發(fā)流程,降低了技術(shù)門檻,更極大地提升了計算資源的利用率和整體性能。

截至目前,Infini-AI云平臺已經(jīng)成功支持了包括Qwen2、GLM4、Llama3、Gemma、Yi、Baichuan2、ChatGLM3系列在內(nèi)的30多個AI模型,覆蓋了自然語言處理、計算機視覺等多個領域。同時,該平臺還兼容了AMD、華為昇騰、壁仞、寒武紀、燧原、海光、天數(shù)智芯、沐曦、摩爾線程、NVIDIA等10余種主流計算卡,充分展現(xiàn)了其強大的兼容性和擴展性。

從7月開始,通過試訓申請的用戶已經(jīng)可以在Infini-AI平臺上一鍵發(fā)起700億參數(shù)規(guī)模的大模型訓練,這一功能的實現(xiàn)無疑為科研機構(gòu)、企業(yè)和個人開發(fā)者提供了前所未有的便利和高效。無問芯穹的這一創(chuàng)新不僅推動了AI技術(shù)的快速發(fā)展,更為全球AI產(chǎn)業(yè)的繁榮注入了新的動力。

展望未來,無問芯穹將繼續(xù)秉承創(chuàng)新、開放、合作的理念,不斷深化在AI計算領域的研究和應用,為構(gòu)建更加智能、高效、可持續(xù)的AI生態(tài)貢獻自己的力量。隨著千卡規(guī)模異構(gòu)芯片混訓平臺的廣泛應用和不斷優(yōu)化,我們有理由相信,一個全新的AI計算時代已經(jīng)到來。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 芯片
    +關注

    關注

    450

    文章

    49636

    瀏覽量

    417167
  • AI
    AI
    +關注

    關注

    87

    文章

    28877

    瀏覽量

    266228
  • 人工智能
    +關注

    關注

    1787

    文章

    46061

    瀏覽量

    235018
收藏 人收藏

    評論

    相關推薦

    芯片、模型生態(tài)分散,、沐曦、壁仞談國產(chǎn)算力瓶頸破局之道

    ? 電子發(fā)燒友網(wǎng)報道(文/李彎彎)近日,2024世界人工智能大會正在舉行,聯(lián)合創(chuàng)始人兼CEO夏立雪在大會論壇上談到一個現(xiàn)象,從GPT-3到GPT-4,無論是算力還是大模型能力都
    的頭像 發(fā)表于 07-07 11:14 ?4135次閱讀
    <b class='flag-5'>芯片</b>、模型生態(tài)分散,<b class='flag-5'>無</b><b class='flag-5'>問</b><b class='flag-5'>芯</b><b class='flag-5'>穹</b>、沐曦、壁仞談國產(chǎn)算力瓶頸破局之道

    國產(chǎn)千卡GPU集群完成大模型訓練測試,極具高兼容性和穩(wěn)定性

    卡集群的方式成為了必然的選擇。 ? 2023年底,摩爾線程推出首個全國產(chǎn)千卡千億模型訓練平臺“摩爾線程KUAE智算中心”。摩爾線程相關負責人此前談到,百卡或更小規(guī)模都是實驗性的,千卡
    的頭像 發(fā)表于 06-11 07:50 ?2979次閱讀
    國產(chǎn)<b class='flag-5'>千卡</b>GPU集群完成大模型訓練測試,極具高兼容性和穩(wěn)定性

    獲完成5億元A輪融資

    近日,大模型基礎設施領域的創(chuàng)新企業(yè)宣布成功完成5億元人民幣的A輪融資。此輪融資由社?;鹬嘘P村自主創(chuàng)新專項基金(君聯(lián)資本擔任管理人)、啟明創(chuàng)投及洪泰基金聯(lián)合領投,聯(lián)想創(chuàng)投、小米
    的頭像 發(fā)表于 09-03 15:41 ?204次閱讀

    上海獲多家投資方投資

    近日,上海智能科技有限公司宣布完成新一輪工商變更,公司股東陣容顯著增強。此次變更中,順為資本旗下北京順贏股權(quán)投資合伙企業(yè)、聯(lián)想旗下的中小企業(yè)發(fā)展基金聯(lián)想(天津)合伙企業(yè)等多家知
    的頭像 發(fā)表于 08-08 16:27 ?559次閱讀

    異構(gòu)整合不同架構(gòu)芯片資源,提高算力利用率

    的解決方案。通過混合使用多種異構(gòu)芯片,可以充分利用不同芯片的優(yōu)勢,提高算力利用率,降低算力成本,并推動AI技術(shù)的廣泛應用。 ? 異構(gòu)
    的頭像 發(fā)表于 07-18 00:11 ?3124次閱讀

    國產(chǎn)GPU可替代!摩爾線程千卡集群點亮新成就

    摩爾線程、聯(lián)合宣布,雙方已經(jīng)正式完成MT-infini-3B 3B(30億參數(shù))規(guī)模大模型的實
    的頭像 發(fā)表于 05-29 11:27 ?539次閱讀
    國產(chǎn)GPU可替代!摩爾線程<b class='flag-5'>千卡</b>集群點亮新成就

    摩爾線程、合作完成國產(chǎn)全功能GPU千卡集群

    據(jù)介紹,此項訓練歷時13.2天,過程穩(wěn)定而有序,集群整體運行穩(wěn)定性達到了100%。相較于單機訓練,千卡集群的擴展效率提升了超過90%。
    的頭像 發(fā)表于 05-27 14:40 ?511次閱讀

    摩爾線程與在國產(chǎn)GPU上首次實現(xiàn)大模型實

    近日,摩爾線程與共同宣布,雙方已正式完成基于國產(chǎn)全功能GPU千卡集群的3B規(guī)模大模型實
    的頭像 發(fā)表于 05-27 10:59 ?548次閱讀

    摩爾線程與宣布完成基于GPU千卡集群的3B規(guī)模大模型實

    摩爾線程聯(lián)合宣布,雙方已在本周正式完成基于國產(chǎn)全功能GPU千卡集群的3B規(guī)模大模型實
    的頭像 發(fā)表于 05-27 10:44 ?378次閱讀
    摩爾線程與<b class='flag-5'>無</b><b class='flag-5'>問</b><b class='flag-5'>芯</b><b class='flag-5'>穹</b>宣布完成基于GPU<b class='flag-5'>千卡</b>集群的3B<b class='flag-5'>規(guī)模</b>大模型實<b class='flag-5'>訓</b>

    摩爾線程助力AI大模型訓練與計算升級,共建美好數(shù)字化未來

    此外,在中關村國際技術(shù)交易大會高精尖技術(shù)產(chǎn)品首發(fā)會上,摩爾線程與聯(lián)合宣布,雙方正致力于開發(fā)基于夸娥千卡智算集群的“MT-infini
    的頭像 發(fā)表于 04-28 16:42 ?822次閱讀

    俄羅斯自主芯片遇挫,超半數(shù)成廢片

    摩爾線程是第一家接入并成功完成千卡級別大模型訓練的國產(chǎn)GPU公司,“夸娥”(KUAE)集群已經(jīng)與
    的頭像 發(fā)表于 04-02 10:27 ?396次閱讀
    俄羅斯自主<b class='flag-5'>芯片</b>遇挫,超半數(shù)成廢片

    摩爾線程與聯(lián)手開啟千億大模型服務新篇章

    3月31日,AI算力優(yōu)化論壇暨產(chǎn)品發(fā)布會在上海成功舉辦,重磅發(fā)布了“
    的頭像 發(fā)表于 04-01 11:11 ?512次閱讀
    摩爾線程與<b class='flag-5'>無</b><b class='flag-5'>問</b><b class='flag-5'>芯</b><b class='flag-5'>穹</b>聯(lián)手開啟千億大模型服務新篇章

    燧原科技與簽約宣布共同打造千卡集群案例

    3月31日,在舉辦的以“多元計算·泛在鏈接”為主題的AI算力優(yōu)化論壇暨產(chǎn)品發(fā)布會上,燧原科技與
    的頭像 發(fā)表于 04-01 10:48 ?709次閱讀

    AMD與達成戰(zhàn)略合作,共同推進商用AI性能

    近日,AMD與宣布達成戰(zhàn)略合作。未來,雙方將攜手并進,致力于大幅提高商用AI應用的性能,共同推動整個生態(tài)系統(tǒng)的發(fā)展。
    的頭像 發(fā)表于 01-10 18:23 ?1390次閱讀

    百度,騰訊競相入股!這家初創(chuàng)芯片公司究竟是何方神圣?

    最近,一家名為“上海智能科技有限公司”(以下簡稱
    的頭像 發(fā)表于 12-14 11:36 ?578次閱讀
    百度,騰訊競相入股!這家初創(chuàng)<b class='flag-5'>芯片</b>公司究竟是何方神圣?