摩爾線程助力AI大模型訓(xùn)練與計(jì)算升級，共建美好數(shù)字化未來

圍繞“創(chuàng)新：構(gòu)建更美好世界”主題，由科技部、發(fā)改委、工信部、國資委、中科院、工程院、科協(xié)及北京市政府聯(lián)合舉辦的2024年中關(guān)村論壇于近日在京舉行。本次論壇匯聚了來自100多個(gè)國家和地區(qū)的嘉賓，以及150多家外國政府部門和國際組織機(jī)構(gòu)。同時(shí)，一系列人工智能新技術(shù)、新應(yīng)用、新模式在此次論壇上得到展示和發(fā)布。

在論壇期間，中關(guān)村國際技術(shù)交易大會開幕式暨全球技術(shù)交易生態(tài)伙伴大會成功舉辦，并發(fā)布了《百項(xiàng)新技術(shù)新產(chǎn)品榜單》。值得關(guān)注的是，摩爾線程夸娥（KUAE）智算中心全棧解決方案榮獲該榜單重點(diǎn)推薦。得益于其高兼容性、穩(wěn)定性、擴(kuò)展性及算力利用率等優(yōu)勢，摩爾線程夸娥智算集群能夠?yàn)榍|參數(shù)級別的大模型訓(xùn)練提供強(qiáng)大的算力支持。

此外，在中關(guān)村國際技術(shù)交易大會高精尖技術(shù)產(chǎn)品首發(fā)會上，摩爾線程與無問芯穹聯(lián)合宣布，雙方正致力于開發(fā)基于夸娥千卡智算集群的“MT-infini-3B”合作大模型。摩爾線程成為首家接入無問芯穹并進(jìn)行千卡級別大模型訓(xùn)練的國產(chǎn)GPU廠商。無問芯穹聯(lián)合創(chuàng)始人兼CEO夏立雪表示，經(jīng)過無問芯穹Infini-AI平臺實(shí)訓(xùn)與聯(lián)合優(yōu)化，摩爾線程夸娥千卡智算集群在精度、性能、易用性和算力利用率方面表現(xiàn)出色，且在實(shí)訓(xùn)過程中實(shí)現(xiàn)了長時(shí)間穩(wěn)定訓(xùn)練，為千億參數(shù)級別大模型訓(xùn)練提供了持續(xù)高效的高性能算力支持。未來，他們計(jì)劃將此合作模型在Infini-AI平臺上向公眾開放。

論壇首日，在北京銀行新質(zhì)生產(chǎn)力與組合金融發(fā)展大會上，摩爾線程創(chuàng)始人兼CEO張建中發(fā)表了以《構(gòu)建AGI時(shí)代的金融科技新質(zhì)生產(chǎn)力》為題的主旨演講，強(qiáng)調(diào)人工智能作為新質(zhì)生產(chǎn)力的創(chuàng)新引擎，將在金融行業(yè)中發(fā)揮重要作用。他指出，人工智能將通過個(gè)性化服務(wù)產(chǎn)品、智能化投資決策、自動化風(fēng)險(xiǎn)管理、安全化合規(guī)監(jiān)管、便捷化降本增效等方式，有效應(yīng)對金融科技領(lǐng)域所面臨的諸多挑戰(zhàn)。在大模型時(shí)代背景下，每個(gè)金融企業(yè)都應(yīng)具備自身的大模型和訓(xùn)練基礎(chǔ)設(shè)施，而安全普惠的國產(chǎn)化算力則是金融行業(yè)不可或缺的要素。摩爾線程依托全功能GPU，打造了涵蓋芯片至智算中心的先進(jìn)算力基礎(chǔ)設(shè)施，以及覆蓋軟件加速庫至大模型分布式訓(xùn)練系統(tǒng)的全棧軟件服務(wù)，為我國金融行業(yè)的數(shù)智化轉(zhuǎn)型提供了算力加速。

在中關(guān)村國際技術(shù)交易大會高精尖技術(shù)產(chǎn)品首發(fā)會上，摩爾線程聯(lián)合創(chuàng)始人兼執(zhí)行總裁王東重點(diǎn)解析了夸娥（KUAE）智算中心全棧解決方案的優(yōu)點(diǎn)及價(jià)值，展示了解決大規(guī)模GPU算力建設(shè)和運(yùn)營管理問題的能力。該方案由夸娥（KUAE）計(jì)算集群、KUAE Platform集群管理平臺及KUAE ModelStudio模型服務(wù)組成，實(shí)現(xiàn)了開箱即用。目前，摩爾線程已支持包括LLaMA、GLM、Aquila、Baichuan、GPT、Bloom、玉言在內(nèi)的數(shù)十種主流大模型的訓(xùn)練與微調(diào)。實(shí)踐證明，使用摩爾線程夸娥（KUAE）千卡集群進(jìn)行70B至130B參數(shù)規(guī)模的大模型訓(xùn)練，其線性加速比高達(dá)91%且算力利用率穩(wěn)定。

中關(guān)村論壇作為中國面向全球科技創(chuàng)新交流合作的國家級平臺，已成功舉辦14屆。摩爾線程作為中關(guān)村獨(dú)角獸芯片企業(yè)與北京市“專精特新”企業(yè)，受邀在中關(guān)村展示中心常設(shè)展出人工智能集群展區(qū)和集成電路集群展區(qū)。憑借全功能GPU的多元計(jì)算優(yōu)勢，摩爾線程已形成以夸娥智算集群為核心的全棧AI產(chǎn)品線，致力于成為大模型和通用人工智能的先進(jìn)算力基礎(chǔ)設(shè)施。展望未來，摩爾線程將持續(xù)以AI為核心，以技術(shù)創(chuàng)新驅(qū)動發(fā)展，不斷拓寬加速計(jì)算領(lǐng)域，為構(gòu)建更美好的數(shù)智世界貢獻(xiàn)力量。