中科馭數(shù)分享DPU在AI大模型時(shí)代下面臨的機(jī)遇

“云擎未來(lái)，智信天下”——2023移動(dòng)云大會(huì)正式舉辦，中科馭數(shù)正式加入“移動(dòng)云信息技術(shù)融合應(yīng)用創(chuàng)新產(chǎn)業(yè)生態(tài)聯(lián)合體”，創(chuàng)始人、CEO鄢貴海應(yīng)邀在“磐石算力底座”論壇圓桌對(duì)話發(fā)言，分享DPU在AI大模型時(shí)代下面臨的機(jī)遇。 中國(guó)移動(dòng)副總經(jīng)理趙大春在“磐石算力底座論壇”致辭中表示，算力作為云的基石，既是數(shù)字經(jīng)濟(jì)發(fā)展的重要基礎(chǔ)，也是科技競(jìng)爭(zhēng)的新焦點(diǎn)。在技術(shù)和行業(yè)的雙重驅(qū)動(dòng)下，未來(lái)的算力發(fā)展將呈現(xiàn)出三個(gè)方面的特點(diǎn)，使得算力將變成像水、電一樣隨取隨用的社會(huì)級(jí)服務(wù)。一是算力多樣化需求呈指數(shù)級(jí)增長(zhǎng)。二是算力泛在化和融合化服務(wù)需求日益增強(qiáng)。三是算網(wǎng)內(nèi)生安全體系亟需構(gòu)建。

■DPU將成為支撐高性能計(jì)算和人工智能的基石

本論壇圓桌對(duì)話討論了AI大模型時(shí)代下高性能計(jì)算和存儲(chǔ)系統(tǒng)所面臨的挑戰(zhàn)和機(jī)遇。中科馭數(shù)創(chuàng)始人、CEO鄢貴海提出ChatGPT將為底層芯片或算力基礎(chǔ)設(shè)施的廠商帶來(lái)巨大機(jī)會(huì)，并且預(yù)計(jì)DPU將成為支持高性能計(jì)算和人工智能的基石。DPU擁有低時(shí)延、高吞吐、以及強(qiáng)大的網(wǎng)絡(luò)功能，這將促進(jìn)下一代高性能計(jì)算實(shí)現(xiàn)規(guī)模化和分布式化，有望成為未來(lái)大型算力基礎(chǔ)設(shè)施的核心組件。 從系統(tǒng)的角度看，如何解決ChatGPT應(yīng)用帶來(lái)的大算力問(wèn)題，可以分為兩個(gè)層次。首先，需要提高單顆芯片的性能，這方面業(yè)界已經(jīng)提出了各種方法論。其次，需要打通各種基礎(chǔ)設(shè)施，將局部算力連成網(wǎng)，解決網(wǎng)絡(luò)端產(chǎn)生的各種瓶頸，以滿足未來(lái)萬(wàn)億級(jí)參數(shù)大模型的算力要求。這是當(dāng)前的難點(diǎn)，也是DPU備受關(guān)注的原因。 作為數(shù)據(jù)專用處理器，DPU主要承擔(dān)網(wǎng)絡(luò)、存儲(chǔ)、計(jì)算和安全等基礎(chǔ)設(shè)施層應(yīng)用服務(wù)，是提升算力服務(wù)、提高計(jì)算、網(wǎng)絡(luò)和存儲(chǔ)服務(wù)的關(guān)鍵。這使得DPU在大型語(yǔ)言模型中扮演著重要角色，特別是在數(shù)據(jù)交換和通信方面。

鄢貴海表示，無(wú)論是CPU、GPU還是DPU，都需要基于上層應(yīng)用需求來(lái)實(shí)現(xiàn)芯片結(jié)構(gòu)，這樣底層基礎(chǔ)設(shè)施層資源才能夠更高效地釋放。在這種情況下，中國(guó)移動(dòng)是一個(gè)非常好的集成平臺(tái)，擁有龐大的用戶數(shù)量、先進(jìn)的應(yīng)用和豐富的場(chǎng)景，不同廠商可以通過(guò)中國(guó)移動(dòng)這一平臺(tái)將原本不同的技術(shù)打磨到一個(gè)體系中，共同打造自主可控的算力基礎(chǔ)設(shè)施。 中國(guó)移動(dòng)云能力中心劉軍衛(wèi)也在論壇主題演講中分享到，中國(guó)移動(dòng)將助力打造國(guó)家級(jí)自主可控的高性能算力基礎(chǔ)設(shè)施，通過(guò)布局國(guó)產(chǎn)化智算生態(tài)、共建自主GPU+DPU產(chǎn)業(yè)聯(lián)盟、聯(lián)創(chuàng)高性能網(wǎng)絡(luò)技術(shù)三大舉措，帶動(dòng)國(guó)產(chǎn)化智算產(chǎn)業(yè)成熟發(fā)展，抓住云計(jì)算技術(shù)定義權(quán)，引領(lǐng)云計(jì)算市場(chǎng)下一個(gè)黃金十年。到2024年，打通DPU、GPU、HPN三大單元，面向大模型場(chǎng)景打造一套全棧自主可控的系統(tǒng)。

■中科馭數(shù)正式加入“移動(dòng)云信息技術(shù)融合應(yīng)用創(chuàng)新產(chǎn)業(yè)生態(tài)聯(lián)合體”

大會(huì)期間，由工信部推動(dòng)的“移動(dòng)云信息技術(shù)融合應(yīng)用創(chuàng)新產(chǎn)業(yè)生態(tài)聯(lián)合體”（簡(jiǎn)稱“聯(lián)合體”）正式發(fā)布，旨在攜手移動(dòng)產(chǎn)業(yè)鏈上下游企業(yè)、高校、科研院所等相關(guān)創(chuàng)新單位，積極開(kāi)展適配驗(yàn)證，標(biāo)準(zhǔn)研究、技術(shù)培訓(xùn)、解決方案孵化、創(chuàng)新成果推廣和人才教育培訓(xùn)等關(guān)鍵合作。

中科馭數(shù)作為國(guó)內(nèi)DPU領(lǐng)軍企業(yè)，正式加入“移動(dòng)云信息技術(shù)融合應(yīng)用創(chuàng)新產(chǎn)業(yè)生態(tài)聯(lián)合體”，將與各成員單位凝聚合力，推動(dòng)信息技術(shù)應(yīng)用創(chuàng)新解決方案和產(chǎn)業(yè)項(xiàng)目落地，共同構(gòu)建開(kāi)放包容、合作共贏的產(chǎn)業(yè)生態(tài)。

編輯：黃飛