芯啟源DPU賦能AI算力網(wǎng)絡 助力云基礎設施生態(tài)共建

第六屆數(shù)字中國建設峰會（簡稱“數(shù)字峰會”）在福州召開。本屆數(shù)字峰會由國家互聯(lián)網(wǎng)信息辦公室、國家發(fā)展和改革委員會、科技部、工業(yè)和信息化部、國務院國有資產(chǎn)監(jiān)督管理委員會、福建省人民政府共同主辦。

作為國家網(wǎng)信辦主辦的兩個國內信息化領域盛會之一，本屆數(shù)字中國峰會以“加快數(shù)字中國建設，推進中國式現(xiàn)代化”為主題，通過成果展示等方式，推動交流互鑒，促進開放合作，全方位展示數(shù)字中國建設最新成果。

在福建省數(shù)據(jù)要素與產(chǎn)業(yè)生態(tài)大會“算力賦能數(shù)字經(jīng)濟發(fā)展高峰論壇”中，芯啟源創(chuàng)始人、董事長兼CEO盧笙受福建省大數(shù)據(jù)集團有限公司邀請，作了題為“DPU賦能AI算力網(wǎng)絡，助力云基礎設施生態(tài)共建”精彩演講。

同期，由上海市通信管理局、上海市浦東新區(qū)人民政府聯(lián)合主辦的“算力浦江（首屆）數(shù)字經(jīng)濟發(fā)展論壇”在上海浦東召開，旨在共筑算力底座，助力數(shù)字浦東。

芯啟源作為6家AI算力芯片代表企業(yè)之一，圍繞“打造AI算力芯片應用試驗田”進行合作意向簽約，芯啟源高級副總裁姜欣代表芯啟源上臺簽約，芯啟源DPU事業(yè)部銷售總經(jīng)理侯東輝在現(xiàn)場探討了算力網(wǎng)絡的發(fā)展趨勢。

ChatGPT引領“后互聯(lián)網(wǎng)時代革命”

盧笙在高峰論壇中回顧了中國互聯(lián)網(wǎng)發(fā)展史，“從2018年-2022年的“5G萬物互聯(lián)時代”到如今的“AI智能時代”，今年被認為是人工智能史詩級飛躍的一年。”

2022年11月30日，OpenAI發(fā)布人工智能對話聊天機器人ChatGPT，短短5天時間，注冊用戶數(shù)超100萬。截止2023年1月末，其月活用戶已突破1億，成為史上增長最快的消費者應用。

ChatGPT是一個由人工智能技術驅動的自然語言處理工具。自ChatGPT發(fā)布以來，谷歌、微軟爭相發(fā)布了一系列以AIGC（AI generated content）為底座的生成式AI智能應用，通過輸入人類語言生成視頻、生成圖片，AI開始嘗試創(chuàng)造一些深刻且令人賞心悅目的東西，這個新類別被稱為“生成式AI”。

這意味著AI正在創(chuàng)造新的生產(chǎn)內容，而不是像過去一樣僅僅只是輔助分析已經(jīng)存在的東西。這些智能應用與ChatGPT一起引領了后互聯(lián)網(wǎng)時代數(shù)字經(jīng)濟“革命”，全球開始步入AI智能時代。

后互聯(lián)網(wǎng)時代 算力發(fā)展見頂

進入AI算力新時代后，機器學習給我們帶來了多重挑戰(zhàn)。ChatGPT可以通過人類語言輸入來預測下一個單詞并生成具有嚴密邏輯的文本進行回復。而這樣的AI的能力是基于算法訓練出來，訓練的過程包括海量數(shù)據(jù)獲取和清洗、人工知識訓練和場景，AI的能力在參數(shù)規(guī)模超過特定臨界值后才出現(xiàn)，需要CPU/GPU提供大量算力，這些算力用參數(shù)量/浮點運算量來衡量。

以著名的AlexNet和GPT-3訓練模型為例，AI模型訓練沒有捷徑可走，因為AI的表現(xiàn)并非隨著模型規(guī)模增加而線性增加，而是在參數(shù)規(guī)模超過特定臨界值后開始顯著提升（如下圖所示）。

AlexNet可處理262千萬億次的浮點運算，利用CPU/GPU集群訓練出大規(guī)模圖片識別和分類能力。GPT-3用可處理323*10e21次浮點運算，用CPU/GPU集群訓練出了根據(jù)人類語言輸入來預測下一個單詞的能力。

GPT-3的訓練模型比AlexNet訓練模型的運算量提升了100萬倍。如果要達到多模態(tài)大模型訓練的臨界值，則需要極大的算力消耗，這對算力提出了前所未有的要求。而從Nvidia對2022年算力和帶寬的評估結果來看，CPU性能增速放緩，網(wǎng)絡帶寬增速增大，2022年帶寬增速比RBP達到30。

AI模型訓練帶來數(shù)據(jù)大爆發(fā)，帶寬升級到200G/400G，CPU/GPU的性能增長速度無法滿足網(wǎng)絡數(shù)據(jù)處理的需求，大量CPU/GPU被網(wǎng)絡數(shù)據(jù)包處理所搶占， AI運算所需的巨量運算量無法滿足。

DPU—AI算力網(wǎng)絡的核心組件

在這個大背景下，利用專用協(xié)處理器將“CPU/GPU處理效率低下”的負載卸載，幫助CPU/GPU釋放算力的DPU將承擔起網(wǎng)絡數(shù)據(jù)通道的數(shù)據(jù)包處理需求，將CPU/GPU的算力釋放出來用于支撐起怪獸級別的AI模型訓練運算。

DPU將“CPU/GPU處理效率低下”的負載，包括“通訊協(xié)議”、“加密協(xié)議”、“網(wǎng)絡協(xié)議”、“數(shù)據(jù)壓縮”等全盤接受，從而將CPU芯片的算力解放出來，解決了高帶寬、低延遲、數(shù)據(jù)密集的計算場景的算力困境。

01降本增效

DPU提升了整個計算系統(tǒng)的效率，降低整體系統(tǒng) 的總體擁有成本(TCO)。

02節(jié)能減排

DPU承擔基礎設施中網(wǎng)絡通訊和商密相關的服務后，算力資源得到充分釋放，服務器大量減少，耗電大幅降低，機房位極大壓縮，碳排放量亦大幅下降。

03安全可控

在安全、商密等領域，打造以DPU為核心的零信任機制，使整個網(wǎng)絡數(shù)據(jù)處理中心實現(xiàn)安全可控。

“后互聯(lián)網(wǎng)”時代，AI云基礎設施帶來了巨大的需求和商機，DPU能滿足對“面向AI的”、“高度優(yōu)化的”算力網(wǎng)絡的要求，被視為解決AI時代算力不足的不二之選。在協(xié)議加速、數(shù)據(jù)安全、存儲加速、虛擬化/容器加速、5G/6G邊緣計算加速等場景都有廣泛應用。

芯啟源DPU+N賦能中國數(shù)字經(jīng)濟生態(tài)

盧笙在峰會中介紹，芯啟源從2019年開始研發(fā)第一代FGPA智能網(wǎng)卡，2020年開始推出第二代基于NP-SoC架構的產(chǎn)品，芯啟源DPU芯片專為解決網(wǎng)絡基礎設施IO性能瓶頸、幫助CPU釋放大量的算力而生。

芯啟源提供基于Chiplet架構、軟硬協(xié)同的DPU共建平臺及方案，生態(tài)共建平臺基礎是芯啟源NFP-7000系列DPU芯片，內置Risc-v處理器、多種硬件加速引擎和加解密引擎、基于可編程rFPC開放可編程接口，提供靈活可編程架構+豐富的加速硬件的芯片級軟硬協(xié)同一體化方案；

芯片基于Chiplet架構搭建開源生態(tài)共建平臺，通過Chiplet多Die互聯(lián)，從資源上仍然保持互聯(lián)同構，實現(xiàn)無縫、無感的橫向擴展；標準化、開源的第三方Die互聯(lián)可讓生態(tài)共建更輕松。

芯啟源提供芯片Die級和芯片級的高度集成和可被集成，包括與AI、CPU、VPU、GPU、xPU等Die的互聯(lián)，與現(xiàn)有ASIC、FPGA(e-ASIC)、CPU等芯片級的互聯(lián)，從而通過多Die的chip let組合出豐富的產(chǎn)品形態(tài)，滿足2*25G-2*200G多樣化端口需求，滿足大數(shù)據(jù)中心、超算中心、5G/6G邊緣計算、網(wǎng)絡安全等多種場景需求。

目前芯啟源DPU已經(jīng)在福建省大數(shù)據(jù)集團、中國移動、天翼云、深信服、招商銀行、中國科學院、中興等客戶落地應用和開展深度合作，涉及政府、運營商、互聯(lián)網(wǎng)、金融、電力等領域。

同時，芯啟源深耕DPU行業(yè)，結合DPU產(chǎn)業(yè)生態(tài)為開發(fā)者打造了全面開放的『數(shù)據(jù)基礎設施虛擬化及加速開發(fā)平臺CODIVA』，擁抱中立標準開放互補的國產(chǎn)化技術生態(tài)、行業(yè)解決方案，為“數(shù)字中國”提供堅實的核心技術基礎，賦能千行百業(yè)的數(shù)字技術能力創(chuàng)新。

基于成熟的生態(tài)圈和CODIVA全棧能力平臺，芯啟源DPU作為集成電路產(chǎn)業(yè)的基礎算力網(wǎng)絡核心芯片，必將形成DPU+N=“新生萬業(yè)”趨勢，賦能中國數(shù)字經(jīng)濟生態(tài)，助力數(shù)字中國建設。

審核編輯：湯梓紅