新一代AI基礎設施成為AI 2.0時代“新基建”

2023年，大模型、生成式AI的發(fā)展帶動了人工智能領域的范式轉換，人工智能從傳統(tǒng)的“分類器”進化成“生成器”，催生了千行百業(yè)的規(guī)?；枨?。

那么怎樣的基礎設施，才能更好地支撐AI產業(yè)進入2.0時代？

近日，商湯科技智能產業(yè)研究院與中國信息通信研究院云計算與大數(shù)據研究所，中國智能算力產業(yè)聯(lián)盟，人工智能算力產業(yè)生態(tài)聯(lián)盟，聯(lián)合發(fā)布《新一代人工智能基礎設施白皮書》（以下簡稱《白皮書》）。

《白皮書》不僅明確了“新一代AI基礎設施”的定義、特點和價值，還首次提出“新一代AI基礎設施評估體系”，為AI 2.0時代智算產業(yè)發(fā)展提供重要參考。

新一代AI基礎設施

成為AI 2.0時代“新基建”

數(shù)據顯示，過去四年，大模型參數(shù)量以年均400%復合增長，AI算力需求增長超過15萬倍，遠超摩爾定律。

以CPU為中心的傳統(tǒng)計算基礎設施已無法滿足大模型、生成式AI的新要求。

大模型訓練對數(shù)據質量和效率的需求，企業(yè)應用生成式AI對于MaaS（大模型即服務）的需求，也都給AI基礎設施提出了全新要求。

而新一代AI基礎設施絕非傳統(tǒng)云的AI化，兩者具有明顯差別。傳統(tǒng)云計算基礎設施主要支持互聯(lián)網應用、SAAS等服務，而新一代AI基礎設施提供大模型訓練與推理、生成式AI部署、區(qū)域/行業(yè)創(chuàng)新孵化等服務。

何為新一代AI基礎設施？《白皮書》給出了明確定義：

以大模型能力輸出為核心平臺，集成算力資源、數(shù)據服務和云服務，專門設計用于最大限度提升大模型和生成式AI應用的表現(xiàn)：數(shù)據準備與管理、大模型訓練、推理、模型能力調用、生成式AI應用部署。企業(yè)通過新一代AI基礎設施開發(fā)和運行生成式AI業(yè)務和客戶應用程序，以及基模型和行業(yè)模型的訓練與微調。 《白皮書》指出，新一代AI基礎設施的建設將降低大模型開發(fā)和應用門檻，在政企服務、產業(yè)和科研創(chuàng)新等方面創(chuàng)造更大社會價值。

面向產業(yè)，將加快推進傳統(tǒng)產業(yè)上下游各個環(huán)節(jié)的智能化轉型，催生新業(yè)態(tài)、新模式的不斷涌現(xiàn)。

面向科研，可加速科學實驗的自動化和智能化，激發(fā)人工智能驅動科學研究（AI for Science）的新范式。

面向政務，將原本分散、碎片化的政務應用，通過“一模通辦” 為政務服務提質增效。

首次提出

新一代AI基礎設施評估體系

當前，新一代AI基礎設施市場處于高速競爭的初級階段，云計算、AI原生、硬件系統(tǒng)等各類廠商均有各自優(yōu)勢。

為了給企業(yè)用戶提供AI基礎設施選型的可靠性指導，《白皮書》首次提出了“新一代AI基礎設施評估體系”。

通過產品技術、戰(zhàn)略愿景、市場生態(tài)三大維度、十二個評估指標，對AI基礎設施廠商綜合能力進行定性和定量的全面評估。

《白皮書》選取了十二家最具代表性的AI基礎設施廠商。商湯科技的新一代AI基礎設施 -SenseCore商湯大裝置，在各個評估指標的得分均超過廠商平均分，并在市場響應、市場認知、產品戰(zhàn)略、工程化建設四個評估指標拿到滿分，成為新一代AI基礎設施市場的領導者。

SenseCore商湯大裝置

在新一代AI基礎設施評估體系的評分

《白皮書》指出，商湯在產品服務能力呈現(xiàn)出較強的產品實力和技術積累，不僅超前布局了算力基礎設施，還在MaaS平臺以及自身大模型業(yè)務的加持下，形成了整套AI基礎設施產品架構，滿足客戶大模型訓練、生成式AI應用的大規(guī)模落地需求。

SenseCore商湯大裝置作為商湯推出的AI基礎設施產品與解決方案，總體算力規(guī)模目前已達6800P，在支持商湯自身大模型研發(fā)的同時，也支持外部客戶訓練大模型和應用部署。

今年以來，共有超1000個參數(shù)量數(shù)十億至上千億的大模型在大裝置上完成訓練，實現(xiàn)了領跑行業(yè)的技術迭代進度，并支持了數(shù)十款生成式AI應用。

激發(fā)“智能基建革新”

加速大模型和生成式AI落地

從大模型的訓練到生成式AI應用的部署，再到區(qū)域智算中心的建設與運營，《白皮書》列舉了商湯基于大裝置的多場景實踐案例，激發(fā)AI的商業(yè)創(chuàng)新價值。例如：

大模型訓練場景

商湯大裝置為商湯自研“日日新SenseNova”大模型體系的訓練迭代提供了強大算力支撐，以及1.5萬億token和6000億中文高質量數(shù)據，推出了商量大語言模型，AIGC等大模型，并在多個權威大模型測評榜單中位居前列。

商湯還助力某業(yè)界領先的認知智能公司打造了高性能算力平臺，提高模型訓練速度和效率，已成功推出了400億參數(shù)量的大模型，快速滿足不同領域和場景需求。

生成式AI應用場景

依托商湯大裝置，商湯聯(lián)合中公教育發(fā)布虛擬數(shù)字講師“小鹿老師”，相比傳統(tǒng)人工直播，不僅降低了80%錄課成本，還提高了2~3倍的課程豐富度，實現(xiàn)教學質量和效率雙重提升。

商湯還助力微博打造“營銷大模型”，讓每位博主都能擁有自己的AI營銷助手，短短數(shù)月便有超7000位微博達人采用AIGC生成69萬篇文案，采用率高達95%。

智算中心建設與運營

商湯與重慶南岸區(qū)攜手打造的“重慶人工智能計算中心（AIDC）”，以國產化算力為核心，首期建設峰值算力達100Petaflops，為西南地區(qū)的各行各業(yè)、科研機構提供AI算力、大模型訓練、推理部署和應用開發(fā)等服務。

商湯助力打造福建省大數(shù)據算力平臺，第一階段已建成125Petaflops算力規(guī)模，并有多家數(shù)字生態(tài)領軍企業(yè)入駐，有望推動生成式AI技術在醫(yī)療、金融、制造等各個產業(yè)中的落地。

《白皮書》最后指出，隨著新一代AI基礎設施的邊際成本持續(xù)下降、邊際效益持續(xù)增長，AI將普惠每一個人。

審核編輯：湯梓紅