商湯大裝置萬(wàn)象為大模型落地按下加速鍵

國(guó)際權(quán)威咨詢機(jī)構(gòu)IDC近日發(fā)布《中國(guó)模型即服務(wù)（MaaS）及AI大模型解決方案市場(chǎng)追蹤，2024H1》報(bào)告。

報(bào)告顯示，2024年上半年，商湯科技（商湯大裝置萬(wàn)象）以14.8%的市場(chǎng)份額位居第二，領(lǐng)跑AI大模型解決方案行業(yè)第一梯隊(duì)。

報(bào)告預(yù)計(jì)，中國(guó)MaaS市場(chǎng)和AI大模型解決方案市場(chǎng)規(guī)模在2028年將分別達(dá)到38億和211億元人民幣，年均復(fù)合增長(zhǎng)率分別高達(dá)64.8%和56.2%，將持續(xù)保持高速發(fā)展態(tài)勢(shì)。

一站式，搞定大模型和應(yīng)用開(kāi)發(fā)

當(dāng)前，大模型的實(shí)際落地，正面臨訓(xùn)練推理部署成本高、垂直場(chǎng)景應(yīng)用門檻高、安全保障標(biāo)準(zhǔn)高、模型評(píng)估調(diào)優(yōu)難度高等重重挑戰(zhàn)。

行業(yè)亟需能夠提供完備工具鏈和安全可控模型開(kāi)發(fā)的平臺(tái)與服務(wù)。

“商湯大裝置萬(wàn)象”應(yīng)運(yùn)而生。

商湯大裝置萬(wàn)象，包含模型開(kāi)發(fā)平臺(tái)和應(yīng)用開(kāi)發(fā)平臺(tái)，是基于商湯大裝置算力底座和日日新大模型，構(gòu)建面向企業(yè)與開(kāi)發(fā)者的模型管理、模型推理、模型微調(diào)、數(shù)據(jù)管理，以及智能體應(yīng)用的一站式大模型服務(wù)平臺(tái)。

目前，商湯大裝置萬(wàn)象已廣泛服務(wù)于央國(guó)企、運(yùn)營(yíng)商、金融、互聯(lián)網(wǎng)、汽車、泛科技等多個(gè)行業(yè)客戶，以高效的模型精調(diào)和推理部署，實(shí)現(xiàn)多種業(yè)務(wù)場(chǎng)景的提智增效。

多元異構(gòu)、萬(wàn)卡互聯(lián)，

為大模型落地按下加速鍵

作為“商湯大裝置萬(wàn)象”的算力底座，SenseCore商湯大裝置不僅算力規(guī)模達(dá)20,000 PetaFLOPS，軟件和平臺(tái)的創(chuàng)新力和服務(wù)能力亦備受各界認(rèn)可。

在IDC此前發(fā)布的《中國(guó)智算服務(wù)市場(chǎng)（2023下半年）跟蹤》報(bào)告中，商湯在中國(guó)云計(jì)算基礎(chǔ)設(shè)施廠商中脫穎而出，與火山引擎、阿里巴巴共同躋身2023年下半年中國(guó)GenAI IaaS服務(wù)廠商TOP 3，以顯著的市場(chǎng)份額優(yōu)勢(shì)位居GenAI IaaS領(lǐng)域的第一梯隊(duì)。

領(lǐng)先的服務(wù)水平，得益于商湯大裝置面向大模型業(yè)務(wù)提供更全面的算力集群運(yùn)維支持和超大集群保障能力。

同時(shí)，商湯大裝置已全面適配多元異構(gòu)芯片，并支持多元異構(gòu)萬(wàn)卡的高效互聯(lián)和強(qiáng)大的異構(gòu)混訓(xùn)能力，通過(guò)通信庫(kù)創(chuàng)新與參數(shù)配置優(yōu)化實(shí)現(xiàn)95%以上的多元異構(gòu)混訓(xùn)效能，可充分發(fā)揮異構(gòu)芯?在不同場(chǎng)景下的優(yōu)勢(shì)，優(yōu)化整體能耗，降低運(yùn)營(yíng)成本。

商湯大裝置致力于打造高效易用的全棧大模型服務(wù)，無(wú)縫對(duì)接各類模型應(yīng)用場(chǎng)景，提升大模型技術(shù)的落地效率，更好地賦能千行百業(yè)。