科技云報(bào)道：卷完參數(shù)卷應(yīng)用，大模型落地有眉目了？

科技云報(bào)道原創(chuàng)。

國(guó)內(nèi)大模型戰(zhàn)場(chǎng)的比拼正在進(jìn)入新的階段。

隨著產(chǎn)業(yè)界對(duì)模型落地的態(tài)度逐漸回歸理性，企業(yè)客戶的認(rèn)知從原來(lái)的“覺(jué)得大模型什么都能做”的階段，已經(jīng)收斂到“大模型能夠給自身業(yè)務(wù)帶來(lái)什么價(jià)值上了”。

2023 年下半年，不少企業(yè)將目光鎖定在行業(yè)模型上。如何降低大模型使用門檻，讓大模型真正在行業(yè)里用起來(lái)，是業(yè)內(nèi)普遍關(guān)注的焦點(diǎn)。

由此，國(guó)內(nèi)廠商在大模型上的認(rèn)知也在逐步統(tǒng)一——百度創(chuàng)始人李彥宏認(rèn)為“卷大模型沒(méi)有意義，卷應(yīng)用機(jī)會(huì)更大”；騰訊高管湯道生表示“大模型只是開(kāi)端，行業(yè)應(yīng)用才是未來(lái)”；華為云CEO張平安明確大模型“為行業(yè)而生，聚焦B端行業(yè)客戶”，更直言盤古大模型“沒(méi)時(shí)間作詩(shī)、沒(méi)時(shí)間聊天”。

這也意味著，更多大模型廠商將開(kāi)始卷應(yīng)用，這會(huì)是今年競(jìng)爭(zhēng)最為激烈的板塊之一。

大模型行業(yè)落地渴望 “開(kāi)箱即用”

過(guò)去半年，大模型To B的落地應(yīng)用摸索已經(jīng)度過(guò)嘗鮮期。

對(duì)于企業(yè)而言，他們希望更快使用上大模型，在市場(chǎng)競(jìng)爭(zhēng)中獲得優(yōu)勢(shì)。但大模型的技術(shù)門檻很高，因此企業(yè)并不會(huì)從頭開(kāi)始訓(xùn)練自己的基礎(chǔ)大模型，更多是基于某個(gè)成熟的大模型做二次開(kāi)發(fā)。

然而，想借用好現(xiàn)有的通用大模型，企業(yè)仍面臨著三大難題：

首先，各類企業(yè)的場(chǎng)景需求、復(fù)雜程度、智能化程度千差萬(wàn)別，大模型能力邊界與企業(yè)的場(chǎng)景需求如何快速、準(zhǔn)確匹配；

其次，從模型到應(yīng)用中間還需要諸多技術(shù)橋梁，諸如SFT、RAG、LangChain、Agent等技術(shù)，如何與大模型有機(jī)組合達(dá)成最優(yōu)解；

第三，企業(yè)過(guò)去積累了大量IT設(shè)施、軟件、企業(yè)數(shù)據(jù)、業(yè)務(wù)流程，如何讓大模型與現(xiàn)有設(shè)施結(jié)合的情況下，保障企業(yè)數(shù)據(jù)信息安全。

換句話說(shuō)，企業(yè)無(wú)論是基于開(kāi)源或閉源的通用大模型來(lái)做行業(yè)化落地，都遠(yuǎn)沒(méi)有到達(dá)開(kāi)箱即用的程度。

不過(guò)這也成為大模型廠商在競(jìng)爭(zhēng)中突圍的方向，除了要在底層技術(shù)上繼續(xù)夯實(shí)外，補(bǔ)足行業(yè)Know-how和成功經(jīng)驗(yàn)也是重中之重。

在百度和阿里的發(fā)展經(jīng)驗(yàn)中，似乎可以給大模型行業(yè)一些啟示。

其中，百度用搭建行業(yè)模型、垂直場(chǎng)景模型和應(yīng)用的方式賦能具體行業(yè)。

2023年3月，百度智能云推出千帆大模型平臺(tái)，從算力、模型、到應(yīng)用層層結(jié)合，為企業(yè)提供一整套大模型開(kāi)發(fā)工具。

一年后，基于一線經(jīng)驗(yàn)積累和實(shí)戰(zhàn)反饋，百度智能云抽取出“研、產(chǎn)、供、銷、服”環(huán)節(jié)中的典型場(chǎng)景，于近日推出了5款全新模型和7款應(yīng)用產(chǎn)品，來(lái)解決企業(yè)用好大模型的“三大難題”。

以此次發(fā)布的國(guó)內(nèi)首款大模型全面重構(gòu)的智能客服——百度智能云客悅為例，相比傳統(tǒng)客服，客悅可結(jié)合大模型的理解、推理、記憶能力，實(shí)現(xiàn)更友好的對(duì)話、更高效的運(yùn)營(yíng)。

比如，當(dāng)用戶提問(wèn)“我的車總有吱吱吱的聲音”，傳統(tǒng)客服無(wú)法理解“吱吱吱”這種口語(yǔ)化的表達(dá)。

而客悅在大模型的加持下，會(huì)繼續(xù)追問(wèn)用戶該問(wèn)題持續(xù)的時(shí)間和頻次，并通過(guò)推理反饋用戶，可能是皮帶老化或者張緊輪松動(dòng)導(dǎo)致，建議到店檢查。

若用戶反饋沒(méi)時(shí)間檢查，客悅還會(huì)基于自身知識(shí)庫(kù)，提醒不檢修可能導(dǎo)致車輛失去動(dòng)力、長(zhǎng)期會(huì)引起發(fā)動(dòng)機(jī)故障等問(wèn)題，引起用戶重視，守護(hù)行車安全。目前，用戶問(wèn)題自助解決率已超過(guò)90%。

在運(yùn)營(yíng)效率方面，上一代的傳統(tǒng)智能客服進(jìn)行業(yè)務(wù)辦理、知識(shí)咨詢、閑聊等能力，需要花費(fèi)的人效約100人/天，而客悅僅需約15.5人/天，大模型客服運(yùn)營(yíng)效率提升6倍。

目前為止，百度智能云已經(jīng)布局了電力、汽車、金融、政務(wù)等十余個(gè)行業(yè)大模型，并取得了不錯(cuò)的效果，客戶中也出現(xiàn)了國(guó)家電網(wǎng)、浦發(fā)銀行、泰康、吉利等知名企業(yè)。

相比之下，阿里采用了另一套邏輯：賦能于內(nèi)部已有應(yīng)用和服務(wù)，再技術(shù)外溢至行業(yè)客戶。

除已經(jīng)發(fā)布“通義千問(wèn)”大模型外，夸克也發(fā)布了自研大模型，應(yīng)用于通用搜索、醫(yī)療健康等場(chǎng)景；后加之內(nèi)部推行“云釘一體”，作為辦公一體化平臺(tái)，釘釘上線AI魔法棒，推出17項(xiàng)與AI相關(guān)服務(wù)，也為通義千問(wèn)大模型助力頗多。

同時(shí)，阿里也提供了不少類似于Anyone fit類型的圖像模型解決方案，其工具十分貼合電商需求場(chǎng)景。

因在電商、物流層面的深厚積累，讓阿里擁有了對(duì)不同領(lǐng)域的行業(yè)特點(diǎn)、業(yè)務(wù)流程和客戶需求有了充分的認(rèn)識(shí)。

基于此，阿里的產(chǎn)品便可以在深度了解用戶需求的基礎(chǔ)上，為客戶提供定制化的解決方案，滿足其業(yè)務(wù)需求，提高其業(yè)務(wù)效率和競(jìng)爭(zhēng)力。這讓大模型有了其應(yīng)有之意，不至于淪落為“無(wú)源之水”。

頭部大廠領(lǐng)跑大模型行業(yè)落地

在大模型的 toB 競(jìng)爭(zhēng)中，本質(zhì)而言，是取決于客戶企業(yè)對(duì)商業(yè)價(jià)值的認(rèn)知。和其他行業(yè)一樣，在大模型領(lǐng)域，“多快好省” 和 “物美價(jià)廉” 難以兩全，匆忙上陣的結(jié)果可能是一地雞毛。

因此，企業(yè)客戶在大模型的選擇上更為審慎。盡管大模型的應(yīng)用還在初期，但企業(yè)在模型選擇、模型可靠性、應(yīng)用成本、使用門檻等層面，已有各種考量和顧慮。

百度集團(tuán)副總裁侯震宇曾在采訪中表示：“最終能夠讓大模型服務(wù)推廣開(kāi)的只有兩個(gè)原因：第一個(gè)是模型效果，第二個(gè)是成本?！?/p>

以百度智能云為例，其大模型的調(diào)用和訓(xùn)練成本一直在下降。文心一言開(kāi)啟內(nèi)測(cè)后，一個(gè)月就迭代了四次。

根據(jù)百度披露的數(shù)據(jù)，文心一言的推理成本如今只有發(fā)布之初的十分之一，在發(fā)布的3個(gè)月內(nèi)推理效率提升10倍，模型推理性能提升50%，模型算力利用率提升1倍。

侯震宇透露，隨著技術(shù)迭代帶來(lái)的成本下降，不管是在模型使用，還是在模型微調(diào)甚至在模型再訓(xùn)練方面，“價(jià)格應(yīng)該不會(huì)成為大家使用或者擁抱大模型的瓶頸”。

與此同時(shí)，在SuperCLUE中文大模型7月最新榜單中，百度的大語(yǔ)言模型產(chǎn)品文心一言以62分的總成績(jī)一舉超越越GPT-3.5-turbo（59.79）和ChatGLM-130B（59.35）等，穩(wěn)居行業(yè)頭部。

除了成本和效果，大模型從開(kāi)發(fā)、應(yīng)用到調(diào)優(yōu)的每一個(gè)環(huán)節(jié)如何落地，如何基于數(shù)據(jù)安全合規(guī)進(jìn)行私有化部署等，都是企業(yè)客戶重點(diǎn)關(guān)注的問(wèn)題。

例如，很多企業(yè)需要的聊天機(jī)器人，并不是選擇具備強(qiáng)大通用能力的大模型就可以，還要求大模型廠商能夠提供易用性、完備度、安全性、穩(wěn)定性都有保證的工具鏈。

在關(guān)注大模型技術(shù)棧完備性的同時(shí)，企業(yè)還需要選擇適合自身業(yè)務(wù)的大模型廠商——既有充分的產(chǎn)業(yè)應(yīng)用經(jīng)驗(yàn)積累，也能夠?qū)⒓夹g(shù)應(yīng)用到實(shí)際業(yè)務(wù)場(chǎng)景中。

目前，百度智能云推出的千帆大模型平臺(tái)就擁有較為全面的數(shù)據(jù)服務(wù)能力，從生成、標(biāo)注、回流再到模型訓(xùn)練（Post-pretraining、Fine-tuning、Prompt-tuning）、模型評(píng)估（主觀評(píng)估、客觀評(píng)估）和壓縮、自動(dòng)化 Prompt 工程、到插件應(yīng)用編排，客戶都可以在千帆上一站式完成。

這意味著企業(yè)客戶可以將基于千帆平臺(tái)從0開(kāi)始訓(xùn)練自己的專屬模型，同時(shí)訓(xùn)練好的模型也可以部署和托管在千帆平臺(tái)上，獲得極致的性能、企業(yè)級(jí)的高可用性和安全環(huán)境。

由于千帆平臺(tái)已經(jīng)制備了開(kāi)箱即用的使用流程，用可視化產(chǎn)品界面的方式引導(dǎo)用戶使用，極大降低了使用門檻。對(duì)于企業(yè)級(jí)市場(chǎng)比較擔(dān)心的安全可靠問(wèn)題，也內(nèi)置了安全機(jī)制，確保模型的輸入和輸出的安全。

不久前，IDC發(fā)布的《AI大模型技術(shù)能力評(píng)估報(bào)告，2023》對(duì)國(guó)內(nèi)主流大模型，包括百度、阿里、騰訊、華為、科大訊飛、360、商湯等14家廠商參進(jìn)行了評(píng)估。

IDC分別對(duì)大模型的平臺(tái)、創(chuàng)新、通用、算法、服務(wù)、生態(tài)合作、行業(yè)覆蓋和安全可解釋性等諸多方面進(jìn)行了評(píng)價(jià)，其中百度 7 個(gè)滿分，阿里 6 個(gè)滿分。百度在算法模型、行業(yè)覆蓋領(lǐng)域拿下行業(yè)唯一滿分。

可以看到，頭部大廠的大模型產(chǎn)品已經(jīng)有所成效。相較之下，部分初創(chuàng)和腰部公司開(kāi)始呈現(xiàn)疲態(tài)。

從光年之外退出競(jìng)爭(zhēng)、訊飛大幅虧損難以支撐大模型投入便可以得知，一些 “笨鳥(niǎo)先飛” 的企業(yè)已逐漸落后于發(fā)展大勢(shì)。

對(duì)于企業(yè)業(yè)務(wù)而言，現(xiàn)階段更加穩(wěn)妥的方式還是在大廠之間做出抉擇。大廠大模型更能保證服務(wù)交付、運(yùn)維和維保，這也是企業(yè)對(duì)自身向智能化方向轉(zhuǎn)型更加負(fù)責(zé)任地選擇。

結(jié)語(yǔ)

隨著企業(yè)研發(fā)、生產(chǎn)、銷售、人力等各項(xiàng)業(yè)務(wù)場(chǎng)景數(shù)字化深入，如何借助大模型的力量，發(fā)揮出應(yīng)用的最大價(jià)值，正成為企業(yè)商業(yè)制勝的關(guān)鍵所在。

接下來(lái)的競(jìng)爭(zhēng)，對(duì)于企業(yè)而言，不再是局限于大模型的追逐，而是如何基于大模型對(duì)應(yīng)用產(chǎn)品進(jìn)行自我優(yōu)化和革新。

對(duì)于大模型廠商而言，比拼的不僅是算力、算法和數(shù)據(jù)，未來(lái)長(zhǎng)期的發(fā)展比的更是落地應(yīng)用、生態(tài)渠道、客戶服務(wù)、運(yùn)維等系統(tǒng)性、全面性的支持。

這需要廠商具備強(qiáng)大的技術(shù)水平，以及不斷迭代升級(jí)的能力。要滿足可控和合規(guī)的要求，也需要廠商有較強(qiáng)的綜合能力，能夠長(zhǎng)期穩(wěn)定的投入人力物力。

【關(guān)于科技云報(bào)道】

專注于原創(chuàng)的企業(yè)級(jí)內(nèi)容行家——科技云報(bào)道。成立于2015年，是前沿企業(yè)級(jí)IT領(lǐng)域Top10媒體。獲工信部權(quán)威認(rèn)可，可信云、全球云計(jì)算大會(huì)官方指定傳播媒體之一。深入原創(chuàng)報(bào)道云計(jì)算、大數(shù)據(jù)、人工智能、區(qū)塊鏈等領(lǐng)域。

審核編輯 黃宇