百度智能云推出“千帆·行業(yè)增強版”，加速行業(yè)大模型的落地

5月28日，由人民日報文化傳媒有限公司和百度聯(lián)合主辦的2024智能經(jīng)濟論壇在北京舉行。會上，百度集團執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖介紹了文心系列主力大模型免費背后的原因。此外，為了加速行業(yè)大模型的落地，百度智能云推出“千帆·行業(yè)增強版”，目前已經(jīng)在政務(wù)、交通、工業(yè)等行業(yè)落地。

沈抖表示，為什么能把價格打下來？主要是依托于技術(shù)能力，尤其是百度智能云有業(yè)界最高效的AI異構(gòu)算力管理平臺和“一云多芯”兩項硬實力。目前，文心大模型已經(jīng)擁有中國最大的產(chǎn)業(yè)落地規(guī)模，超半數(shù)央企正在聯(lián)合百度進行AI創(chuàng)新。

01 揭秘主力模型免費原因 每年為企業(yè)節(jié)省50億智算成本

“其實我們決定免費的原因特別樸素，就是希望大家別再天天拉表格比價格了，有這個時間，不如去卷場景、卷應(yīng)用。現(xiàn)在成本更低了，大家創(chuàng)新的膽子可以更大一些、步子可以更快一些，把相關(guān)的場景都試一遍，快速驗證。跑成功了，就快速復(fù)制。”沈抖表示。

一周前，百度智能云宣布ERNIE Speed、ERNIE Lite兩款主力模型全面免費。據(jù)了解，本次免費的兩個模型是客戶在場景應(yīng)用中經(jīng)常用到的主力模型，在文案創(chuàng)作、聊天對話、知識問答、內(nèi)容續(xù)寫等場景中有非常高的調(diào)用量。

會上，沈抖首次揭秘了模型免費背后的原因，以及為什么能把價格打下來，主要是依托于技術(shù)能力，尤其是業(yè)界最高效的AI異構(gòu)算力管理平臺和“一云多芯”兩項硬實力。

首先，百度百舸·AI異構(gòu)計算平臺能夠?qū)Σ煌攸c、規(guī)模、集群的智能算力進行統(tǒng)一、高效的管理，基于芯片性能優(yōu)化、自動芯片選型、潮汐混部等技術(shù)，大幅提升智能算力效能，萬卡集群上的模型有效訓(xùn)練時長占比超過98.8%。相同的大模型任務(wù)，百舸能夠幫助客戶將資源成本降低一半。據(jù)推算，百舸每年為企業(yè)客戶節(jié)約的智算成本可達50億元以上。

第二，在“一云多芯”方面，百舸兼容昆侖芯、昇騰、海光DCU、英偉達、英特爾等國內(nèi)外主流AI芯片，支持同一智算集群中混合使用不同廠商芯片，最大程度上屏蔽硬件之間差異，幫助企業(yè)擺脫單一芯片依賴，打造更有性價比、更安全、更具彈性的供應(yīng)鏈體系。在多芯混合訓(xùn)練任務(wù)中，百舸能夠?qū)涡酒寐?、芯片間通信效率、集群整體效能發(fā)揮到極致，百卡規(guī)模性能損失不超過3%，千卡規(guī)模性能損失不超過5%，均為國內(nèi)最高水平。

此外，在模型層面，千帆ModelBuilder提供的模型路由能力，能夠針對任務(wù)類型自動分配合適的模型進行處理，讓更便宜的小參數(shù)模型在特定場景中媲美大參數(shù)模型的效果。以小度AI助手為例，通過使用模型路由能力，相比全部任務(wù)調(diào)用旗艦版文心大模型，成本大幅下降了99%，模型響應(yīng)速度也提升了200%?！凹词故窃趶?fù)雜應(yīng)用場景下，模型路由也可以節(jié)省30%的成本。”沈抖說。

目前，文心大模型日均調(diào)用量超過2億，每天處理的文本相當(dāng)于74萬本《新華字典》，已經(jīng)成為中國落地應(yīng)用最廣的大模型。千帆平臺累計服務(wù)10.5萬家企業(yè)用戶，累計幫助用戶精調(diào)了1.75萬個大模型，幫助用戶開發(fā)出了32萬個AI原生應(yīng)用。

02 推出“千帆行業(yè)增強版” 加速行業(yè)大模型應(yīng)用落地

在行業(yè)落地中，僅靠大模型的通用能力很難滿足各行各業(yè)的特有需求，而是要在通用大模型基礎(chǔ)上增強行業(yè)專業(yè)性，同時降低行業(yè)應(yīng)用開發(fā)門檻。

沈抖指出，行業(yè)大模型本質(zhì)上是一個多模型的行業(yè)解決方案，由一個通用大模型和多個行業(yè)模型組合而成。這些行業(yè)模型往往由小模型精調(diào)而成，在特定領(lǐng)域具有很強的能力。但企業(yè)應(yīng)用場景十分復(fù)雜，如果只是用一個個“孤立”的行業(yè)模型去解決特定場景的問題，那么整套工程將會非常復(fù)雜，和傳統(tǒng)的AI開發(fā)沒有區(qū)別，開發(fā)效率極低。

因此，為了進一步降低行業(yè)大模型的開發(fā)門檻，百度智能云此次推出了千帆·行業(yè)增強版，將通用大模型的理解、生成、邏輯、記憶能力，與行業(yè)模型的專業(yè)能力相結(jié)合，搭配體系化的工具和組件，支持從資源管理、大模型服務(wù)到應(yīng)用開發(fā)的全過程。

具體來講，千帆·行業(yè)增強版主要由資源服務(wù)、大模型服務(wù)、應(yīng)用服務(wù)三部分組成，它不僅提供千帆、百舸的通用能力，在這個基礎(chǔ)上，還做了行業(yè)能力的擴展和適配。在資源服務(wù)方面，企業(yè)可以結(jié)合業(yè)務(wù)情況，擴展多源數(shù)據(jù)治理、云邊端協(xié)同等能力，為業(yè)務(wù)構(gòu)建起強大的基礎(chǔ)設(shè)施；在大模型服務(wù)方面，企業(yè)可以在千帆平臺上自由選擇不同參數(shù)規(guī)模、不同上下文長度、不同細分領(lǐng)域的大模型，然后按需擴展行業(yè)模型、行業(yè)知識、行業(yè)智能體；在應(yīng)用服務(wù)方面，支持添加運營、運維、企業(yè)環(huán)境內(nèi)應(yīng)用開發(fā)、應(yīng)用服務(wù)等各類業(yè)務(wù)邏輯。

在千帆·行業(yè)增強版上，還可以不斷的增加新的行業(yè)。有了通用底座和行業(yè)增強的能力，應(yīng)用開發(fā)范式將徹底改變，復(fù)雜的工程會被千帆屏蔽掉，真正實現(xiàn)“場景驅(qū)動”。目前，千帆·行業(yè)增強版已經(jīng)在政務(wù)、交通、工業(yè)、金融等行業(yè)落地應(yīng)用。

比如，在政務(wù)領(lǐng)域，中華全國總工會聯(lián)合百度智能云打造了AI法律咨詢助手，為勞動者提供精準(zhǔn)的法律問題解答、快速計算勞動賠償金額、生成個性化案情評估等便捷服務(wù)。相較于傳統(tǒng)的開發(fā)模式，整套系統(tǒng)及應(yīng)用的交付周期從3～6個月大幅縮短至1個月。

“我們和客戶一起整理了所需的專業(yè)數(shù)據(jù)，精調(diào)出工會行業(yè)大模型，部署在客戶的專有云環(huán)境。這樣，當(dāng)公有云上的文心大模型完成任務(wù)規(guī)劃、拆解后，具體的任務(wù)就會交給工會行業(yè)大模型執(zhí)行，之后文心大模型會匯總結(jié)果、做出回答。這樣，既滿足了數(shù)據(jù)合規(guī)的要求，又得到了非常好的模型效果?！鄙蚨侗硎荆骸盀榱素S富這個平臺的場景化能力，我們還封裝了法律問答、案例推薦這些行業(yè)智能體?！?/p>

03

中國超半數(shù)央企聯(lián)合百度進行AI創(chuàng)新

就在上周，國內(nèi)大模型行業(yè)的價格戰(zhàn)已經(jīng)打響。包括字節(jié)、阿里、百度、騰訊、科大訊飛在內(nèi)的多家廠商宣布降價或免費。不過，多位企業(yè)技術(shù)負責(zé)人表示，價格只是選擇大模型的一個考量因素，比起價格，更重要的是模型效果和應(yīng)用場景。

沈抖表示，目前，百度文心大模型已經(jīng)擁有中國最大的產(chǎn)業(yè)落地規(guī)模，超過半數(shù)的央企正在使用百度智能云的技術(shù)和服務(wù)進行人工智能創(chuàng)新。百度智能云總結(jié)了過去一年國內(nèi)客戶落地AI與大模型的關(guān)鍵問題，并針對性的打造了全棧的技術(shù)服務(wù)體系。

在交通領(lǐng)域，貴陽市公安交通管理局與百度智能云一起，在貴陽觀山湖核心區(qū)的31個關(guān)鍵交通節(jié)點部署了AI信控系統(tǒng)。通過引入交通信控大模型，對各路口、各流向的交通流量進行精準(zhǔn)感知和預(yù)測，動態(tài)調(diào)節(jié)路口信號燈時長，緩解交通擁堵。目前，貴陽市工作日車均延誤時長下降多達15%，全國城市擁堵排名也從過去的第4位下降至第20位，AI與大模型功不可沒。

在汽車行業(yè)，蔚來汽車基于千帆平臺，在文心大模型的基礎(chǔ)上通過提示詞工程打造出了端云協(xié)同多模態(tài)大模型——NOMI GPT。NOMI能夠自然地與用戶互動，成為一個更懂用戶、更聰明的座艙AI小助手。目前，NOMI已經(jīng)陪伴了近20萬車友家庭，為用戶創(chuàng)造更美好的出行體驗。

在工業(yè)領(lǐng)域，中化信息攜手百度智能云，共同探索利用大模型進行新型材料的研發(fā)。中化信息基于千帆AppBuilder打造的“化小易”知識助手，能夠基于自然語言提問，快速檢索并回答分子特性、分子合成路線等專業(yè)知識，替代了傳統(tǒng)的人工查詢方式。目前，特定分子的檢索效率能夠提升5倍以上，極大提高了研發(fā)效率。

此外，百度智能云還聯(lián)合上海交通大學(xué)，構(gòu)建了Al for Science科研創(chuàng)新平臺，孵化了多項首創(chuàng)性科研成果；聯(lián)合沈陽首府經(jīng)開區(qū)，規(guī)劃建設(shè)了全國首個“場景-平臺-模型-算力”全棧部署的1000P智算中心，為沈陽特色產(chǎn)業(yè)、重點產(chǎn)業(yè)提供強有力的算力支持，建設(shè)不到1年就實現(xiàn)了10%的投資回收。