容聯(lián)云發(fā)布赤兔大模型，一次由內(nèi)而外的自我重塑

就在上周，行業(yè)大模型隊(duì)伍再添一員。

7月8日，在2023世界人工智能大會(huì)上，容聯(lián)云舉辦了以“數(shù)智進(jìn)化、越級(jí)向上”為主題的“生成式營銷服務(wù)與大模型”論壇。

論壇現(xiàn)場(chǎng)，容聯(lián)云正式發(fā)布面向企業(yè)應(yīng)用的垂直行業(yè)多層次大語言模型“赤兔大模型”，并發(fā)布容聯(lián)云“生成式智能營銷服一體化工作空間——機(jī)器貓”和“生成式一體化智能客服平臺(tái)”，推動(dòng)企業(yè)營銷和服務(wù)數(shù)智化轉(zhuǎn)型。

作為云通訊領(lǐng)域的老兵，容聯(lián)云很早就開始探索智能化道路：2017年，容聯(lián)云發(fā)布了語音+文本機(jī)器人，此后也持續(xù)在人工智能技術(shù)上進(jìn)行產(chǎn)品和解決方案的產(chǎn)業(yè)落地探索；2021年，容聯(lián)云收購客戶關(guān)系管理軟件服務(wù)商過河兵科技和數(shù)據(jù)智能服務(wù)商諸葛智能。

此后，容聯(lián)云形成“通訊+數(shù)據(jù)+智能”的技術(shù)底座?！巴ㄓ嵔贤ǖ奈锢硗?，觸達(dá)客戶，各種各樣的數(shù)據(jù)在通訊過程中傳遞，我們可以基于這些數(shù)據(jù)來訓(xùn)練模型，進(jìn)行智能化探索，從而形成內(nèi)部的技術(shù)閉環(huán)。”容聯(lián)云AI研究院院長劉杰解釋道。

然而，由于技術(shù)不成熟，基于傳統(tǒng)NLP技術(shù)的人工智能溝通技巧十分拙劣，常被用戶調(diào)侃為“人工智障”。而大模型的出現(xiàn)，讓人工智能和人類的交互過程真正有了“靈光乍現(xiàn)”的瞬間，智能客服、智能營銷等領(lǐng)域也迎來了全新的時(shí)代。

「甲子光年」與一眾媒體共同采訪了容聯(lián)云COO熊謝剛與容聯(lián)云AI研究院院長劉杰，試圖拆解赤兔大模型的專業(yè)性與商業(yè)化落地能力，并交流了容聯(lián)云對(duì)國內(nèi)大模型市場(chǎng)的思考。

1.赤兔大模型：“更懂行”的大模型

ChatGPT發(fā)布前，容聯(lián)云就在嘗試探索AIGC技術(shù)。ChatGPT發(fā)布后，容聯(lián)云內(nèi)部便按下了AIGC的加速鍵。

容聯(lián)云聯(lián)合原有的存量客戶共同嘗試用ChatGPT回答各個(gè)場(chǎng)景的問題。他們驚訝地發(fā)現(xiàn)，GPT大模型幾乎能替代傳統(tǒng)客服40%的工作量。長遠(yuǎn)來看，大模型將賦予智能客服行業(yè)全新的生命力。

早年間，基于傳統(tǒng)NLP技術(shù)的智能客服常因溝通能力不足被人調(diào)侃為“人工智障”?！凹夹g(shù)挑戰(zhàn)通常來自于認(rèn)知層面?！眲⒔鼙硎?。

劉杰認(rèn)為，傳統(tǒng)AI能力在會(huì)話洞察上會(huì)面臨很多問題?！皞鹘y(tǒng)模型由于模型規(guī)模和技術(shù)的約束，會(huì)面臨知識(shí)缺失、語義偏差等問題，進(jìn)而導(dǎo)致我們?cè)谌斯?shù)據(jù)上投入很多運(yùn)營成本，從而加大了我們的投入成本和開發(fā)周期?！眲⒔鼙硎?。

針對(duì)上述問題，通用大模型表現(xiàn)出超過傳統(tǒng)模型的處理能力。但劉杰清晰地意識(shí)到，通用的AI大模型并不能解決所有問題。

他表示，AI大模型有很多能力，但是并沒有覆蓋所有能力。尤其在企業(yè)的具體場(chǎng)景中，有一些特定的應(yīng)用能力需求，能否將模型能力進(jìn)行場(chǎng)景化、應(yīng)用化適配，是通用大模型走向?qū)嶋H應(yīng)用落地的重要挑戰(zhàn)。例如，在內(nèi)容可控性方面，企業(yè)服務(wù)場(chǎng)景大多要求內(nèi)容嚴(yán)肅、嚴(yán)謹(jǐn)，對(duì)內(nèi)容合規(guī)和信息準(zhǔn)確性有很高要求，而大模型是基于大量知識(shí)開放式生成內(nèi)容，如何讓二者需求匹配便是很大的挑戰(zhàn)。

此外，部署通用大模型需要投入大量成本，“我們能不能讓大模型在to B場(chǎng)景下實(shí)現(xiàn)規(guī)模化、合理化、務(wù)實(shí)化地落地也是非常重要的挑戰(zhàn)”。

針對(duì)上述問題，容聯(lián)云招兵買馬，將技術(shù)團(tuán)隊(duì)注入新鮮血液，用半年時(shí)間推出了“赤兔大模型”。

容聯(lián)云將大模型命名為“赤兔”頗有深意。“首先，赤兔是一匹馬，古人騎馬送信，使馬肩負(fù)了傳遞信息，促進(jìn)溝通的重要職能；其次，赤兔是一匹很強(qiáng)的馬，符合容聯(lián)云對(duì)大模型的定位和預(yù)期；第三，赤兔是懂業(yè)務(wù)的馬，是垂直領(lǐng)域、面向戰(zhàn)場(chǎng)作戰(zhàn)的戰(zhàn)馬，服務(wù)了很多領(lǐng)域的‘頭部客戶’，如呂布、關(guān)羽?！眲⒔芙忉尩?。

赤兔大模型采用多層次設(shè)計(jì)思路——首先構(gòu)建通用模型，通過開源和公開數(shù)據(jù)獲得通用知識(shí)和基礎(chǔ)能力；其次收集高質(zhì)量的領(lǐng)域數(shù)據(jù)構(gòu)建領(lǐng)域模型，以解決特定領(lǐng)域的問題；在業(yè)務(wù)邏輯和流程上提供智能化服務(wù)時(shí)，基于業(yè)務(wù)數(shù)據(jù)和知識(shí)構(gòu)建高質(zhì)量的業(yè)務(wù)模型。

據(jù)劉杰介紹，不同層次的模型會(huì)配置不同的參數(shù)規(guī)模，在實(shí)際落地場(chǎng)景中，更多是用十億級(jí)參數(shù)規(guī)模的模型來完成服務(wù)。

赤兔大模型有四大核心能力——懂交流、會(huì)分析、有知識(shí)、能執(zhí)行。

懂交流：在溝通智能2.0的目標(biāo)下，赤兔大模型能夠進(jìn)行多維度、細(xì)粒度的理解和分析，更動(dòng)態(tài)化地理解客戶同時(shí)做更好的內(nèi)容生成和生產(chǎn)。

會(huì)分析：赤兔大模型能夠在客服、營銷場(chǎng)景下對(duì)問題進(jìn)行更高維度的分析、處理，做更深層次的知識(shí)輔助。

有知識(shí)：除模型預(yù)訓(xùn)練階段納入的通用知識(shí)外，模型外部還有很多動(dòng)態(tài)化、業(yè)務(wù)化的知識(shí)，赤兔大模型則能靈活運(yùn)用外部知識(shí)做一些深度的分析和決策。

能執(zhí)行：傳統(tǒng)AI主要通過應(yīng)答、對(duì)話提供信息反饋，赤兔大模型則能借助外部系統(tǒng)的調(diào)用，執(zhí)行特定動(dòng)作，自主決定需要調(diào)用哪些能力，執(zhí)行哪些動(dòng)作，從而相對(duì)自動(dòng)地完成任務(wù)。

據(jù)劉杰介紹，溝通智能已經(jīng)進(jìn)入2.0時(shí)代，在赤兔大模型加持下，溝通智能2.0將在AI基礎(chǔ)能力、會(huì)話分析洞察、對(duì)話能力、人機(jī)協(xié)同四個(gè)方面有大幅提升。

AI基礎(chǔ)能力方面，智能客服依賴的上下文意圖、情感識(shí)別、實(shí)體識(shí)別、信息抽取、相似問生成等能力均可通過AI大模型替換或做能力補(bǔ)充；

會(huì)話分析洞察方面，AI大模型可對(duì)溝通記錄進(jìn)行質(zhì)檢標(biāo)記、主動(dòng)分析座席工作行為，自動(dòng)生成最佳實(shí)踐SOP，極大挖掘呼叫中心大量會(huì)話信息的潛在價(jià)值；

對(duì)話能力方面，基于赤兔大模型豐富的參數(shù)和強(qiáng)大的內(nèi)容生成能力，能夠支持智能客服實(shí)現(xiàn)更加個(gè)性化的問答回復(fù)；

人機(jī)協(xié)同方面，企業(yè)可以利用大模型做AI助手的工程化設(shè)計(jì)，從坐席話務(wù)前中后不同環(huán)節(jié)輔助陪伴坐席更好、更高效的完成業(yè)務(wù)。

基于赤兔大模型，容聯(lián)云的智能體系實(shí)現(xiàn)了單點(diǎn)能力的升級(jí)、新增以及整個(gè)業(yè)務(wù)邏輯的重構(gòu)。

2.以業(yè)務(wù)應(yīng)用為主導(dǎo)用大模型把產(chǎn)品重做一遍

如今，以赤兔大模型為底座，容聯(lián)云已經(jīng)延伸出兩大業(yè)務(wù)平臺(tái)——生成式智能營銷服一體化工作空間“機(jī)器貓”以及生成式一體化智能客服平臺(tái)。

論壇上，在劉杰發(fā)布赤兔大模型之后，容聯(lián)云COO熊謝剛緊接著發(fā)布了生成式智能營銷服一體化工作空間“機(jī)器貓”，這是容聯(lián)云基于赤兔大模型構(gòu)建的生成式智能“泛服務(wù)”應(yīng)用。

“泛服務(wù)”是容聯(lián)云提出的適用于大模型時(shí)代的新理念。

熊謝剛進(jìn)一步解釋了“泛服務(wù)”的概念：“假設(shè)一個(gè)環(huán)境有足夠的算力，我們就可以嘗試在3-6個(gè)月內(nèi)，把一個(gè)企業(yè)，乃至一個(gè)產(chǎn)業(yè)所有相關(guān)數(shù)據(jù)用來訓(xùn)練大模型。如果這個(gè)訓(xùn)練成果足夠強(qiáng)大，就能夠形成一個(gè)一體化工作空間——對(duì)外可以應(yīng)用到所有客戶的服務(wù)營銷場(chǎng)景中，對(duì)內(nèi)可覆蓋內(nèi)部員工的各種服務(wù)、運(yùn)營流程?！?/p>

基于泛服務(wù)理念，容聯(lián)云在赤兔大模型上打造了生成式智能營銷服一體化工作空間“機(jī)器貓”。目前，容聯(lián)云“機(jī)器貓”平臺(tái)提供的生成式智能應(yīng)用已首批落地四大應(yīng)用場(chǎng)景——在客戶聯(lián)絡(luò)方面，區(qū)別于傳統(tǒng)純?nèi)斯し绞胶蚇LP機(jī)器人解決部分服務(wù)場(chǎng)景，大模型機(jī)器人可解決大部分服務(wù)場(chǎng)景，同時(shí)進(jìn)一步降低機(jī)器人維護(hù)成本和客服數(shù)量，用戶體驗(yàn)提升60%；

在業(yè)務(wù)協(xié)作方面，通過赤兔大模型提供更加智能高效的靈活集成、生成式策略推薦、智能填單、智能分配、智能標(biāo)簽提取等能力，進(jìn)一步降低AI運(yùn)營成本，降低客服服務(wù)時(shí)長和客訴數(shù)量，提升坐席效率；

在AI輔助方面，生成式智能應(yīng)用賦能下的AI輔助，不再是CC的附加工具，而真正高效幫助企業(yè)解決管理難題，實(shí)現(xiàn)銷售業(yè)績(jī)提升；

在智能洞察方面，基于諸葛智能，“機(jī)器貓”平臺(tái)可為用戶提供各種分析模型、行業(yè)指標(biāo)體系問詢，也可以提供實(shí)踐、經(jīng)驗(yàn)分析，幫助企業(yè)快速成長為分析專家，對(duì)于數(shù)據(jù)報(bào)表與指標(biāo)、用戶標(biāo)簽與畫像等分析結(jié)果，用戶可以通過語音、文字等多種方式進(jìn)行問答，并得到快速反饋，還可通過語音等驅(qū)動(dòng)進(jìn)行報(bào)表定制。

會(huì)上，容聯(lián)云數(shù)字智能云事業(yè)群運(yùn)營總經(jīng)理王春生還發(fā)布了生成式一體化智能客服平臺(tái)。

據(jù)王春生介紹，當(dāng)前智能客服從AI 1.0時(shí)代進(jìn)入AI 2.0時(shí)代?；诔嗤么竽Ｐ?，容聯(lián)云生成式一體化智能客服平臺(tái)可以將知識(shí)生產(chǎn)效率提升70%，對(duì)話構(gòu)建成本下降80%，100%提升客戶服務(wù)效率，并為客服人員提供文檔智能問答/抽取、用戶語料/業(yè)務(wù)話術(shù)/流程類方案建議自動(dòng)生成、銷售優(yōu)秀話術(shù)自動(dòng)提煉等能力。

不難看出，對(duì)于“如何擁抱大模型時(shí)代”這個(gè)問題，容聯(lián)云已經(jīng)有了系統(tǒng)性思考，并交出了一份答卷——以業(yè)務(wù)應(yīng)用為導(dǎo)向，用大模型重構(gòu)原有的產(chǎn)品體系。

3.專注金融，把金融行業(yè)做深，做透

在落地行業(yè)的選擇上，容聯(lián)云并沒有“面面俱到”，而是專注金融，把金融行業(yè)做深，做透。

選擇金融，更多是出于數(shù)據(jù)質(zhì)量層面的考慮。熊謝剛解釋道：“航天、法律、金融行業(yè)都比較適合做大模型，這些行業(yè)的數(shù)據(jù)很嚴(yán)謹(jǐn)，語料中沒有調(diào)侃的話語和歧義?！?/p>

而專注金融，則是源于容聯(lián)云想要扎實(shí)做業(yè)務(wù)以及對(duì)客戶負(fù)責(zé)的本心。

“有很多東西需要跟客戶一起做，我們認(rèn)為最終還是要先把一個(gè)行業(yè)吃透，把所有關(guān)鍵環(huán)節(jié)經(jīng)歷一遍，才知道在實(shí)際應(yīng)用過程中，大模型擅長和不擅長的地方。另外，to B市場(chǎng)有很強(qiáng)的行業(yè)屬性，我們也不想很多東西都沒搞清楚的情況下就到處布局?！毙苤x剛表示。

目前，赤兔大模型主要支持私有化部署。容聯(lián)云已經(jīng)挑選了三家標(biāo)桿性客戶進(jìn)行聯(lián)合共創(chuàng)，每家客戶都派了一個(gè)團(tuán)隊(duì)進(jìn)去，和客戶一起做大模型之下的行業(yè)應(yīng)用、產(chǎn)品迭代和更新。

盡管如此，在真正落地的過程中，容聯(lián)云依然需要面臨五花八門的疑難雜癥。

“在一些客戶的敏感業(yè)務(wù)，比如交易類業(yè)務(wù)；或?qū)τ脩趔w驗(yàn)要求極高的，例如投訴類業(yè)務(wù)，都對(duì)模型服務(wù)的精準(zhǔn)性有更高要求，這就拉高了我們前期投入的門檻，要把每個(gè)場(chǎng)景做得更完整?！毙苤x剛分享道。

在這些疑難雜癥背后，是容聯(lián)云當(dāng)前正面臨的兩大核心難題。

首先，是大模型“泛服務(wù)”的能力邊界在哪？當(dāng)后臺(tái)大腦越來越強(qiáng)，在專業(yè)領(lǐng)域表現(xiàn)越來越好時(shí)，對(duì)于企業(yè)內(nèi)部的敏感、隱私數(shù)據(jù)，如何讓模型在可控范圍內(nèi)服務(wù)客戶，將數(shù)據(jù)安全隱患降到最低？

其次，大模型的核心價(jià)值究竟是什么？“IPhone 4作為劃時(shí)代產(chǎn)品，它的價(jià)值并不是淘汰了傳統(tǒng)手機(jī)，而是它真正帶來了移動(dòng)互聯(lián)網(wǎng)應(yīng)用的爆發(fā)。今天我們做大模型也是一樣，我們不能只看它如何改變了過去，更要關(guān)注大模型能夠創(chuàng)造哪些新的應(yīng)用?！毙苤x剛表示。

事實(shí)上，這兩大難題不僅是容聯(lián)云要面對(duì)的，更是所有投身大模型的企業(yè)都需要面對(duì)的。

在一些人看來，“大模型”這個(gè)概念本身十分抽象，業(yè)內(nèi)尚未對(duì)大模型的能力邊界形成共識(shí)，很難出手布局。而在劉杰看來，大模型的定義更多可以從效果和能力上來定性，但很難有一個(gè)量化標(biāo)準(zhǔn)，大數(shù)據(jù)概念也類似，但這不影響企業(yè)持續(xù)探索大模型的應(yīng)用價(jià)值。

人類在各個(gè)組織中也會(huì)有專業(yè)分工，類似的，企業(yè)也需要對(duì)大、中、小模型進(jìn)行專業(yè)劃分，多個(gè)模型協(xié)同，更務(wù)實(shí)地解決業(yè)務(wù)需求。實(shí)際業(yè)務(wù)場(chǎng)景中，企業(yè)可以根據(jù)任務(wù)的復(fù)雜型和模型通用型的要求，選擇更適合的模型部署。

從技術(shù)到應(yīng)用場(chǎng)景、落地行業(yè)的選擇都可以看出，赤兔大模型以及兩大業(yè)務(wù)平臺(tái)的發(fā)布對(duì)容聯(lián)云而言意義重大。赤兔大模型與基于此打造的兩大業(yè)務(wù)平臺(tái)，幾乎可以看作是容聯(lián)云在大模型時(shí)代的一次“自我重塑”。

如今，大勢(shì)已來，更早順應(yīng)趨勢(shì)的企業(yè)，便能更早拿到下一個(gè)時(shí)代的話語權(quán)，容聯(lián)云終于迎來了厚積薄發(fā)的時(shí)刻。