如何讓智能客服像真人一樣對話？容聯(lián)七陌揭秘：多Agent大模型

科技云報到原創(chuàng)。

經(jīng)歷了多年的“答非所問”、“一問三不知”，很多人已經(jīng)厭倦了所謂的“智能客服”。哪怕是技術(shù)已經(jīng)非常成熟、可以模擬真人發(fā)音的外呼機(jī)器人，也會因?yàn)椤皺C(jī)感”重而被用戶迅速掛機(jī)或轉(zhuǎn)向人工客服。

智能客服似乎遇到了一道坎，在理解用戶、和用戶對話方面，始終無法實(shí)現(xiàn)真正的“智能”。然而大模型技術(shù)的出現(xiàn)，讓智能客服看到了前所未有的曙光——基于大模型特有的生成式技術(shù)和智能的涌現(xiàn)，讓智能客服越來越逼近人們想象中的樣子。

但問題是，僅有大模型就夠了嗎？大模型技術(shù)要如何引入智能客服才能落地？落地后的大模型究竟如何在智能客服具體場景中發(fā)揮作用？又能為客服行業(yè)帶來了哪些改變？更進(jìn)一步，對于企業(yè)和用戶而言，這種改變是否具備真正的價值？

帶著這些問題，我們采訪了容聯(lián)七陌的產(chǎn)品負(fù)責(zé)人劉倩。容聯(lián)七陌是國內(nèi)知名的企業(yè)智能客服系統(tǒng)服務(wù)商，專注智能客服領(lǐng)域已有十年內(nèi)，其智能客服廣泛應(yīng)用于教育培訓(xùn)、醫(yī)療醫(yī)藥、電商直播、新零售、智能制造、汽車、泛互聯(lián)網(wǎng)等多個領(lǐng)域，服務(wù)了包括作業(yè)幫、復(fù)興健康、同仁堂、虎牙、多點(diǎn)、廣汽能源、紅旗、居然之家等等品牌。

作為智能客服領(lǐng)域探索大模型技術(shù)的“急先鋒”，今年8月，容聯(lián)七陌推出了行業(yè)首創(chuàng)的“新一代大模型智能客服解決方案”，讓智能客服在意圖理解、答案生成、情緒理解方面，都實(shí)現(xiàn)了跨越式的能力提升。

為了讓大家更好地理解大模型為智能客服帶來的革命性變化，以及技術(shù)和應(yīng)用如何交疊落地，我們整理了與容聯(lián)七陌產(chǎn)品負(fù)責(zé)人劉倩的采訪內(nèi)容，以對話的形式精選給大家：

Q：大模型熱已經(jīng)持續(xù)一年多了，大模型技術(shù)到底為智能客服領(lǐng)域帶來了哪些變化？

A：大模型帶來的變化和價值，其實(shí)大家一直都在探索中。對于智能客服來說，主要是把大模型的理解能力和生成能力，應(yīng)用到對話產(chǎn)品中。

比如，以前在網(wǎng)上買東西，智能客服給用戶的回答是有套路的，所以看起來回復(fù)是冷冰冰的，有時候還答非所問。

但是有了大模型之后，智能客服就可以自己生成話術(shù)，接得住用戶的話頭，回答自然流暢，就像和真人聊天一樣。在對話的理解上，大模型也可以應(yīng)對用戶多樣化的表達(dá)方式，比如不同的問法、錯別字等等，都能夠真正去理解。

所以，新一代智能客服會更多依賴原生大模型，對用戶來說就是更自然、更智能的體驗(yàn)，而非上一代產(chǎn)品那種簡單的、預(yù)制的回答。

Q：如果和上一代智能客服相比，您會如何評價新一代大模型原生的智能客服？

A：傳統(tǒng)的智能客服存在幾個痛點(diǎn)：

第一是大家吐槽的“智障”，其實(shí)就是機(jī)器對語義理解不足，用戶提了訴求，但機(jī)器答非所問的概率很高。這是因?yàn)樯弦淮悄芸头?，在技術(shù)上使用的是關(guān)鍵詞、BERT模型等機(jī)制，這種機(jī)制需要大量的數(shù)據(jù)標(biāo)注，標(biāo)注越多，理解能力就越強(qiáng)，但標(biāo)注高度依賴人工。一旦人工標(biāo)注和訓(xùn)練不足，機(jī)器的理解能力就會不夠，結(jié)果就是答非所問。

第二是用戶體驗(yàn)不好，缺乏情感表達(dá)。用戶是有情緒的，但上一代智能客服是預(yù)制的，不管用戶什么情緒來提問，機(jī)器都是標(biāo)準(zhǔn)回復(fù)，比較機(jī)械。機(jī)器能不能打動用戶、解決用戶問題，完全取決于設(shè)計問答的那個人。

第三是復(fù)雜的任務(wù)類的處理很呆板。比如預(yù)定會議室，上一代智能客服一般會使用流程畫布，第一步問定會議室的時間、參會人等信息，再調(diào)取定會議室的接口，必須一步步按設(shè)定好的流程來。當(dāng)用戶的話題超出了設(shè)定范圍，智能客服就會直接告訴用戶，它答不上來，最后轉(zhuǎn)人工客服的比例其實(shí)很高。

第四是成本高。上一代智能客服需要設(shè)立專門的機(jī)器人訓(xùn)練師，因?yàn)樗枰F舉業(yè)務(wù)上的問題和標(biāo)準(zhǔn)答案，每個問題還要提供不少于30個的相似句。如果涉及到一些復(fù)雜的業(yè)務(wù)知識和流程，還需要梳理知識圖譜。這個訓(xùn)練過程是非常復(fù)雜的，通常需要3個月到半年，然后才能達(dá)到80%的解決率。專門配置這樣一個訓(xùn)練師，企業(yè)成本是非常高的。

但是有了大模型之后，新一代智能客服可以很好地解決這些痛點(diǎn)：

首先，大模型可以冷啟動，不需要標(biāo)注數(shù)據(jù)，只需要把客戶的業(yè)務(wù)知識維護(hù)進(jìn)去，就能達(dá)到很好的效果——回復(fù)人性化，接得上用戶的話題，能夠理解用戶的情緒等等。比如，一個用戶一開口就很生氣，新一代大模智能客服會先進(jìn)行安撫，然后再列出相應(yīng)的解決方案。因?yàn)樗軌蚋鶕?jù)用戶的情緒變化生成對應(yīng)的回復(fù)，所以用戶對話的流暢度體驗(yàn)就會很好，情緒價值也足夠。

再說流程類，就像前面提到的預(yù)定會議室的場景，大模型不需要固定的流程設(shè)置和窮舉話題。因?yàn)樗泻軓?qiáng)的推理能力，當(dāng)我們給到它對應(yīng)的提示詞工程，告訴它定會議室需要用戶提供哪些信息，大模型就可以自己去思考已經(jīng)拿到了哪些信息，還缺哪些信息，從而引導(dǎo)用戶給出完整的所需信息。就算中間用戶切換話題，大模型也可以繼續(xù)聊下去。

最后說成本，因?yàn)橛辛舜竽Ｐ?，就不再需要專門的機(jī)器訓(xùn)練師了，企業(yè)成本降低了，回答的準(zhǔn)確率還上升了。

比如，我們測試過一個保險客戶，對方提供了一個10萬字的測試資料，包括保險條款、規(guī)則制度等，整理出來有幾千個知識點(diǎn)。按照上一代智能客服的工作方式，光整理資料，最少就要一個星期，只能達(dá)到40%的解決率，后面還要不停的標(biāo)注。

但是新一代大模型智能客服，用大模型自動清理知識點(diǎn)，1天就可以完成工作，測試的解決率高達(dá)100%，上線后解決率也高達(dá)92%（即沒有轉(zhuǎn)接人工的比例）。

Q：容聯(lián)七陌率先在業(yè)內(nèi)發(fā)布了新一代大模型智能客服解決方案，能否介紹一下這個解決方案的產(chǎn)品功能和亮點(diǎn)？

A：融合容聯(lián)七陌已有的產(chǎn)品，我們推出了4款基于原生大模型的智能客服產(chǎn)品：

LLM文本機(jī)器人：接待IM渠道（網(wǎng)站、公眾號、APP等）接入的用戶需求；

LLM智能外呼 & LLM智能呼入：主要應(yīng)用在呼叫中心場景中。

LLM座席助手：輔助人工客服，比如生成回應(yīng)話術(shù)、自動生成服務(wù)小結(jié)、創(chuàng)建智能工單等。

這個解決方案最大的亮點(diǎn)，就是我們前面談到的基于原生大模型的理解能力、情緒感知能力。之所以這個方案可以取得很好的效果，關(guān)鍵就在于采用了“多Agent”的產(chǎn)品架構(gòu)。

Agent就是智能體，它是構(gòu)建于大模型之上的一個計算機(jī)的程序，可以模擬獨(dú)立思考的過程，靈活調(diào)用各類工具。為什么我們要采用多個Agent的產(chǎn)品架構(gòu)？我從客戶業(yè)務(wù)的角度來談一下：

例如，我們合作過一個教育行業(yè)頭部企業(yè)，它的客服主要有三類工作內(nèi)容：第一類是簡單的寒暄；第二類是回答業(yè)務(wù)的通用問題，比如APP頭像怎么修改；第三類是VIP業(yè)務(wù)，比如VIP權(quán)益介紹、使用、續(xù)費(fèi)等。

這三類工作是不同類型的任務(wù)，但又是多任務(wù)混合。要解決每一類任務(wù)，對應(yīng)到產(chǎn)品結(jié)構(gòu)上，就是一個具體的業(yè)務(wù)場景，匹配一個單一的Agent。通過這個Agent感知、思考、行動，然后來完成對應(yīng)的單一任務(wù)，這樣效果更好。所以要完成復(fù)雜的任務(wù)，就需要多個Agent的架構(gòu)，通過不同的Agent去解決不同業(yè)務(wù)場景的問題，這樣的架構(gòu)能夠很好地提升準(zhǔn)確率。

Q：請進(jìn)一步談?wù)勅萋?lián)七陌是如何提升智能客服回復(fù)的準(zhǔn)確率？例如，針對大模型幻覺等問題，如何保證智能客服給出的答復(fù)一定是準(zhǔn)確的？如何判斷在什么場景下，是由大模型自動生成回復(fù)，還是由人工來回答？

A：第一，多Agent架構(gòu)，本身就提升了智能客服回復(fù)的準(zhǔn)確率。第二，提示詞工程，我們根據(jù)客戶的實(shí)際業(yè)務(wù)去抽象了很多提示詞，在工程上進(jìn)一步提升準(zhǔn)確率。

那么如何判斷在什么場景下，是由機(jī)器還是人工來回復(fù)？

如果只是簡單知識點(diǎn)或者推理，直接由大模型來回復(fù)就可以了。這里我主要談?wù)剰?fù)雜推理的場景下，該如何處理？

例如，在保險業(yè)務(wù)中，對于能否投保的判斷是非常復(fù)雜的，如果不理解業(yè)務(wù)，光有知識點(diǎn)，是很難做出這種復(fù)雜推理的。所以針對大模型復(fù)雜推理場景，我們設(shè)計了三個功能模塊：

一是知識詞典，就是補(bǔ)充保險條款中的細(xì)節(jié)知識點(diǎn)，讓大模型能夠去推理。

二是最佳實(shí)踐，就是給大模型一些示例參考，進(jìn)一步提升推理的效果。

三是二次復(fù)核，就是去復(fù)核大模型生成的回答是否準(zhǔn)確，是否能解決用戶的問題，是否包含違禁詞等等，這也是對大模型幻覺的一個檢驗(yàn)機(jī)制。一旦發(fā)現(xiàn)大模型生成的回復(fù)有問題，我們也有配套的策略，比如馬上轉(zhuǎn)人工或者進(jìn)入（Ask Human Help）托管模式。

除此之外，我們也有專門的功能模塊，讓大模型自動對人工客服的服務(wù)記錄進(jìn)行學(xué)習(xí)，這也是提升大模型效果很重要的一點(diǎn)。

Q：容聯(lián)七陌新一代大模型智能客服，在不同行業(yè)和不同場景中的落地效果如何？

A：目前我們已經(jīng)在多個業(yè)務(wù)場景中進(jìn)行了落地測試：

第一，售前的營銷套電場景。在某家居家裝公司中，使用大模型智能客服替代傳統(tǒng)流程式機(jī)器人，目前大模型機(jī)器人可以自然接住用戶的話題，采用先聊天，再委婉請用戶留下資料的方式，將留資率從21%提升到了32.91%。

第二，外呼邀約場景。依然以這個家居家裝公司為例，通過外呼機(jī)器人對留資客戶進(jìn)行回訪邀約。傳統(tǒng)外呼機(jī)器人需要投入大量人力對流程、話術(shù)、知識點(diǎn)、意圖等進(jìn)行訓(xùn)練，準(zhǔn)確率不高，話術(shù)也固定，用戶體驗(yàn)一般。但是大模型外呼機(jī)器人可以根據(jù)上下文語義判斷客戶意向等級、自動小結(jié)標(biāo)簽等，將客戶意向度提高了23%，信息抓取準(zhǔn)確度也提高了46%。

第三，客服場景。在某大型企業(yè)內(nèi)部的HRSSC服務(wù)中，員工提問涉及大量的公司規(guī)定、社保、公積金等問題，知識來源形式復(fù)雜，并且具有時效性。如果全部使用HR人工答疑，其他工作就忙不過來了。使用大模型智能客服后，可以極大緩解HR的工作壓力，HRSSC解決率高達(dá)97%。

第四，呼入接待場景。某保險公司使用傳統(tǒng)呼入機(jī)器人，為用戶答疑頭部流程、理賠等，但解決率不到30%，轉(zhuǎn)人工接聽，無法滿足24小時服務(wù)，且人手不足。使用大模型智能客服后，實(shí)現(xiàn)了24小時接聽服務(wù)，且解決率提升至92.02%，大大緩解了人工壓力。

Q：容聯(lián)七陌新一代大模型智能客服方案，是否為標(biāo)準(zhǔn)化產(chǎn)品？如何滿足不同客戶的個性化需求？

A：我們依然采用SaaS模式的標(biāo)準(zhǔn)化產(chǎn)品，因?yàn)橐粋€企業(yè)想要私有化部署大模型，成本是難以承受的。所以在產(chǎn)品的功能設(shè)計上，我們采用了靈活可配置的SaaS模式，同時也設(shè)置了很多低代碼模板，方便客戶根據(jù)自身業(yè)務(wù)去做搭建。

不同行業(yè)和場景的客戶在使用容聯(lián)七陌大模型智能客服時，可以直接采用我們推出的4款新產(chǎn)品，也可以通過靈活配置Agent來滿足個性化的業(yè)務(wù)需求。

Q：市面上有多款大模型智能客服產(chǎn)品，同樣是基于大模型技術(shù)，為什么體現(xiàn)出來的“智能”效果并不相同？決定“智能”效果的因素有哪些？

A：并不是有了大模型，智能客服就一定“智能”，通用大模型是否用得起來，產(chǎn)品應(yīng)用層很重要。容聯(lián)七陌的智能客服之所以“智能”，和我們采用多Agent模型的產(chǎn)品架構(gòu)，以及客服領(lǐng)域的豐富經(jīng)驗(yàn)密不可分。這種經(jīng)驗(yàn)就包括如何讓大模型理解客戶業(yè)務(wù)場景，如何設(shè)計功能模塊去解決問題，如何讓大模型越用越智能等等，是一種技術(shù)和行業(yè)應(yīng)用的結(jié)合。

我們也看到很多同行在探索智能客服的大模型應(yīng)用，但大模型只是作為某種功能輔助，比如提升會話小結(jié)的效率、提升訓(xùn)練師的工作效率等，其實(shí)是拿大模型輔助去提升上一代智能客服的效率，沒有從根本上改變上一代智能客服的痛點(diǎn)。這也是為什么我們強(qiáng)調(diào)原生大模型的智能客服，它和上一代智能客服的體驗(yàn)和效率完全不在一個級別。

Q：目前智能客服領(lǐng)域都在研究大模型Agent的落地路徑，它的競爭壁壘在哪里？容聯(lián)七陌的優(yōu)勢是什么？

A：容聯(lián)七陌從2023年底就確定了大模型Agent的路徑，算是國內(nèi)智能客服行業(yè)最早一批確立落地方向的企業(yè)。前面談到了容聯(lián)七陌在多Agent、提示詞工程、功能設(shè)計等多個方面的探索，主要體現(xiàn)了產(chǎn)品和技術(shù)的競爭力。

例如，容聯(lián)七陌獨(dú)創(chuàng)的Ask Human Help托管模式，就是用大模型機(jī)器人全程接待，告別了直接轉(zhuǎn)人工的模式。

在以往的客服人機(jī)協(xié)同模式中，機(jī)器轉(zhuǎn)人工是能明顯感知到的，而且人工回答完之后沒法再轉(zhuǎn)接給機(jī)器，客戶體驗(yàn)和人工成本都不好。但是有了Ask Human Help托管模式，用戶不再使用點(diǎn)選按鈕的交互，而是直接用自然語言就可以交流，所以用戶感知不到對面是機(jī)器人在服務(wù)。當(dāng)大模型答不上來時，會轉(zhuǎn)給人工客服，但人工只需要回答轉(zhuǎn)進(jìn)來的這一條消息，就可以立即再轉(zhuǎn)回給大模型。

在這種轉(zhuǎn)變下，人工客服的工作量從“會話級別”下降到“消息級別”，每個客戶的會話服務(wù)時長可能從平均10分鐘下降到1分鐘內(nèi)，那么同等數(shù)量下的人工客服就能接待更多的客戶。對于客戶來說，服務(wù)的體驗(yàn)也更好了，解決問題的效率也更高了。無論對于企業(yè)還是客戶，在這種模式下都是受益的。

除此之外，容聯(lián)七陌還有很重要的一個競爭優(yōu)勢，就是我們深耕客服領(lǐng)域已經(jīng)有十年了，在客服解決方案的各個環(huán)節(jié)做了很多設(shè)計和優(yōu)化，能夠充分貼合各行業(yè)客戶的客服場景應(yīng)用，比如將客服系統(tǒng)和人力、工單等業(yè)務(wù)系統(tǒng)做了集成。所以容聯(lián)七陌的大模型智能客服Agent解決方案，不僅是單一產(chǎn)品，而是一整套解決方案，涵蓋售前、售中、售后的全部場景。

同時，容聯(lián)七陌有多年的行業(yè)服務(wù)經(jīng)驗(yàn)，把行業(yè)客戶的痛點(diǎn)、實(shí)施落地踩的坑都摸過一遍，所以我們?yōu)榭蛻粼O(shè)計的解決方案能達(dá)到比較好的效果，而且客戶需求設(shè)計、方案設(shè)計、實(shí)施、培訓(xùn)、服務(wù)都跟得上。

Q：圍繞智能客服Agent，未來容聯(lián)七陌還將在哪些方向上進(jìn)行探索？

A：我們將繼續(xù)增強(qiáng)產(chǎn)品的智能性和問題解決能力，持續(xù)探索大模型準(zhǔn)確率的提升。同時，也會關(guān)注大模型多模態(tài)技術(shù)的發(fā)展，如ASR、TTS、音色克隆等，將大模型的不同技術(shù)應(yīng)用到智能客服產(chǎn)品中去。

在市場應(yīng)用上，目前容聯(lián)七陌智能客服已覆蓋了多個行業(yè)，未來期待新一代大模型智能客服能夠應(yīng)用到更廣泛的行業(yè)和場景中，助力更多行業(yè)客戶降本增效，提升客戶服務(wù)和營銷體驗(yàn)。

【關(guān)于科技云報到】

企業(yè)級IT領(lǐng)域Top10新媒體。聚焦云計算、人工智能、大模型、網(wǎng)絡(luò)安全、大數(shù)據(jù)、區(qū)塊鏈等企業(yè)級科技領(lǐng)域。原創(chuàng)文章和視頻獲工信部權(quán)威認(rèn)可，是世界人工智能大會、數(shù)博會、國家網(wǎng)安周、可信云大會與全球云計算等大型活動會議的官方指定傳播媒體之一。

審核編輯 黃宇