閑聊型機器人 - 如何成為一名對話系統(tǒng)工程師

真實應用中，用戶與系統(tǒng)交互的過程中不免會涉及到閑聊成分。閑聊功能可以讓對話機器人更有情感和溫度。閑聊機器人（Chitchat-Bot）通常使用機器翻譯中的深度學習seq2seq框架來產(chǎn)生答復，如圖4。

圖4 Chitchat-Bot的seq2seq模型框架

與機器翻譯不同的是，對話中用戶本次query提供的信息通常不足以產(chǎn)生合理的答復，對話的歷史背景信息同樣很重要。例如圖4中的query：“今天心情極度不好！”，用戶可能是因為前幾天出游累的腰酸背痛才心情不好的，這時答復“出去玩玩吧”就不合情理。研究發(fā)現(xiàn)，標準的seq2seq+attention模型還容易產(chǎn)生安全而無用的答復，如“我不知道”，“好的”。

為了讓產(chǎn)生的答復更多樣化、更有信息量，很多學者做了諸多探索。Jiwei Li等人的論文“Deep Reinforcement Learning for Dialogue Generation”就建議在訓練時考慮讓答復引入新信息，保證語義連貫性等因素。Iulian V. Serban等人的論文“Building End-To-End Dialogue Systems Using Generative Hierarchical Neural Network Models”在產(chǎn)生答復時不只使用用戶當前query的信息，還利用層級RNN把之前對話的背景信息也加入進來。Jun Yin等人的論文“Neural Generative Question Answering”在產(chǎn)生答復時融合外部的知識庫信息。

上面的各種機器人都是為解決某類特定問題而被提出的，我們前面也分開介紹了各個機器人的主要組件。但這其中的不少組件在多種機器人里都是存在的。例如知識圖譜在檢索型、任務型和閑聊型機器人里也都會被使用。

真實應用中通常會包含多個不同類型的機器人，它們協(xié)同合作，解答用戶不同類型的問題。我們把協(xié)調(diào)不同機器人工作的機器人稱之為路由機器人（Route-Bot）。路由機器人根據(jù)歷史背景和當前query，決定把問題發(fā)送給哪些機器人，以及最終使用哪些機器人的答復作為提供給用戶的最終答復。圖5為框架圖。

圖5 Route-Bot框架圖 對話機器人現(xiàn)狀

對話機器人歷史悠久，從1966年MIT的精神治療師機器人ELIZA到現(xiàn)在已有半個世紀。但現(xiàn)代意義的機器人其實還很年輕。檢索型單輪對話機器人得益于搜索引擎的商業(yè)成功和信息檢索的快速發(fā)展，目前技術(shù)上已經(jīng)比較成熟。最近學術(shù)界和工業(yè)界也積極探索深度學習技術(shù)如Word2vec、CNN和RNN等在檢索型機器人中的使用，進一步提升了系統(tǒng)精度。雖然技術(shù)上較為成熟，但在實際應用中檢索型機器人還存在不少其他問題。例如，很多企業(yè)歷史上積累了大量非結(jié)構(gòu)化數(shù)據(jù)，但這些數(shù)據(jù)并不能直接輸進檢索型機器人，而是需要事先通過人工整理。即便有些企業(yè)存在一些回答對的數(shù)據(jù)可以直接輸入檢索型機器人，但數(shù)量往往只有幾十到幾百條，非常少?？捎脭?shù)據(jù)的質(zhì)量和數(shù)量限制了檢索型機器人的精度和在工業(yè)界的廣泛使用。

相較于檢索型機器人，知識圖譜型機器人更加年輕。大多數(shù)知識圖譜型機器人還只能回答簡單推理的事實類問題。這其中的一個原因是構(gòu)建準確度高且覆蓋面廣的知識圖譜極其困難，需要投入大量的人力處理數(shù)據(jù)。深度學習模型如Memory Networks等的引入可以繞過或解決這個難關(guān)嗎？

任務型多輪對話機器人只有十來年的發(fā)展歷史，目前已能較好地解決確定性高的多輪任務。但當前任務型機器人能正常工作的場景往往過于理想化，用戶說的話大部分情形下都無法精確表達成act-slot-value三元組，所以在這個基礎(chǔ)上構(gòu)建的后續(xù)流程就變得很脆弱。很多學者提出了各種端到端的研究方案，試圖提升任務型機器人的使用魯棒性。但這些方案基本都需要利用海量的歷史對話數(shù)據(jù)進行訓練，而且效果也并未在真實復雜場景中得到過驗證。

開域閑聊型機器人是目前學術(shù)界的寵兒，可能是因為可改進的地方實在太多吧。純粹的生成式模型在答復格式比較確定的應用中效果已經(jīng)不錯，可以應用于生產(chǎn)環(huán)境；但在答復格式非常靈活的情況下，它生成的答復連通順性都未必能保證，更不用說結(jié)果的合理性。生成模型的另一個問題是它的生成結(jié)果可控性較低，效果優(yōu)化也并不容易。但這方面的學術(shù)進展非常快速，很多學者已經(jīng)在探索深度增強學習、GAN等新算法框架在其上的使用效果。

雖然目前對話機器人能解決的問題非常有限，短期內(nèi)不可能替代人完成較復雜的工作。但這并不意味著我們無法在生成環(huán)境中使用對話機器人。尋找到適宜的使用場景，對話機器人仍能大幅提升商業(yè)效率。截止到目前，愛因互動已經(jīng)成功把對話機器人應用于智能投顧、保險、理財?shù)蠕N售轉(zhuǎn)化場景，也在電商產(chǎn)品的對話式發(fā)現(xiàn)和推薦中驗證了對話機器人的作用。

如果一個對話機器人與真人能順利溝通且不被真人發(fā)現(xiàn)自己是機器人，那么就說這個機器人通過了圖靈測試。當然目前的對話機器人技術(shù)離這個目標還很遠，但我們正在逐漸接近這個目標。隨著語音識別，NLP等技術(shù)的不斷發(fā)展，隨著萬物互聯(lián)時代的到來，對話機器人的舞臺將會越來越大。

作者簡介：
吳金龍，2017年初作為合伙人加入愛因互動，負責算法部門工作。北京大學博士，畢業(yè)后先后加入阿里云、世紀佳緣，作為世紀佳緣資深總監(jiān)，負責佳緣數(shù)據(jù)和AI相關(guān)工作，開發(fā)了中文對話機器人創(chuàng)建平臺“一個AI”。