對話機器人創建平臺 - 如何成為一名對話系統工程師

如果你只是想把一個功能較簡單的對話機器人（Bot）應用于自己的產品，Bot創建平臺是最好的選擇。Bot創建平臺幫助沒有人工智能技術積累的用戶和企業快速創建對話機器人，國外比較典型的Bot創建平臺有Facebook的Wit.ai和Google的Dialogflow（前身為Api.ai），國內也有不少創業團隊在做這方面的事，比如一個AI、知麻、如意等。

檢索型單輪對話機器人

檢索型單輪機器人（FQA-Bot）涉及到的技術和信息檢索類似，流程圖2所示。

圖2 FAQ-Bot流程圖

因為query和候選答案包含的詞都很少，所以會利用同義詞和復述等技術對query和候選答案進行擴展和改寫。詞表示工具Word2vec、GloVe、Fasttext等可以獲得每個詞的向量表示，然后使用這些詞向量計算每對詞之間的相似性，獲得同義詞候選集。當然同義詞也可以通過已經存在的結構化知識源如WordNet、HowNet等獲得。復述可以使用一些半監督方法如DIRT在單語語料上進行構建，也可以使用雙語語料進行構建。PPDB網站包含了很多從雙語語料構建出來的復述數據集。

知識圖譜型機器人

知識圖譜型機器人（KG-Bot，也稱為問答系統），利用知識圖譜進行推理并回答一些事實型問題。知識圖譜通常把知識表示成三元組—— (主語、關系、賓語) ，其中關系表示主語和賓語之間存在的某種關系。

構建通用的知識圖譜非常困難，不建議從0開始構建。我們可以直接使用一些公開的通用知識圖譜，如YAGO、DBpedia、CN-DBpedia、Freebase等。特定領域知識圖譜的構建可參考“知識圖譜技術原理介紹”（），“最全知識圖譜綜述#1: 概念以及構建技術”（ https://mp.weixin.qq.com/s/aFjZ3mKcJGszHKtMcO2zFQ）等文章。知識圖譜可以使用圖數據庫存儲，如Neo4j、OrientDB等。當然如果數據量小的話MySQL、SQLite也是不錯的選擇。

為了把用戶query映射到知識圖譜的三元組上，通常會使用到實體鏈接（把query中的實體對應到知識圖譜中的實體）、關系抽?。ㄗR別query中包含的關系）和知識推理（query可能包含多個而不是單個關系，對應知識圖譜中的一條路徑，推理就是找出這條路徑）等技術。

任務型多輪對話機器人

任務型多輪機器人（Task-Bot）通過多次與用戶對話交互來輔助用戶完成某項明確具體的任務，流程圖見圖3。

圖3 Task-Bot流程圖

除了與語音交互的ASR和TTS部分，它包含以下幾個流程：

語言理解（SLU）：把用戶輸入的自然語言轉變為結構化信息——act-slot-value三元組。例如餐廳訂座應用中用戶說“訂云海肴中關村店”，我們通過NLU把它轉化為結構化信息：“inform(order_op=預訂, restaurant_name=云海肴, subbranch=中關村店)”，其中的“inform”是動作名稱，而括號中的是識別出的槽位及其取值。
NLU可以使用語義解析或語義標注的方式獲得，也可以把它分解為多個分類任務來解決，典型代表是Semantic Tuple Classifier（STC）模型。

對話管理（DM）：綜合用戶當前query和歷史對話中已獲得的信息后，給出機器答復的結構化表示。對話管理包含兩個模塊：對話狀態追蹤（DST）和策略優化（DPO）。
DST維護對話狀態，它依據最新的系統和用戶行為，把舊對話狀態更新為新對話狀態。其中對話狀態應該包含持續對話所需要的各種信息。
DPO根據DST維護的對話狀態，確定當前狀態下機器人應如何進行答復，也即采取何種策略答復是最優的。這是典型的增強學習問題，所以可以使用DQN等深度增強學習模型進行建模。系統動作和槽位較少時也可以把此問題視為分類問題。

自然語言產生（NLG）：把DM輸出的結構化對話策略還原成對人友好的自然語言。簡單的NLG方法可以是事先設定好的回復模板，復雜的可以使用深度學習生成模型，如“Semantically Conditioned LSTM”通過在LSTM中加入對話動作cell輔助答復生成。
任務型對話機器人最權威的研究者是劍橋大學的Steve Young教授，強烈推薦他的教程“Statistical Spoken Dialogue Systems”。他的諸多博士生針對上面各個流程都做了很細致的研究，想了解細節的話可以參考他們的博士論文。相關課程可參考Milica Ga?i?的“Speech and Language Technology”。
除了把整個問題分解成上面幾個流程分別優化，目前很多學者也在探索使用端到端技術整體解決這個問題，代表工作有Tsung-Hsien Wen等人的“A Network-based End-to-End Trainable Task-Oriented Dialogue System”和Xiujun Li等人的“End-to-End Task-Completion Neural Dialogue Systems”。后一篇的開源代碼https://github.com/MiuLab/TC-Bot，非常值得學習。