[發明專利]一種基于FSM多輪問答的語義相似度計算方法

在審

• 申請號: 201911183824.6
• 申請日: 2019-11-27
• 公開（公告）號: CN111046155A
• 公開（公告）日: 2020-04-21
• 發明（設計）人: 王黎成;高陽
• 申請（專利權）人: 中博信息技術研究院有限公司
• 主分類號: G06F16/332
• 分類號: G06F16/332;G06F16/33;G06K9/62;G06F40/126
• 代理公司: 南京泰普專利代理事務所(普通合伙) 32360
• 代理人: 竇賢宇

本發明公開了一種基于FSM多輪問答的語義相似度計算方法，利用基于FSM多輪問答的語義相似度計算方法，根據用戶輸入問題，將其和知識庫問答對數據帶入到Transformer DSSM語義相似度計算模型中進行多輪匹配，并返回候選答案給用戶，解決傳統的客服系統在面對服務峰值人數不足，低谷人數不足的情況下，往往會消耗大量人力資源的問題，并提高用戶獲取相關領域中常見問題的答案的效率。

技術領域

本發明涉及一種在電信智能客服系統中用于提高問答對匹配速度和精度的方法——基于FSM多輪問答的語義相似度計算方法。

背景技術

自然語言處理是計算機科學領域與人工智能領域中的一個重要方向。它研究能實現人與計算機之間用自然語言進行有效通信的各種理論和方法。是計算機科學，人工智能，語言學關注計算機和人類(自然)語言之間的相互作用的領域。由于傳統的人工客服系統在面對服務峰值人數不足，低谷人數不足的情況下，往往會消耗大量人力資源。因此，自然語言處理在智能客服問答系統中的應用，一方面能夠提高用戶獲取相關領域中常見問題的答案的效率，另一方面能夠解決傳統人工客服響應速度慢，成本高等問題。

深度學習中一種基于數據進行表征學習的方法，其動機在于建立、模擬人腦進行分析學習的神經網絡，它模仿人腦的機制來解釋數據，例如圖像，聲音和文本。它能通過組合低層特征形成更加抽象的高層特征表示屬性類別或特征，以發現數據的分布式特征表示。在智能客服問答系統中，對于電信領域來說，由于存在大量常見問題及其對應答案的數據，通過對這些數據進行整理，形成知識庫，再引入深度學習中用來計算兩個句子對語義相似度的技術，根據用戶所輸入的問題，采用提前訓練好的語義相似度計算模型TransformerDSSM，在知識庫中匹配得到與用戶輸入問題最相近的答案，并輸出給用戶。

基于FSM多輪問答的語義相似度計算方法與傳統問答系統的主要區別在于系統能夠與用戶連續進行多次交流，每一次交流內容都是基于上一次，或前面幾次的交流結果來進行，其目的在于針對不熟悉業務的用戶，在每一輪問答過程中，逐步縮小用戶問題與知識庫中問題的匹配范圍，提高問答對匹配精度，從而引導用戶尋找到其所需要的答案。因此，在該基于FSM多輪問答的語義相似度計算方法中，除了需要對用戶所給問題進行相似度計算匹配以外，還需要根據用戶反饋結果，來決定是否采取下一輪問答過程。

發明內容

發明目的：本發明針對傳統的電信FAQ問答系統中，提出一種新的提高問答對匹配速度和精度的方法——在語義相似度計算模型的基礎上引入基于FSM的多輪問答，該方法不僅適用于電信領域的智能客服系統，還適應于其他具有大量問答對知識庫的垂直領域。

技術方案：本發明使用的基于FSM多輪問答的語義相似度計算方法包括兩個部分，即基于Transformer DSSM的語義相似度計算模型和和基于FSM的多輪問答。基于Transformer DSSM的語義相似度計算模型部分包括：(1)用Transformer代替傳統的雙向RNN來對輸入句子進行特征提取，從而加快模型訓練速度和問答對匹配速度；(2)使用DSSM來進行特征向量相似度計算，返回給用戶top-k個候選答案。基于FSM的多輪問答部分包括：(1)根據具體業務場景構建的用于多輪問答的FSM；(2)引入用戶問題類型判斷及反饋功能。

有益效果：本發明的顯著優點是利用基于FSM多輪問答的語義相似度計算方法，解決傳統的客服系統在面對服務峰值人數不足，低谷人數不足的情況下，往往會消耗大量人力資源的問題，并提高用戶獲取相關領域中常見問題的答案的效率。并且該方法不僅適用于電信領域的智能客服系統，還適應于其他具有大量問答對知識庫的垂直領域。

附圖說明

圖1 是本發明的總體結構圖。

圖2 是本發明的處理流程圖。

圖3 DSSM模型結構圖。

圖4 Transformer編碼器結構圖。