[發明專利]基于深度學習模型構建智能聊天平臺的方法及系統

在審

• 申請號: 202110094940.1
• 申請日: 2021-01-25
• 公開（公告）號: CN112784028A
• 公開（公告）日: 2021-05-11
• 發明（設計）人: 肖雪;榮廣勝;李國濤
• 申請（專利權）人: 浪潮云信息技術股份公司
• 主分類號: G06F16/332
• 分類號: G06F16/332;G06F40/216;G06N3/04;G06N3/08
• 代理公司: 濟南信達專利事務所有限公司 37100
• 代理人: 孫園園

本發明公開了一種基于深度學習模型構建智能聊天平臺的方法及系統，屬于深度學習及大數據處理領域，本發明要解決的技術問題為如何提高模型預測輸出語句的連貫性和積極性，提升用戶體驗，對外實現智能對話服務，采用的技術方案為：該方法具體如下：數據預處理：對從開源獲取到的聊天語料數據進行數據預處理并訓練詞袋模型；構建并訓練模型：構建深度學習模型seq2seq并對深度學習模型seq2seq進行訓練，對訓練后的深度學習模型seq2seq進行對話測試；對模型進行部署應用：根據訓練后的深度學習模型seq2seq進行部署應用。該系統包括預處理單元、構建及訓練單元和部署單元。

技術領域

本發明涉及深度學習及大數據處理領域，具體地說是一種基于深度學習模型構建智能聊天平臺的方法及系統。

背景技術

目前對話機器人是一個熱門話題，大家熟知的應用和產品主要有3種，具體如下：

①、虛擬助手：能對個人的輸入完成相應的任務或提供相應服務的產品，如Siri、Cortana、度秘等；

②、智能音箱：通過語音交互，完成用戶任務，也能對智能家具設備進行控制，典型的商業產品包括echo、天貓精靈、小愛同學；

③、閑聊對話：在開放領域與用戶進行閑聊，典型商業產品如：微軟小冰。

對話機器人的任務類型可以分為3類，具體如下：

第一類是任務型對話：主要解決如訂機票、定酒店等問題，涉及的技術包括語義理解、意圖識別、狀態追蹤、對話決策；

第二類是知識型對話：在壽險客服的場景里用戶可能會問“你這個保險要交多少錢？”，這類問題，涉及的技術包括文本表示、語義匹配、知識圖譜等；

第三類閑聊對話：用戶可能只想找人聊聊天，對話不涉及到知識或業務，比如說“今天天氣真好”，涉及到的技術包括文本生成模型、文本檢索、排序技術等。

以解決閑聊型任務為例，大家較為熟悉的使用seq2seq生成閑聊機器人。但普通seq2seq可能出現負面情感的回復、疑問句式的回復、回復的多樣性較低等問題，導致用戶體驗差，對話上下文不夠連貫。因此負面情感回復、疑問句式回復、回復多樣性低、一致性低，都是聊天機器人需要攻克的難點。

故如何提高模型預測輸出語句的連貫性和積極性，提升用戶體驗，對外實現智能對話服務是目前亟待解決的問題，

發明內容

本發明的技術任務是提供一種基于深度學習模型構建智能聊天平臺的方法及系統，來解決如何提高模型預測輸出語句的連貫性和積極性，提升用戶體驗，對外實現智能對話服務的問題。

本發明的技術任務是按以下方式實現的，一種基于深度學習模型構建智能聊天平臺的方法，該方法具體如下：

數據預處理：對從開源獲取到的聊天語料數據進行數據預處理并訓練詞袋模型；

構建并訓練模型：構建深度學習模型seq2seq并對深度學習模型seq2seq進行訓練，對訓練后的深度學習模型seq2seq進行對話測試；

對模型進行部署應用：根據訓練后的深度學習模型seq2seq進行部署應用。

作為優選，對從開源獲取到的聊天語料數據進行數據預處理具體如下：

結合語料實際情況和對話邏輯，對上下文語料中包含的特殊字符進行剔除；特殊字符包括表情、顏文字等字符；

對語料中上下文少于3個漢字的聊天語料進行刪除；

分別訓練語料中的上文模型和下文模型，篩選處聊天語料中詞頻大于5的token，保存上下文的詞袋模型，以供深度學習模型使用。

作為優選，所述深度學習模型seq2seq包括Encoder架構和Decoder架構。