[發明專利]一種文本匹配優化方法及裝置

有效

• 申請號: 202110611429.4
• 申請日: 2021-06-02
• 公開（公告）號: CN113051374B
• 公開（公告）日: 2021-08-31
• 發明（設計）人: 李偉
• 申請（專利權）人: 北京沃豐時代數據科技有限公司
• 主分類號: G06F16/33
• 分類號: G06F16/33;G06F16/332;G06F16/35;G06F16/36;G06N3/04;G06N3/08
• 代理公司: 北京路浩知識產權代理有限公司 11002
• 代理人: 郭亮

1.一種文本匹配優化方法，其特征在于，包括：

獲取待匹配的問題文本內容；

將所述問題文本內容輸入到訓練好的文本匹配模型，得到所述問題文本內容的相似問句文本，所述訓練好的文本匹配模型是由客服領域的樣本語料數據和所述樣本語料數據對應的樣本知識圖譜，對預訓練的語言模型進行訓練得到的；

所述訓練好的文本匹配模型通過以下步驟得到：

根據客服領域的樣本語料數據，獲取客服與客戶之間歷史對話記錄產生的客戶樣本問句；

根據所述客戶樣本問句和預設文本語料知識庫，構建訓練樣本集；

根據所述訓練樣本集中的樣本數據，生成客服領域的樣本知識圖譜，其中，所述樣本知識圖譜是根據實體類型、實體關系以及問句意圖類型生成的；

根據所述訓練樣本集和所述樣本知識圖譜，對預訓練的語言模型進行訓練，得到訓練好的文本匹配模型。

2.根據權利要求1所述的文本匹配優化方法，其特征在于，所述根據所述客戶樣本問句和預設文本語料知識庫，構建訓練樣本集，包括：

根據預設文本語料知識庫的知識庫樣本問句和所述客戶樣本問句，構建樣本問句對，并為所述樣本問句對標記匹配類型和實體關系，得到第一訓練樣本；

根據所述知識庫樣本問句，從所述預設文本語料知識庫中獲取對應的樣本相似問句，并根據所述知識庫樣本問句和所述樣本相似問句，得到第二訓練樣本；

根據客戶歷史問答反饋數據，對所述樣本問句對標注正負樣本標簽，得到第三訓練樣本；

根據所述第一訓練樣本、所述第二訓練樣本和所述第三訓練樣本，構建訓練樣本集。

3.根據權利要求2所述的文本匹配優化方法，其特征在于，所述根據所述訓練樣本集中的樣本數據，生成客服領域的樣本知識圖譜，包括：

根據所述第一訓練樣本，獲取所述樣本問句對中的實體類型、實體關系和問句意圖類型；

根據所述實體類型、所述實體關系和所述問句意圖類型，生成客服領域的樣本知識圖譜。

4.根據權利要求1所述的文本匹配優化方法，其特征在于，在所述根據所述訓練樣本集和所述樣本知識圖譜，對預訓練的語言模型進行訓練，得到訓練好的文本匹配模型之前，所述方法還包括：

在預訓練的語言模型的詞嵌入層中添加詞邊界信息和知識圖譜嵌入信息，得到改進后的語言模型；

其中，所述詞邊界信息是對分詞處理后的中文語句進行編碼得到的，所述知識圖譜嵌入信息是根據樣本知識圖譜中的意圖實體生成的。

5.根據權利要求1所述的文本匹配優化方法，其特征在于，所述預訓練的語言模型的輸出層依次連接1個卷積層和1個全連接層。

6.一種文本匹配優化裝置，其特征在于，包括：

問題獲取模塊，用于獲取待匹配的問題文本內容；

相似問句匹配模塊，用于將所述問題文本內容輸入到訓練好的文本匹配模型，得到所述問題文本內容的相似問句文本，所述訓練好的文本匹配模型是由客服領域的樣本語料數據和所述樣本語料數據對應的樣本知識圖譜，對預訓練的語言模型進行訓練得到的；

所述裝置還包括：

樣本問句獲取模塊，用于根據客服領域的樣本語料數據，獲取客服與客戶之間歷史對話記錄產生的客戶樣本問句；

訓練集構建模塊，用于根據所述客戶樣本問句和預設文本語料知識庫，構建訓練樣本集；

圖譜生成模塊，用于根據所述訓練樣本集中的樣本數據，生成客服領域的樣本知識圖譜，其中，所述樣本知識圖譜是根據實體類型、實體關系以及問句意圖類型生成的；

訓練模塊，用于根據所述訓練樣本集和所述樣本知識圖譜，對預訓練的語言模型進行訓練，得到訓練好的文本匹配模型。

7.一種電子設備，包括存儲器、處理器及存儲在所述存儲器上并可在所述處理器上運行的計算機程序，其特征在于，所述處理器執行所述計算機程序時實現如權利要求1至5任一項所述文本匹配優化方法的步驟。

8.一種非暫態計算機可讀存儲介質，其上存儲有計算機程序，其特征在于，所述計算機程序被處理器執行時實現如權利要求1至5任一項所述文本匹配優化方法的步驟。