[發明專利]意圖識別模型的訓練方法及裝置、意圖識別方法及裝置

在審

• 申請號: 202011282073.6
• 申請日: 2020-11-16
• 公開（公告）號: CN112347760A
• 公開（公告）日: 2021-02-09
• 發明（設計）人: 樂雨泉;趙宇明;陳蒙
• 申請（專利權）人: 北京京東尚科信息技術有限公司;北京京東世紀貿易有限公司
• 主分類號: G06F40/211
• 分類號: G06F40/211;G06F40/279
• 代理公司: 中科專利商標代理有限責任公司 11021
• 代理人: 孫蕾

本公開提供了一種意圖識別模型的訓練方法及裝置、意圖識別方法及裝置。其中，訓練方法包括：獲取對話語料中的問題?問題對、問題?答案對和意圖類別；根據問題?問題對構建問題?問題相似度標注數據集，根據問題?答案對構建問題?答案相似度標注數據集，根據對話語料中的每輪句子和每輪句子對應的類別標簽構建意圖識別數據集；根據問題?問題相似度標注數據集和問題?答案相似度標注數據集構建句子的相似度任務損失函數，根據意圖識別數據集構建意圖識別任務損失函數；以及根據問題?問題相似度標注數據集、問題?答案相似度標注數據集和意圖識別數據集對句子的相似度任務損失函數和意圖識別任務損失函數進行優化訓練，得到意圖識別模型。

技術領域

本公開涉及計算機技術領域，更具體地，涉及一種意圖識別模型的訓練方法及訓練裝置、意圖識別方法及意圖識別裝置、以及計算機系統和計算機可讀存儲介質。

背景技術

隨著計算機、互聯網技術的快速發展，越來越多的智能化交互方式已逐漸深入日常生活。

智能化交互的一種體現在于，智能化產品或應用可以理解用戶需求，并依據需求為用戶提供適當的響應。例如在客服場景的問答系統中，可以根據用戶輸入的句子識別用戶的意圖，并為用戶提供合適的回應。

但在實現本公開構思的過程中，發明人發現相關技術中至少存在如下問題，通過單一的任務數據訓練得到模型，導致模型學習的表征缺乏一定泛化能力，以至于模型的意圖識別性能較弱。

發明內容

有鑒于此，本公開提供了一種意圖識別模型的訓練方法及訓練裝置、意圖識別方法及意圖識別裝置、以及計算機系統和計算機可讀存儲介質。

本公開的一個方面提供了一種意圖識別模型的訓練方法，包括：獲取對話語料中的問題-問題對、問題-答案對和意圖類別，其中，所述意圖類別用于表征所述對話語料中的每輪句子的類別標簽；根據所述問題-問題對構建問題-問題相似度標注數據集，根據所述問題-答案對構建問題-答案相似度標注數據集，根據所述對話語料中的每輪句子和所述每輪句子對應的類別標簽構建意圖識別數據集；根據所述問題-問題相似度標注數據集和所述問題-答案相似度標注數據集構建句子的相似度任務損失函數，根據所述意圖識別數據集構建意圖識別任務損失函數；以及根據所述問題-問題相似度標注數據集、所述問題-答案相似度標注數據集和所述意圖識別數據集對所述句子的相似度任務損失函數和所述意圖識別任務損失函數進行優化訓練，得到所述意圖識別模型。

本公開的另一個方面提供了一種意圖識別方法，包括：獲取意圖識別模型；以及通過所述意圖識別模型對待識別句子進行意圖識別；其中，所述意圖識別模型是通過如上所述的訓練方法訓練得到。

本公開的另一個方面提供了一種意圖識別模型的訓練裝置，包括：第一獲取模塊，用于獲取對話語料中的問題-問題對、問題-答案對和意圖類別，其中，所述意圖類別用于表征所述對話語料中的每輪句子的類別標簽；數據集構建模塊，包括：第一數據集構建單元，用于根據所述問題-問題對構建問題-問題相似度標注數據集；第二數據集構建單元，用于根據所述問題-答案對構建問題-答案相似度標注數據集；第三數據集構建單元，用于根據所述對話語料中的每輪句子和所述每輪句子對應的類別標簽構建意圖識別數據集；損失函數構建模塊，包括：第一損失函數構建單元，用于根據所述問題-問題相似度標注數據集和所述問題-答案相似度標注數據集構建句子的相似度任務損失函數；第二損失函數構建單元，用于根據所述意圖識別數據集構建意圖識別任務損失函數；以及訓練模塊，用于根據所述問題-問題相似度標注數據集、所述問題-答案相似度標注數據集和所述意圖識別數據集對所述句子的相似度任務損失函數和所述意圖識別任務損失函數進行優化訓練，得到所述意圖識別模型。

本公開的另一個方面提供了一種意圖識別裝置，包括：第二獲取模塊，用于獲取意圖識別模型；以及識別模塊，用于通過所述意圖識別模型對待識別句子進行意圖識別；其中，所述意圖識別模型是通過如上所述的訓練方法訓練得到。