[發明專利]一種意圖識別模型生成方法、意圖識別方法及裝置

在審

• 申請號: 201811290240.4
• 申請日: 2018-10-31
• 公開（公告）號: CN109657229A
• 公開（公告）日: 2019-04-19
• 發明（設計）人: 符文君
• 申請（專利權）人: 北京奇藝世紀科技有限公司
• 主分類號: G06F17/27
• 分類號: G06F17/27;G10L15/22;G10L15/26
• 代理公司: 北京潤澤恒知識產權代理有限公司 11319
• 代理人: 莎日娜

1.一種意圖識別模型生成方法，其特征在于，所述方法包括：

將訓練樣本集中的每個樣本文本輸入初始意圖識別模型；

根據每個所述樣本文本對應的每個樣本文本區域的樣本區域向量、樣本區域拼音向量以及樣本區域標簽向量，并利用所述初始意圖識別模型，確定每個所述樣本文本的預測意圖值；

基于每個所述樣本文本的預測意圖值以及每個樣本文本的真實意圖值，計算所述初始意圖識別模型的損失值；

當所述損失值在預設范圍內，將所述初始意圖識別模型作為意圖識別模型。

2.根據權利要求1所述的方法，其特征在于，所述計算所述初始意圖識別模型的損失值之后，所述方法還包括：

當所述損失值不在所述預設范圍內，調整所述初始意圖識別模型的參數，并基于所述訓練樣本集對調整后的初始意圖識別模型繼續訓練。

3.根據權利要求1所述的方法，其特征在于，所述將訓練樣本集中的每個樣本文本輸入初始意圖識別模型之前，所述方法還包括：

對初始意圖識別模型中各層的參數進行初始化；其中，所述初始意圖識別模型包括區域向量對齊層、區域向量注意力層、全連接層以及軟最大值softmax層；

所述區域向量對齊層的參數至少包括：每個樣本文本中每個樣本詞語的詞向量、拼音詞向量以及上下文詞向量矩陣，以及每個實體標簽的上下文詞向量矩陣。

4.根據權利要求3所述的方法，其特征在于，所述根據每個所述樣本文本對應的每個樣本文本區域的樣本區域向量、樣本區域拼音向量以及樣本區域標簽向量，并利用所述初始意圖識別模型，確定每個所述樣本文本的預測意圖值，包括：

對于每個所述樣本文本，將該樣本文本輸入所述區域向量對齊層，基于所述區域向量對齊層對該樣本文本進行劃分，得到該樣本文本對應的至少一個樣本文本區域；

對于每個所述樣本文本，提取該樣本文本對應的每個樣本文本區域的樣本區域向量、樣本區域拼音向量以及樣本區域標簽向量；

基于每個所述樣本文本對應的每個所述樣本文本區域的樣本區域向量、樣本區域拼音向量以及樣本區域標簽向量，確定每個所述樣本文本的預測意圖值。

5.根據權利要求4所述的方法，其特征在于，所述對于每個所述樣本文本，提取該樣本文本對應的每個樣本文本區域的樣本區域向量、樣本區域拼音向量以及樣本區域標簽向量，包括：

通過所述區域向量對齊層基于每個所述樣本文本區域中每個樣本詞語的詞向量，計算每個所述樣本文本區域的樣本區域向量；

通過所述區域向量對齊層基于每個所述樣本文本區域中每個樣本詞語的拼音詞向量，計算每個所述樣本文本區域的樣本區域拼音向量；

通過所述區域向量對齊層確定每個所述樣本文本區域中屬于目標領域的樣本詞語對應的實體標簽，并基于每個所述樣本文本區域中屬于目標領域的樣本詞語對應的實體標簽，計算每個所述樣本文本區域的樣本區域標簽向量。

6.根據權利要求5所述的方法，其特征在于，所述通過所述區域向量對齊層基于每個所述樣本文本區域中每個樣本詞語的詞向量，計算每個所述樣本文本區域的樣本區域向量，包括：

對于每個所述樣本文本區域，通過所述區域向量對齊層將該樣本文本區域中間位置的樣本詞語作為核心詞，確定所述核心詞的詞向量以及所述核心詞的上下文詞向量矩陣；

通過所述區域向量對齊層將所述上下文詞向量矩陣與鄰接文本區域中每個樣本詞語的詞向量進行第一點乘操作，并對所述第一點乘操作的結果進行最大池化，得到該樣本文本區域的區域向量。

7.根據權利要求5所述的方法，其特征在于，所述通過所述區域向量對齊層基于每個所述樣本文本區域中每個樣本詞語的拼音詞向量，計算每個所述樣本文本區域的樣本區域拼音向量，包括：

對于每個所述樣本文本區域，通過所述區域向量對齊層將該樣本文本區域中間位置的樣本詞語作為核心詞，確定所述核心詞的拼音詞向量以及所述核心詞的上下文拼音詞向量矩陣；

通過所述區域向量對齊層將所述上下文拼音詞向量矩陣與所述鄰接文本區域中每個樣本詞語的拼音詞向量進行第二點乘操作，并對所述第二點乘操作的結果進行最大池化，得到該樣本文本區域的區域拼音向量。