[發明專利]語句識別方法及裝置

有效

• 申請號: 201910926305.8
• 申請日: 2019-09-27
• 公開（公告）號: CN110674314B
• 公開（公告）日: 2022-06-28
• 發明（設計）人: 韓磊;張紅陽
• 申請（專利權）人: 北京百度網訊科技有限公司
• 主分類號: G06F16/36
• 分類號: G06F16/36;G06F40/295;G06N3/02;G06N3/08
• 代理公司: 北京清亦華知識產權代理事務所(普通合伙) 11201
• 代理人: 王萌

1.一種語句識別方法，其特征在于，包括：

獲取待識別的語句以及對應的特征信息，所述特征信息包括：所述語句的分詞結果、詞性識別結果以及實體識別結果；

獲取訓練好的對話理解模型，所述對話理解模型包括：主干神經網絡，與所述主干神經網絡連接的槽位分支，與所述主干神經網絡連接的池化層，與所述池化層分別連接的意圖分支和意圖槽位關系分支；

將所述特征信息輸入訓練好的對話理解模型，獲取所述語句的意圖和槽位；其中，所述槽位分支包括：依次連接的第一全連接層和條件隨機場網絡，其中，所述第一全連接層用于對隱層狀態向量進行降維處理，條件隨機場網絡用于獲取分詞結果中各個分詞的槽位類型；

所述意圖分支包括：依次連接第二全連接層和第一分類網絡，其中，所述第二全連接層用于在池化層對隱層狀態向量進行處理得到池化向量后，對池化向量進行降維處理，所述第一分類網絡用于對降維后的池化向量進行分類，確定意圖；

所述意圖槽位關系分支包括：依次連接的第三全連接層和第二分類網絡，其中，所述第三全連接層用于對池化向量進行降維處理， 所述第二分類網絡用于對降維后的池化向量進行分類，確定意圖槽位關系向量。

2.根據權利要求1所述的方法，其特征在于，

所述主干神經網絡包括：依次連接的嵌入層、向量拼接層和雙向神經網絡。

3.根據權利要求1所述的方法，其特征在于，所述將所述特征信息輸入訓練好的對話理解模型，獲取所述語句的意圖和槽位，包括：

將所述特征信息輸入訓練好的對話理解模型，獲取所述語句的意圖，以及所述分詞結果中各個分詞的槽位類型；

根據所述分詞結果中各個分詞的槽位類型，確定所述語句的槽位。

4.根據權利要求1所述的方法，其特征在于，所述獲取訓練好的對話理解模型，包括：

獲取訓練數據和初始的對話理解模型，所述訓練數據包括：多個語句樣本，語句樣本對應的特征信息，以及語句樣本的實際意圖和實際槽位；

采用所述訓練數據對初始的對話理解模型進行訓練，直至目標函數的數值小于預設閾值，得到訓練好的對話理解模型；所述目標函數結合意圖分支、槽位分支和意圖槽位關系分支的輸出建立。

5.一種語句識別裝置，其特征在于，包括：

獲取模塊，用于獲取待識別的語句以及對應的特征信息，所述特征信息包括：所述語句的分詞結果、詞性識別結果以及實體識別結果；

所述獲取模塊，還用于獲取訓練好的對話理解模型，所述對話理解模型包括：主干神經網絡，與所述主干神經網絡連接的槽位分支，與所述主干神經網絡連接的池化層，與所述池化層分別連接的意圖分支和意圖槽位關系分支，其中，所述槽位分支包括：依次連接的第一全連接層和條件隨機場網絡，其中，所述第一全連接層用于對隱層狀態向量進行降維處理，條件隨機場網絡用于獲取分詞結果中各個分詞的槽位類型；

所述意圖分支包括：依次連接第二全連接層和第一分類網絡，其中，所述第二全連接層用于在池化層對隱層狀態向量進行處理得到池化向量后，對池化向量進行降維處理，所述第一分類網絡用于對降維后的池化向量進行分類，確定意圖；

所述意圖槽位關系分支包括：依次連接的第三全連接層和第二分類網絡，其中，所述第三全連接層用于對池化向量進行降維處理， 第二分類網絡用于對降維后的池化向量進行分類，確定意圖槽位關系向量；

輸入模塊，用于將所述特征信息輸入訓練好的對話理解模型，獲取所述語句的意圖和槽位。

6.根據權利要求5所述的裝置，其特征在于，

所述主干神經網絡包括：依次連接的嵌入層、向量拼接層和雙向神經網絡。

7.根據權利要求5所述的裝置，其特征在于，所述輸入模塊具體用于，

將所述特征信息輸入訓練好的對話理解模型，獲取所述語句的意圖，以及所述分詞結果中各個分詞的槽位類型；

根據所述分詞結果中各個分詞的槽位類型，確定所述語句的槽位。