[發明專利]自然語言理解方法及系統

在審

• 申請號: 201810224982.0
• 申請日: 2018-03-19
• 公開（公告）號: CN108491386A
• 公開（公告）日: 2018-09-04
• 發明（設計）人: 鞠劍勛;劉浪
• 申請（專利權）人: 上海攜程國際旅行社有限公司
• 主分類號: G06F17/27
• 分類號: G06F17/27;G06N99/00
• 代理公司: 上海弼興律師事務所 31283
• 代理人: 薛琦;李夢男

1.一種自然語言理解方法，其特征在于，所述自然語言理解方法包括以下步驟：

S₁、構建深度學習聯合模型；所述深度學習聯合模型的輸入參數為語句的詞向量，輸出參數為語句的關鍵詞向量和意圖向量；

S₂、獲取待理解語句，對所述待理解語句進行分詞處理得到詞向量；

S₃、將所述詞向量輸入所述深度學習聯合模型，計算所述待理解語句的關鍵詞向量和意圖向量。

2.如權利要求1所述的自然語言理解方法，其特征在于，所述深度學習聯合模型包括長短時記憶網絡模型和注意力模型；

步驟S₁具體包括：

獲取語句樣本；

標注所述語句樣本的實際的關鍵詞向量和意圖向量，并對所述語句樣本進行分詞處理，得到詞向量樣本；

將所述詞向量樣本輸入所述長短時記憶網絡模型；

將所述長短時記憶網絡模型的輸出向量輸入所述注意力模型；

將所述注意力模型的輸出參數與所述實際的關鍵詞向量和意圖向量進行比較，根據比較結果調整所述長短時記憶網絡模型和所述注意力模型的參數；

迭代執行上述步驟，當所述輸出參數的準確度在預設范圍內時，得到最終的深度學習聯合模型。

3.如權利要求2所述的自然語言理解方法，其特征在于，當所述輸出參數的準確度在預設范圍內時，得到最終的深度學習聯合模型的步驟，具體包括：

分別基于交叉熵損失函數計算每次迭代過程中獲得的關鍵詞向量和語句意圖向量的第一損失和第二損失；

當所述第一損失和所述第二損失的和為最小值時，將當前的深度學習聯合模型作為最終的深度學習聯合模型。

4.如權利要求1所述的自然語言理解方法，其特征在于，對所述待理解語句進行分詞處理的步驟之前，還包括：

過濾所述待理解語句以去除所述待理解語句中的停用詞。

5.一種自然語言理解系統，其特征在于，所述自然語言理解系統包括：

模型構建模塊，用于構建深度學習聯合模型；

所述深度學習聯合模型的輸入參數為語句的詞向量，輸出參數為語句的關鍵詞向量和意圖向量；

語句處理模塊，用于獲取待理解語句，并對所述待理解語句進行分詞處理得到詞向量；

計算模塊，用于將所述詞向量輸入所述深度學習聯合模型，計算所述待理解語句的關鍵詞向量和意圖向量。

6.如權利要求5所述的自然語言理解系統，其特征在于，所述深度學習聯合模型包括長短時記憶網絡模型和注意力模型；

所述模型構建模塊，具體包括：

樣本獲取單元，用于獲取語句樣本；

語句處理單元，用于標注所述語句樣本的實際的關鍵詞向量和意圖向量，并對所述語句樣本進行分詞處理，得到詞向量樣本；

計算單元，用于將所述詞向量樣本輸入所述長短時記憶網絡模型進行計算，并將所述長短時記憶網絡模型的輸出向量輸入所述注意力模型進行計算；

比較單元，用于將所述注意力模型的輸出參數與所述實際的關鍵詞向量和意圖向量進行比較，根據比較結果調整所述長短時記憶網絡模型和所述注意力模型的參數；

調用單元，用于重復調用所述樣本獲取單元、所述語句處理單元、所述計算單元和所述比較單元直至所述輸出參數的準確度在預設范圍內時，得到最終的深度學習聯合模型。

7.如權利要求6所述的自然語言理解系統，其特征在于，所述調用單元具體用于調用所述計算單元分別基于交叉熵損失函數計算每次迭代過程中獲得的關鍵詞向量和語句意圖向量的第一損失和第二損失；

所述調用單元具體還用于調用所述比較單元，以當所述比較結果為所述第一損失和所述第二損失的和為最小值時，將當前的深度學習聯合模型作為最終的深度學習聯合模型。

8.如權利要求5所述的自然語言理解系統，其特征在于，所述自然語言理解系統還包括：

語句預處理模塊，用于過濾所述待理解語句以去除所述待理解語句中的停用詞。