[發明專利]實體識別模型的訓練方法及實體識別方法、相關裝置

在審

• 申請號: 201911379640.7
• 申請日: 2019-12-27
• 公開（公告）號: CN111209396A
• 公開（公告）日: 2020-05-29
• 發明（設計）人: 熊為星;馬力;熊友軍
• 申請（專利權）人: 深圳市優必選科技股份有限公司
• 主分類號: G06F16/35
• 分類號: G06F16/35;G06F16/36;G06F40/295
• 代理公司: 深圳市威世博知識產權代理事務所(普通合伙) 44280
• 代理人: 李莉

本發明提供一種實體識別模型的訓練方法、實體識別方法及相關裝置，所述實體識別模型的訓練方法包括：獲取訓練文本，并將訓練文本與數據庫進行匹配，得到多個匹配結果；對多個匹配結果進行處理，得到多個匹配結果對應的特征向量；對訓練文本進行處理，得到訓練文本對應每個字的字向量；根據特征向量及字向量對初始實體識別模型進行訓練，以得到實體識別模型。以此訓練所得到的實體識別模型能夠提高實體識別的準確性。

技術領域

本發明涉及智能裝置技術領域，尤其涉及一種實體識別模型的訓練方法及實體識別方法、相關裝置。

背景技術

一直以來命名實體識別都是信息抽取中的重要一環，也是自然語言處理中的一項基礎任務，應用范圍廣泛。條件隨機場(CRF)是命名實體識別的主流模型，隨著深度學習的發展，使用深度學習模型(BiLSTM)加上CRF在命名實體識別中變得更加普遍，盡管BiLSTM-CRF成為了基于深度學習的實體識別方法的最主流模型，但在語義理解的過程中仍舊精度不夠理想，對于部分詞槽的信息準確率依然偏低，導致對話系統中無法完整理解用戶的表述。

發明內容

本發明主要提供一種實體識別模型的訓練方法及實體識別方法、相關裝置，用于提高實體識別的準確率。

為解決上述技術問題，本發明提供的第一個技術方案為：提供一種實體識別模型的訓練方法，包括：獲取訓練文本，并將所述訓練文本與數據庫進行匹配，得到多個匹配結果；對多個所述匹配結果進行處理，得到多個所述匹配結果對應的特征向量；對所述訓練文本進行處理，得到所述訓練文本對應每個字的字向量；根據所述特征向量及所述字向量對初始實體識別模型進行訓練，以得到所述實體識別模型。

其中，所述對多個所述匹配結果進行處理，得到多個所述匹配結果對應的特征向量的步驟包括：對多個所述匹配結果進行處理，得到多個所述匹配結果對應的one-hot向量；所述根據所述特征向量及所述字向量對初始實體識別模型進行訓練，以得到所述實體識別模型的步驟包括：將多個所述匹配結果對應的所述one-hot向量進行拼接，以得到one-hot向量矩陣；將所述one-hot向量矩陣與所述字向量進行相加，得到相加后的結果；將所述相加后的結果輸入至初始實體模型中進行訓練，以得到所述實體識別模型。

為解決上述技術問題，本發明提供的第二個技術方案為：提供一種實體識別模型的實體識別方法，包括：獲取待識別文本，以對所述待識別文本進行實體識別，以得到若干個識別結果；輸出若干個所述識別結果對應的標簽序列，對所述標簽序列進行概率計算；輸出概率最高的所述標簽序列作為所述待識別文本對應的準確識別結果。

其中，所述實體識別模型為通過上述任一項所述的訓練方法所得。

其中，所述輸出概率最高的所述標簽序列作為所述待識別文本對應的準確識別結果的步驟還包括：對所述概率最高的所述標簽序列進行驗證，判斷所述概率最高的所述標簽序列是否為所述待識別文本對應的準確識別結果。

其中，所述對所述概率最高的所述標簽序列進行驗證，判斷所述概率最高的所述標簽序列是否為所述待識別文本對應的準確識別結果的步驟包括：判斷所述概率最高的所述標簽序列中是否具有封閉詞槽；若具有所述封閉詞槽，則提取所述若干個識別結果中的所有封閉詞槽以作為封閉詞槽庫；將所述待識別文本與所述封閉詞槽庫進行匹配，以獲得到與所述待識別文本匹配的封閉詞槽，并對所述概率最高的所述標簽序列進行更新，以獲取到更新后的標簽序列并作為所述待識別文本的最佳匹配結果輸出。

其中，所述輸出若干個所述識別結果對應的標簽序列，對所述標簽序列進行概率計算的步驟包括：計算獲取各個所述標簽序列對應的每個位置的概率；計算獲取各個所述標簽序列對應的每個位置的轉移概率；根據所述每個位置的概率及所述每個位置的轉移概率得到所述標簽序列的概率。

其中，所述根據所述每個位置的概率及所述每個位置的轉移概率得到所述標簽序列的概率的步驟包括：

通過如下公式計算所述標簽序列的概率：