[發明專利]訓練命名實體識別模型的方法、命名實體識別方法及裝置

在審

• 申請號: 201510082318.3
• 申請日: 2015-02-15
• 公開（公告）號: CN104615589A
• 公開（公告）日: 2015-05-13
• 發明（設計）人: 張軍
• 申請（專利權）人: 百度在線網絡技術（北京）有限公司
• 主分類號: G06F17/27
• 分類號: G06F17/27;G06F17/30
• 代理公司: 北京金律言科知識產權代理事務所(普通合伙) 11461
• 代理人: 羅延紅;楊移

技術領域

本發明涉及自然語言處理技術領域，尤其涉及一種訓練命名實體識別模型的方法、命名實體識別方法和裝置。

背景技術

命名實體(例如人名，地名，組織機構名稱，特定意義的網絡詞匯等)識別是自然語言理解的一個重要組成部分，因此，建立并維護命名實體庫是眾多自然語言處理(Natural?Language?Processing，NLP)領域應用(例如搜索系統，機器翻譯系統等)的核心之一。例如，如果搜索引擎能夠借助命名實體庫，識別出用戶的搜索詞“萬萬沒想到”是一個網絡影視劇的名稱，那就可以給用戶返回更精確的搜索結果。

在現有技術中，一般采用以下兩種命名實體識別方法。一種方法是從搜索引擎的查詢日志當中用基于規則的方法來挖掘命名實體。具體的，將近期用戶輸入的搜索詞與以往用戶的搜索詞進行比較。如果發現是新的搜索詞，則通過所設計的基于搜索詞的增長量以及與以往搜索詞的相似度概率公式來給出新的搜索詞是命名實體的概率，并將概率超過一定閾值的搜索詞識別為命名實體。這種方法雖然能夠準確的識別出互聯網上新出現的命名實體，但是所述方法的實現依賴于查詢日志的數據，且自用戶使用搜索詞進行搜索到所述搜索詞被識別為命名實體延遲，影響用戶的查詢體驗。

另一種方法是從預先標注過的訓練語料(人工標注出一組文本數據中的命名實體)中，用統計的方法建立隱馬爾科夫假設，然后利用該模型來從大量的文本數據中標注出新的命名實體。此方法雖然在小規模數據上能夠取得不錯的效果，但因其依賴于馬爾科夫假設(當前詞是否為某個命名實體的一部分，依賴于其前面的固定數量(一般為2)的詞)，導致該模型缺少泛化能力，在大規模數據上的識別精度不高。

發明內容

本發明實施例的目的在于，提供一種訓練命名實體識別模型的方法、命名實體識別方法和裝置，能夠快速、自動地識別出自然語言文本中的命名實體，且提高命名實體的識別精確度。

為了實現上述發明目的，本發明的實施例提供了一種用于訓練循環神經網絡(RNN)命名實體識別模型的方法，包括：獲取多個標注的樣本數據，每個所述樣本數據包括文本串及其多個分詞標注數據，所述分詞標注數據包括從所述文本串中分出的分詞及其在所述文本串中的命名實體屬性標志；將所述多個標注的樣本數據中的分詞映射為詞向量，以所述樣本數據作為訓練樣本，對RNN命名實體識別模型進行訓練，以學習所述RNN命名實體識別模型的參數。

本發明實施例還提供了一種用于訓練循環神經網絡(RNN)命名實體識別模型的裝置，包括：樣本數據獲取模塊，用于獲取多個標注的樣本數據，每個所述樣本數據包括文本串及其多個分詞標注數據，所述分詞標注數據包括從所述文本串中分出的分詞及其在所述文本串中的命名實體屬性標志；參數學習模塊，用于將所述多個標注的樣本數據中的分詞映射為詞向量，以所述樣本數據作為訓練樣本，對RNN命名實體識別模型進行訓練，以學習所述RNN命名實體識別模型的參數。

本發明實施例還提供了一種命名實體的識別方法，包括：獲取文本串；對所述文本串進行分詞處理得到多個分詞；通過根據權利要求5所述的方法訓練得到的RNN命名實體識別模型分別獲取所述分詞對應的概率最大的命名實體屬性標志；根據所述分詞對應的概率最大的命名實體屬性標志對所述文本串進行識別得到命名實體。

本發明實施例還提供了一種命名實體的識別裝置，包括：文本串獲取模塊，用于獲取文本串；文本串分詞模塊，用于對所述文本串進行分詞處理得到多個分詞；命名實體屬性標志獲取模塊，用于通過根據權利要求17所述的裝置訓練得到的RNN命名實體識別模型分別獲取所述分詞對應的概率最大的命名實體屬性標志；命名實體識別模塊，用于根據所述分詞對應的概率最大的命名實體屬性標志對所述文本串進行識別得到命名實體。

本發明實施例提供的訓練命名實體識別模型的方法、命名實體識別方法和裝置，通過獲取多個標注的樣本數據，并將多個標注的樣本數據中的分詞映射為詞向量，以所述樣本數據作為訓練樣本，對RNN命名實體識別模型進行訓練，以學習所述RNN命名實體識別模型的參數。與現有技術相比，無需依賴于查詢日志和隱馬爾科夫假設，該模型具有更好的泛化能力，能夠自動、快速地識別出自然語言文本中的命名實體，提高了命名實體的識別精確度。

附圖說明

圖1是示出本發明實施例的基本原理框圖；

圖2是示出本發明實施例一的用于訓練RNN命名實體識別模型的方法的流程圖；

圖3是示出本發明實施例一的RNN命名實體識別模型的示例性示意圖；

圖4是示出本發明實施例二的命名實體的識別方法的流程圖；