[發明專利]命名實體識別方法、裝置、存儲介質及電子設備

在審

• 申請號: 202011636806.1
• 申請日: 2020-12-31
• 公開（公告）號: CN112749562A
• 公開（公告）日: 2021-05-04
• 發明（設計）人: 張強;丁賈明;方釗;王安寧;楊善林
• 申請（專利權）人: 合肥工業大學
• 主分類號: G06F40/295
• 分類號: G06F40/295;G06F40/216;G06F40/126;G06N3/04;G06N5/04
• 代理公司: 北京久誠知識產權代理事務所(特殊普通合伙) 11542
• 代理人: 余罡

本發明提供一種命名實體識別方法、裝置、存儲介質及電子設備，涉及自然語言處理技術領域。對獲取的專業領域原始數據進行預處理并構建數據集，然后構建包括BERT預訓練模型層、BiLSTM網絡層，以及CRF推理層的BERT?BiLSTM?CRF模型，并用上述數據集訓練上述BERT?BiLSTM?CRF模型，最后利用訓練后的BERT?BiLSTM?CRF模型進行命名實體識別。本技術方案基于BERT模型構建的命名實體識別模型，很好的解決了在專業領域標注數據不足以及實體邊界模糊時實體識別困難，精度不高的問題，提高實體識別模型的性能和識別準確率。

技術領域

本發明涉及自然語言處理技術領域，具體涉及一種命名實體識別方法、裝置、存儲介質及電子設備。

背景技術

互聯網的快速發展，使得文本數據增長速度迅猛，而這些爆炸式增長的文本數據中包含了很多有價值的信息，如何從超大文本數據中抽取有用信息已經成為當前的研究重點。信息抽取的任務是從非結構化的文本數據中自動或半自動地抽取有用信息，轉化為結構化或半結構化的數據，作為信息抽取的子任務之一，命名實體識別技術無論是在工業界還是學術界，都已經取得了較大的進步和發展。

然而，在面對專業領域(如汽車領域時)，由于專業領域沒有成型的數據集、標注數據不足、實體邊界模糊，且相關研究文獻不足，致使已有的機器學習和深度學習模型等均無法在專業領域取得很好的效果，尤其是專業領域的中文命名實體識別任務，研究成果更是匱乏。

由此可知，現有的命名實體識別技術在專業領域標注數據不足以及實體邊界模糊時，存在命名實體識別困難、識別精度不高的問題。

發明內容

(一)解決的技術問題

針對現有技術的不足，本發明提供了一種命名實體識別方法、裝置、存儲介質及電子設備，解決了現有技術在專業領域標注數據不足以及實體邊界模糊時，存在命名實體識別困難、識別精度不高的問題。

(二)技術方案

為實現以上目的，本發明通過以下技術方案予以實現：

第一方面，本發明提出了一種命名實體識別方法，所述方法包括：

獲取專業領域原始數據并構建數據集；

構建BERT-BiLSTM-CRF模型，并利用所述數據集訓練所述BERT-BiLSTM-CRF模型；所述BERT-BiLSTM-CRF模型包括：BERT預訓練模型層、BiLSTM網絡層，以及CRF推理層；

利用訓練后的所述BERT-BiLSTM-CRF模型進行命名實體識別。

優選的，所述獲取專業領域原始數據并構建數據集包括：

基于社交媒體獲取專業領域原始數據；所述專業領域包括汽車領域；

對所述原始數據進行數據清洗、數據標準化、文本分詞，以及序列標注處理，獲得數據集；

將所述數據集按照一定比例分成訓練集、測試集、驗證集。

優選的，所述BERT預訓練模型層用于將每個字符進行編碼得到對應字符的字向量；所述BiLSTM網絡層用于將所述字向量組成的序列雙向編碼獲取新的特征向量；所述CRF推理層用于基于所述新的特征向量輸出概率最大的標簽序列。

優選的，所述方法還包括：

將所述測試集和驗證集輸入到訓練后的所述BERT-BiLSTM-CRF模型進行測試，以評估所述BERT-BiLSTM-CRF模型的性能。

第二方面，本發明提出了一種命名實體識別裝置，所述裝置包括：

數據獲取模塊，用于獲取專業領域原始數據并構建數據集；