[發明專利]一種實體預標注方法和裝置以及設備

在審

• 申請號: 201911418886.0
• 申請日: 2019-12-31
• 公開（公告）號: CN111177414A
• 公開（公告）日: 2020-05-19
• 發明（設計）人: 李威;肖龍源;蔡振華;李稀敏;劉曉葳
• 申請（專利權）人: 廈門快商通科技股份有限公司
• 主分類號: G06F16/36
• 分類號: G06F16/36;G06F40/295
• 代理公司: 廈門原創專利事務所(普通合伙) 35101
• 代理人: 高巍

本發明公開了一種實體預標注方法和裝置以及設備。其中，所述方法包括：構建典型的實體標注數據庫，和根據該構建的典型的實體標注數據庫，對該實體標注數據庫中的實體標示實體類別與對應該實體類別的關鍵詞，和根據該標示的實體類別與對應該實體類別的關鍵詞，對該實體標注數據庫中的實體進行實體預標注模型訓練，訓練得到實體預標注模型，以及根據該訓練得到的實體預標注模型，對待標注實體進行預標注。通過上述方式，能夠實現無需人工能夠自動對實體進行預標注，自動進行實體預標注時能夠覆蓋到實體的所有語料和實體類別。

技術領域

本發明涉及實體標注技術領域，尤其涉及一種實體預標注方法和裝置以及設備。

背景技術

BERT(Bidirectional Encoder Representation from Transformers，變換器的雙向編碼器表征量)是從2018年開始大火的預訓練語言模型，通過預訓練大規模語料，學習語言文本中文本表征。

NER(Named Entity Recognition，命名實體識別)又稱作專名識別，是指識別文本中具有特定意義的實體，主要包括人名、地名、機構名、專有名詞等。在對話系統中，命名實體識別作為重要的信息抽取工具，需要抽取特定領域的特定實體類別，因此需要大量的人工標注此類特定領域的實體，人工標注的質量很大程度上決定了模型訓練的結果。

然而，現有的實體預標注方案，一般是以人工對實體進行預標注，人工成本高，而且人工預標注時很難覆蓋到實體的大量的語料和實體類別。

發明內容

有鑒于此，本發明的目的在于提出一種實體預標注方法和裝置以及設備，能夠實現無需人工能夠自動對實體進行預標注，自動進行實體預標注時能夠覆蓋到實體的所有語料和實體類別。

根據本發明的一個方面，提供一種實體預標注方法，包括：構建典型的實體標注數據庫；根據所述構建的典型的實體標注數據庫，對所述實體標注數據庫中的實體標示實體類別與對應所述實體類別的關鍵詞；根據所述標示的實體類別與對應所述實體類別的關鍵詞，對所述實體標注數據庫中的實體進行實體預標注模型訓練，訓練得到實體預標注模型；根據所述訓練得到的實體預標注模型，對待標注實體進行預標注。

其中，所述構建典型的實體標注數據庫，包括：采用對實體標注抽取重要類別、不同長度文本和常見錯別字文本方式，構建典型的實體標注數據庫。

其中，所述根據所述標示的實體類別與對應所述實體類別的關鍵詞，對所述實體標注數據庫中的實體進行實體預標注模型訓練，訓練得到實體預標注模型，包括：根據所述標示的實體類別與對應所述實體類別的關鍵詞，結合變換器的雙向編碼器表征量、卷積神經網絡和雙向長短時記憶特征融合以及條件隨機場方式，對所述實體標注數據庫中的實體進行實體預標注模型訓練，訓練得到實體預標注模型。

其中，在所述根據所述訓練得到的實體預標注模型，對待標注實體進行預標注之后，還包括：采用數據擴充的方式，對所述預標注后的實體數據進行優化。

根據本發明的另一個方面，提供一種實體預標注裝置，包括：構建模塊、標示模塊、訓練模塊和預標注模塊；所述構建模塊，用于構建典型的實體標注數據庫；所述標示模塊，用于根據所述構建的典型的實體標注數據庫，對所述實體標注數據庫中的實體標示實體類別與對應所述實體類別的關鍵詞；所述訓練模塊，用于根據所述標示的實體類別與對應所述實體類別的關鍵詞，對所述實體標注數據庫中的實體進行實體預標注模型訓練，訓練得到實體預標注模型；所述預標注模塊，用于根據所述訓練得到的實體預標注模型，對待標注實體進行預標注。

其中，所述構建模塊，具體用于：采用對實體標注抽取重要類別、不同長度文本和常見錯別字文本方式，構建典型的實體標注數據庫。