[發明專利]一種多特征雙向門控領域專家實體抽取方法及系統

有效

• 申請號: 202010824303.0
• 申請日: 2020-08-17
• 公開（公告）號: CN112101028B
• 公開（公告）日: 2022-08-26
• 發明（設計）人: 李翔;張柯文;朱全銀;馬甲林;王媛媛;方強強;丁行碩;成潔怡;沈天宇
• 申請（專利權）人: 淮陰工學院
• 主分類號: G06F40/295
• 分類號: G06F40/295;G06F40/284;G06F40/216;G06F40/30;G06F40/117;G06F16/35
• 代理公司: 南京蘇高專利商標事務所(普通合伙) 32204
• 代理人: 顏盈靜

1.一種多特征雙向門控領域專家實體抽取方法，其特征在于：包括以下步驟：

步驟1：獲取領域專家語料庫D1∈{d₁，d₂，...，d_N}，其中，d為單條領域專家文本，N為語料大小，對領域專家語料庫D1中的語料進行標記，包括將領域關鍵詞實體標記為Key；對標記后的語料庫依次進行字符級切分和標記，完成全分詞標注語料庫D2的構建；

步驟2：定位全分詞標注語料庫D2中標記為Key的領域關鍵詞實體，獲取領域關鍵詞實體的前后向特征，通過前后向特征生成二元共現詞匯組，并利用二元共現詞匯組構建邊界特征向量矩陣E1；將全分詞標注語料庫D2中的語料通過邊界特征向量矩陣E1映射至向量空間，得到邊界特征；具體包括：

S201：定位全分詞標注語料庫D2中標記為Key的領域關鍵詞實體；

S202：設定滑動窗口寬度width，滑動窗口，獲取領域關鍵詞實體在滑動窗口寬度width內所有邊界的前后向特征；

S203：將前后向特征生成二元共現詞匯組，統計各二元共現詞匯組以前后順序同時出現的頻率，記為二元共現詞匯組的共現頻次w；

S204：基于下式計算得到二元共現詞匯組出現的概率f：

式中，f_i表示第i組二元共現詞匯組出現的概率，w_i表示第i組二元共現詞匯組的共現頻次；

S205：構建邊界特征向量矩陣E1＝(prev，next，w，f)，其中，prev表示二元共現詞匯組中的前一個詞匯，next表示二元共現詞匯組中的后一個詞匯，w為二元共現詞匯組的共現頻次，f為二元共現詞匯組出現的概率；

S206：將全分詞標注語料庫D2中所有單條文本通過邊界特征向量矩陣E1，映射至向量空間，得到文本中的邊界特征

步驟3：對領域專家語料庫D1進行預處理，并采用預處理后的數據對BERT語言模型進行訓練，得到訓練好的BERT語言模型BERT_Model，循環遍歷領域專家語料庫D1中每條領域專家文本，通過BERT_Model得到融合全文語義信息的字特征；

步驟4：拼接邊界特征和字特征，得到基于多特征融合的向量數據集D3；基于雙向門控神經網絡和注意力機制，構建中文領域專家實體抽取模型Model，采用向量數據集D3對中文領域專家實體抽取模型Model進行訓練，得到最終可用的中文領域專家實體抽取模型Model；

步驟5：將待抽取領域專家文本輸入至最終可用的中文領域專家實體抽取模型Model，得到領域專家實體識別結果。

2.根據權利要求1所述的一種多特征雙向門控領域專家實體抽取方法，其特征在

于：在所述步驟1中，需對領域專家語料庫進行預處理，所述預處理包括去重和去掉特殊字符；

在步驟1中，所述的對領域專家語料庫D1中的語料進行標記，包括：使用領域專業術語詞匯與領域專家語料庫D1中的領域關鍵詞實體進行匹配，并標記為Key；

采用YEDDA工具，對領域專家語料庫D1中的其他實體進行補充標記，標記類型記為type。

3.根據權利要求1所述的一種多特征雙向門控領域專家實體抽取方法，其特征在于：所述全分詞標注語料庫D2由字符對(context，label)構成，其中，context表示切分后的單個字符，label為實體的標記，表示為：label：{offset-type}，其中，offset為實體起始到結束的標識，表示為{B，M，E，S}，B表示一個詞的詞首位值，M表示一個詞的中間位置，E表示一個詞的末尾位置，S表示一個單獨的字詞，type表示非領域關鍵詞實體的其他實體的標記類型。