[發明專利]一種基于深度學習的三元組抽取方法及系統

在審

• 申請號: 202110422948.6
• 申請日: 2021-04-20
• 公開（公告）號: CN113051922A
• 公開（公告）日: 2021-06-29
• 發明（設計）人: 劉新亮;馬蕾;張夢琪;郝瀚
• 申請（專利權）人: 北京工商大學
• 主分類號: G06F40/295
• 分類號: G06F40/295;G06F40/211;G06N3/04
• 代理公司: 北京科迪生專利代理有限責任公司 11251
• 代理人: 江亞平

本發明涉及一種基于深度學習的三元組抽取方法及系統，其方法包括：步驟S1：獲取文本語料庫，并進行預處理；步驟S2：利用預訓練語言模型對文本語料庫進行處理，獲得句子的字符向量；步驟S3：將字符向量經過BiLSTM神經網絡以及CRF模型進行處理，得到句子的標簽序列，從而識別句子的實體及其類型；步驟S4：根據實體及其類型，構建實體信息向量；將字符向量和實體信息向量相加作為主體，輸入關系客體模型，根據文本語料庫中預先定義的關系，得到對應的客體，由此構造三元組。本發明提供的方法通過二進制標記框架，作為特定關系客體標記器來根據識別出的主體在給定關系的情況下識別對應的客體，并結合實體識別以構建主體，有效解決三元組中重疊關系的問題。

技術領域

本發明涉及知識圖譜實體關系抽取領域，具體涉及一種基于深度學習的三元組抽取方法及系統。

背景技術

信息抽取是從自然語言文本中抽取實體、屬性、關系以及事件等事實類信息的文本處理技術，其任務包括命名實體識別、關系抽取以及事件抽取。實體關系抽取作為信息抽取領域的重要研究課題，其主要目的是從結構化及半結構化文本句子中抽取實體以及實體對之間的語義關系，形成結構化的信息以便存儲和取用。目前，基于深度學習的實體關系抽取技術，在特征提取和模型的精確度上已經逐漸超過了傳統基于特征和核函數的方法。

早期的實體關系抽取采用了流水線方法，訓練一個模型提取實體，另一個模型對它們之間的關系進行分類，在實體對的組合中，大多實體對是沒有關系鏈接的，這便存在很多負例，也就造成了關系分類的不平衡，這種方法忽略了兩個模型之間的依賴并且造成了誤差傳播問題。例如在句子“獼猴桃的產地是陜西省的省會西安市”中，存在三元組(獼猴桃，產地，陜西省)、(獼猴桃，產地，西安市)，這兩個三元組存在重疊關系“產地”，其中存在共享的實體，而傳統的抽取方法未能有效的解決三元組中重疊關系的問題。

發明內容

為了解決上述技術問題，本發明提供一種基于深度學習的三元組抽取方法及系統。

本發明技術解決方案為：一種基于深度學習的三元組抽取方法，包括：

步驟S1：獲取文本語料庫，并進行預處理；

步驟S2：利用預訓練語言模型對所述文本語料庫進行處理，獲得句子的字符向量；

步驟S3：將所述字符向量經過BiLSTM神經網絡以及CRF模型進行處理，得到所述句子的標簽序列，從而識別所述句子的實體及其類型；

步驟S4：根據所述實體及其類型，構建實體信息向量；將所述字符向量和所述實體信息向量相加作為主體，輸入關系客體模型，根據所述文本語料庫中預先定義的關系，得到對應的客體，由此構造三元組。

本發明與現有技術相比，具有以下優點：

本發明提供的方法通過二進制標記框架，作為特定關系客體標記器來根據識別出的主體在給定關系的情況下識別對應的客體，并結合實體識別以構建主體，有效解決三元組中重疊關系的問題，可以極大地提高三元組抽取的效率，為自動構建知識圖譜提供有效方案。

附圖說明

圖1為本發明實施例中一種基于深度學習的三元組抽取方法的流程圖；

圖2為本發明實施例中一種基于深度學習的三元組抽取方法中步驟S3：將字符向量經過BiLSTM神經網絡以及CRF模型進行處理，得到句子的標簽序列，從而識別句子的實體及其類型的流程圖；

圖3本發明實施例中一種基于深度學習的三元組抽取方法中步驟S4：根據實體及其類型，構建實體信息向量；將字符向量和實體信息向量相加作為主體，輸入關系客體模型，根據文本語料庫中預先定義的關系，得到對應的客體，由此構造三元組的流程圖；

圖4本發明實施例中三元組抽取方法的流程示意圖；

圖5本發明實施例中一種基于深度學習的三元組抽取系統的結構框圖。