[發明專利]一種基于多模型融合的多元關系抽取方法和抽取系統

有效

• 申請號: 202210009601.3
• 申請日: 2022-01-05
• 公開（公告）號: CN114925693B
• 公開（公告）日: 2023-04-07
• 發明（設計）人: 蔡傳宏;胡沛弦
• 申請（專利權）人: 華能貴誠信托有限公司
• 主分類號: G06F40/295
• 分類號: G06F40/295;G06F16/35;G06F40/30;G06N3/047;G06N3/0455
• 代理公司: 北京正理專利代理有限公司 11257
• 代理人: 張帆

本發明公開了一種基于多模型融合的多元關系抽取方法、抽取系統、計算機設備和存儲介質，其中一實施例的多元關系抽取方法包括：S1：對輸入的文本進行預處理并使用共享編碼層進行語義特征提取并輸出語義特征向量；S2：分別使用各深度關系模型對所述語義特征向量進行關系抽取并輸出關系類型，每個深度關系模型包括用于關系抽取的至少一個關系子模型、以及用于決策并輸出關系類型的決策單元；S3：使用關系匯聚單元對各深度關系模型輸出的關系類型進行匯聚并生成關系類型結果。本發明提供的實施例能夠快速識別非結構化文檔中的實體關系，特別是金融領域的非結構化文檔中的實體關系，從而發現其中的風險和機會，具有實際應用價值。

技術領域

本發明涉及計算機自然語言處理技術領域，特別是涉及一種基于多模型融合的多元關系抽取方法、多元關系抽取系統、計算機可讀存儲介質和計算機設備。

背景技術

隨著深度學習技術的進一步發展，計算機自然語言處理已經成為炙手可熱的技術，應用于日常生活的方方面面。具體的，基于實體關系抽取(Relation?Extraction,RE)是從文本中抽取出一對實體并給出實體間的關系，例如，在中國專利文件中，一名為《基于深度學習的地鐵設計領域規范的實體間關系抽取方法》申請號為CN202110722239.X，介紹了一種基于深度學習的地鐵設計領域規范的實體間關系抽取方法，該實體間關系抽取方法采用了一定的輸出結構去捕捉存在于句子中的多實體之間的多關系，利用基于實體的掩碼信息，屏蔽掉句子中實體之外的部分。同時，將句子中實體的相對位置信息融入到注意力計算過程中，加強了句子中“每個字”的注意力信息。參數選擇方面開展了基于迭代次數、學習率、微調使用的BERT層數、最大長度、實體最大距離和最大關系數量等多個超參數的擇優過程。該實體間關系抽取方法的實體間關系抽取任務是基于命名實體的識別展開，特別針對地鐵設計領域定義了具體實體內容，即針對地鐵設計相關內容進行指定內容識別，雖然在一定程度上能夠提升實體關系抽取的任務性能，但存在實體識別泛化性較弱的問題，不能解決地鐵設計領域以外的文本的實體識別問題；同時，該實體間關系抽取方法僅通過邊的距離信息以增強關系識別的準確度，存在關系識別方式單一的問題。

在中國專利文件中，一名為《一種基于實體關系抽取的結構化機場警報處理方法》申請號為CN202110564234.9，介紹了一種基于實體關系抽取的結構化機場警報處理方法，該結構化機場警報處理方法包括：獲取并預處理機場警報數據，輸出非結構化文本數據；構建字典和搜索規則，以及氣象要素實體抽取模型，均用于在非結構化文本數據中抽取氣象要素實體，并生成氣象要素實體集合；以時間和地點為主要對象構建氣象要素實體關系分類模型，對氣象要素實體進行關系分析，分別確定主要對象與最近天氣詞語之間的關系，同時根據預設規則，將特殊氣象要素實體與對應的天氣進行關聯并輸出關聯結果；對輸出的關聯實體進行時間和單位的歸一化換算，最終輸出結構化格式的數據。該結構化機場警報處理方法使用BERT-LSTM-Softmax進行實體抽取，存在實體抽取速度慢、效率低的問題，同時，該結構化機場警報處理方法只能判斷實體間是否存在關系，對于實體關系的識別存在泛化能力較低的問題。

在實際的生產生活中，尤其是瞬息萬變的金融市場中，大量有價值的信息存在于非結構化的文本中，如政策文件、市場輿情、公司公告等；從各類文檔中進行實體關系抽取，并依此構建實體間的關系圖譜，對洞察市場、發現投資機會有重大意義。因此，如何對非結構化文本進行實體關系識別成為本領域技術人員亟待解決的問題。

發明內容

為了解決上述問題至少之一，本發明第一個實施例提供一種基于多模型融合的多元關系抽取方法，包括：

S1：對輸入的文本進行預處理并使用共享編碼層進行語義特征提取并輸出語義特征向量；

S2：分別使用各深度關系模型對所述語義特征向量進行關系抽取并輸出關系類型，每個深度關系模型包括用于關系抽取的至少一個關系子模型、以及用于決策并輸出關系類型的決策單元；

S3：使用關系匯聚單元對各深度關系模型輸出的關系類型進行匯聚并生成關系類型結果。