[發明專利]三元組抽取方法及系統

有效

• 申請號: 202011276362.5
• 申請日: 2020-11-16
• 公開（公告）號: CN112560475B
• 公開（公告）日: 2023-05-12
• 發明（設計）人: 李文鋒;侯樂;趙九州;趙從志
• 申請（專利權）人: 和美（深圳）信息技術股份有限公司
• 主分類號: G06F40/289
• 分類號: G06F40/289;G06F40/295;G06F16/28;G06N3/0464;G06N3/049;G06N3/08
• 代理公司: 北京鍾維聯合知識產權代理有限公司 11579
• 代理人: 安娜

本發明提供一種三元組抽取方法及系統，該方法包括：利用分詞編碼器對批量文本信息進行處理得到對應的分詞文本、以及所述分詞文本對應的分詞編碼文本與分句編碼文本；所述分詞編碼文本包括所述分詞文本中每個分詞結果對應的編碼信息，所述分句編碼文本包括所述分詞文本中每句話的編碼信息；利用ALBERT模型對所述分詞編碼文本與分句編碼文本進行處理，得到文本向量；根據所述文本向量、所述分詞編碼文本與分句編碼文本，利用全連接層學習得到頭實體位置信息以及尾實體位置信息；根據所述頭實體位置信息以及尾實體位置信息，確定抽取得到的三元組。本發明能提高三元組抽取的準確性。

技術領域

本發明涉及自然語言處理技術領域，尤其涉及一種三元組抽取方法及系統。

背景技術

當前實體關系三元組抽取主要有兩類方法，基于傳統規則的方法和基于機器學習(深度學習)的方法。基于傳統規則的方法，例如基于依存句法分析的實體關系抽取，首先對一個句子進行依存分析，再結合中文語法啟發式規則和依存分析的結果抽取關系表述，并根據距離確定實體位置，最后輸出三元組；基于機器學習的方法，分別識別三元組中的兩個實體，然后對兩個實體之間的關系進行分類，最后輸出三元組。

然而，當前實體關系三元組抽取技術，在訓練及評估階段，將實體與關系分開抽取，沒有使用其關系信息去抽取實體。如三元組(中國,首都,北京)，這個三元組的實體“北京”可以從前面的實體“中國”以及關系“首都”推斷而來，用實體及關系之間的關聯信息進而可以抽取更加準確的三元組。因此如何利用文本的整體信息進行三元組的抽取成為亟待解決的技術問題。

發明內容

有鑒于此，本發明提供一種三元組抽取方法及系統，以實現利用文本的整體信息進行三元組的抽取，提高三元組抽取的準確性。

一方面，本發明提供一種三元組抽取方法，包括:利用分詞編碼器對批量文本信息進行處理得到對應的分詞文本、以及所述分詞文本對應的分詞編碼文本與分句編碼文本；所述分詞編碼文本包括所述分詞文本中每個分詞結果對應的編碼信息，所述分句編碼文本包括所述分詞文本中每句話的編碼信息；

利用ALBERT模型對所述分詞編碼文本與分句編碼文本進行處理，得到文本向量；

根據所述文本向量、所述分詞編碼文本與分句編碼文本，利用全連接層學習得到頭實體位置信息以及尾實體位置信息；

根據所述頭實體位置信息以及尾實體位置信息，確定抽取得到的三元組。

進一步地，所述根據所述文本向量、所述分詞編碼文本與分句編碼文本，利用全連接層學習得到頭實體位置信息以及尾實體位置信息的步驟包括：

將所述文本向量輸入全連接層進行學習得到頭實體向量，并根據所述頭實體向量以及預設的頭實體頭部閾值以及頭實體尾部閾值確定頭實體位置信息；

將所述頭實體位置信息、所述分詞編碼文本與分句編碼文本輸入全連接層進行學習得到尾實體向量，并根據所述尾實體向量以及預設的尾實體頭部閾值以及尾實體尾部閾值確定尾實體位置信息。

進一步地，所述根據所述頭實體位置信息以及尾實體位置信息，確定抽取得到的三元組的步驟包括：

根據所述頭實體位置信息以及尾實體位置信息確定所述頭實體與尾實體之間關系實體位置信息；

根據所述頭實體位置信息、關系實體位置信息、以及尾實體位置信息之間關系實體位置信息在所述分詞文本中確定對應的頭實體文本、關系實體文本以及尾實體文本；

將所述頭實體文本、關系實體文本以及尾實體文本作為抽取得到的三元組。

進一步地，所述將所述文本向量輸入全連接層進行學習得到頭實體向量的步驟中的頭實體損失函數表示為：

其中，Hp(s)表示頭實體損失函數的二分類交叉熵損失；