[發明專利]基于多選匹配網絡的統一低樣本關系抽取方法及裝置在審
| 申請號： | 202210083731.1 | 申請日： | 2022-01-21 |
| 公開（公告）號： | CN114528400A | 公開（公告）日： | 2022-05-24 |
| 發明（設計）人： | 劉方超;林鴻宇;韓先培;孫樂 | 申請（專利權）人： | 中國科學院軟件研究所 |
| 主分類號： | G06F16/35 | 分類號： | G06F16/35;G06F40/30;G06K9/62;G06N3/08 |
| 代理公司： | 北京君尚知識產權代理有限公司 11200 | 代理人： | 邱曉鋒 |
| 地址： | 100190 *** | 國省代碼： | 北京;11 |
| 權利要求書： | 查看更多 | 說明書： | 查看更多 |
| 摘要： | |||
| 搜索關鍵詞： | 基于 匹配 網絡 統一 樣本 關系 抽取 方法 裝置 | ||
1.一種基于多選匹配網絡的統一低樣本關系抽取方法，其特征在于，包括以下步驟：
將當前任務的所有關系描述拼接成一條多選語句；
將待分類實例與多選語句合并，共同輸入多選匹配網絡的編碼器中；
將編碼器編碼后的待分類實例的表示與多選語句中每個關系的表示進行匹配，將相似度最大的關系作為預測結果，得到關系抽取結果。
2.如權利要求1所述的方法，其特征在于，通過以下步驟訓練所述多選匹配網絡：
a)在大規模開放域文本中，通過OpenIE工具抽取得到(主語，謂語，賓語)三元組，三元組的每個部分均為原文本中的文本片段；
b)將抽取得到的大量三元組，通過預訓練好的生成式語言模型，生成包含三元組語義的對應的復述文本；
c)提取三元組中的謂語作為對應生成的復述文本的關系描述，并通過負采樣策略，為每個實例采樣多個負例關系，按照多選匹配的方式進行關系預測和抽取，并計算關系抽取的損失函數；
d)對于每個包含少量標注樣本的新任務，利用少量標注樣本的標簽計算多選匹配網絡輸出的關系抽取結果的損失函數，通過在線學習的方式進行多選匹配網絡的模型更新。
3.如權利要求1所述的方法，其特征在于，所述多選匹配網絡的損失函數為：
其中，θ為待學習的模型參數；(x,y)為復述-三元組對；I(.)為指示函數，當yi為該復述文本x對應的謂詞時I(.)為1，否則為0；z為包含所有關系信息的多選語句；yi表示第i個關系類別；N表示上文所提關系類別數量；P(yi|x,z；θ)表示當前復述實例x屬于關系yi的概率。
4.如權利要求1所述的方法，其特征在于，所述編碼器包括：Bert、RoBERTa模型。
5.如權利要求1所述的方法，其特征在于，所述大規模開放域文本包括：WikiPedia文章所包含的文本。
6.如權利要求1所述的方法，其特征在于，所述OpenIE工具包括：開源的OpenIE 5.0工具。
7.如權利要求1所述的方法，其特征在于，所述生成式語言模型包括：T5、BART模型。
8.一種采用權利要求1～7中任一權利要求所述方法的基于多選匹配網絡的統一低樣本關系抽取裝置，其特征在于，包括：
模型訓練模塊，用于訓練多選匹配網絡；
關系抽取模塊，用于將當前任務的所有關系描述拼接成一條多選語句，將待分類實例與多選語句合并，共同輸入訓練完成的多選匹配網絡的編碼器中，然后將編碼器編碼后的待分類實例的表示與多選語句中每個關系的表示進行匹配，將相似度最大的關系作為預測結果，得到關系抽取結果。
9.一種電子裝置，其特征在于，包括存儲器和處理器，所述存儲器存儲計算機程序，所述計算機程序被配置為由所述處理器執行，所述計算機程序包括用于執行權利要求1～7中任一權利要求所述方法的指令。
10.一種計算機可讀存儲介質，其特征在于，所述計算機可讀存儲介質存儲計算機程序，所述計算機程序被計算機執行時，實現權利要求1～7中任一權利要求所述的方法。
該專利技術資料僅供研究查看技術是否侵權等信息，商用須獲得專利權人授權。該專利全部權利屬于中國科學院軟件研究所，未經中國科學院軟件研究所許可，擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作，請聯系【客服】
本文鏈接：http://www.szxzyx.cn/pat/books/202210083731.1/1.html，轉載請聲明來源鉆瓜專利網。
