[發明專利]少樣本關系抽取模型的訓練方法、裝置及終端設備在審
| 申請號: | 202211159237.5 | 申請日: | 2022-09-22 |
| 公開(公告)號: | CN115510853A | 公開(公告)日: | 2022-12-23 |
| 發明(設計)人: | 魏忠誠;郭文杰;張春華;生龍;王超;趙繼軍 | 申請(專利權)人: | 河北工程大學 |
| 主分類號: | G06F40/279 | 分類號: | G06F40/279;G06K9/62 |
| 代理公司: | 河北國維致遠知識產權代理有限公司 13137 | 代理人: | 張新利 |
| 地址: | 056038 河北省*** | 國省代碼: | 河北;13 |
| 權利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關鍵詞: | 樣本 關系 抽取 模型 訓練 方法 裝置 終端設備 | ||
1.一種少樣本關系抽取模型的訓練方法,其特征在于,包括:
根據獲取的句子文本集確定正向訓練的第一支持集和第一查詢集,所述句子文本集中的實例標注有實體對和關系標簽,第一支持集中根據所述關系標簽劃分有多個類別的第一實例集;
利用所述第一支持集與所述第一查詢集對預設的少樣本關系抽取模型進行正向訓練,得到所述第一查詢集中每個第二實例與所述第一支持集中每個類別的第一實例集的正向關系原型,以及根據所述正向關系原型確定所述每個第二實例與所述每個類別的第一實例集之間的第一匹配得分,和所述每個第二實例的偽關系標簽;
根據所述第一查詢集與所述第二實例的偽關系標簽構建逆向訓練的第二支持集,根據所述句子文本集和所述第二支持集構建逆向訓練的第二查詢集,所述第二支持集中根據關系標簽劃分有多個類別的第二實例集,所述第二實例集的類別與所述第一實例集的類別相對應;
利用所述第二支持集與所述第二查詢集對預設的少樣本關系抽取模型進行逆向訓練,得到所述第二查詢集中每個第四實例與所述第二支持集中每個類別的第二實例集的逆向關系原型,以及根據所述逆向關系原型確定所述每個第四實例與所述每個類別的第二實例集之間的第二匹配得分;
根據所述第一匹配得分和所述第二匹配得分確定交叉熵損失值,根據所述正向關系原型和所述逆向關系原型對所述預設的少樣本關系抽取模型進行調參,并根據所述交叉熵損失值得到更新后的少樣本關系抽取模型。
2.根據權利要求1所述的少樣本關系抽取模型的訓練方法,其特征在于,所述根據獲取的句子文本集確定正向訓練的第一支持集和第一查詢集,包括:
根據獲取的句子文本集和預設任務場景確定正向訓練的第一支持集和第一查詢集;所述預設任務場景確定了所述第一支持集中第一實例集的類別和所述第一實例集中第一實例的數量;所述第一查詢集中第二實例的類別與所述第一實例集的類別相對應。
3.根據權利要求2所述的少樣本關系抽取模型的訓練方法,其特征在于,所述根據所述第一查詢集與所述第二實例的偽關系標簽構建逆向訓練的第二支持集,根據所述句子文本集和所述第二支持集構建逆向訓練的第二查詢集,包括:
根據所述預設任務場景、第一查詢集與所述第二實例的偽關系標簽構建逆向訓練的第二支持集;所述第二支持集中包括所述第一查詢集中的所有第二實例;所述預設任務場景確定了所述第二支持集中第二實例集的類別和所述第二實例集中第三實例的數量;
根據所述句子文本集和所述第二支持集構建逆向訓練的第二查詢集;所述第二查詢集中第四實例的類別與所述第二實例集的類別相對應。
4.根據權利要求1所述的少樣本關系抽取模型的訓練方法,其特征在于,所述根據所述第一匹配得分和所述第二匹配得分確定交叉熵損失值,包括:
根據所述第二實例對應的多個所述第一匹配得分,計算正向交叉熵損失值;
根據所述第四實例對應的多個所述第二匹配得分,計算逆向交叉熵損失值;
計算所述正向交叉熵損失值和所述逆向交叉熵損失值之和作為交叉熵損失值。
5.根據權利要求4所述的少樣本關系抽取模型的訓練方法,其特征在于,所述根據所述第二實例對應的多個所述第一匹配得分,計算正向交叉熵損失值;根據所述第四實例對應的多個所述第二匹配得分,計算逆向交叉熵損失值,包括:
根據所述第二實例對應的多個所述第一匹配得分,計算所述第二實例對應每個類別的概率值;根據所述第二實例對應每個類別的概率值,計算正向交叉熵損失值;
根據所述第四實例對應的多個所述第二匹配得分,計算所述第四實例對應每個類別的概率值;根據所述第四實例對應每個類別的概率值,計算逆向交叉熵損失值。
該專利技術資料僅供研究查看技術是否侵權等信息,商用須獲得專利權人授權。該專利全部權利屬于河北工程大學,未經河北工程大學許可,擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作,請聯系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/202211159237.5/1.html,轉載請聲明來源鉆瓜專利網。





