[發明專利]訓練信息抽取模型的方法、信息抽取方法及裝置

在審

• 申請號: 202310438075.7
• 申請日: 2023-04-18
• 公開（公告）號: CN116644311A
• 公開（公告）日: 2023-08-25
• 發明（設計）人: 高暢;張雯軒;邴立東
• 申請（專利權）人: 阿里巴巴（中國）有限公司
• 主分類號: G06F18/214
• 分類號: G06F18/214;G06F18/21;G06F18/2415;G06F40/295;G06N3/0455;G06N3/045;G06N3/048;G06N3/084
• 代理公司: 北京眾達德權知識產權代理有限公司 11570
• 代理人: 袁媛

1.一種訓練信息抽取模型的方法，其特征在于，所述方法包括：

獲取目標任務的訓練數據，所述目標任務的訓練數據包括多個第一訓練樣本，所述第一訓練樣本包括第一文本樣本和針對該第一文本樣本標注的所述目標任務指定的第一抽取條件對應的目標樣本；

確定目標任務的子任務，利用所述子任務的訓練數據訓練信息抽取模型，直至滿足預設的第一訓練結束條件；所述子任務的訓練數據包括多個第二訓練樣本，所述第二訓練樣本包括第二文本樣本和針對該第二文本樣本標注的所述子任務指定的第二抽取條件對應的目標樣本，所述第二抽取條件是所述第一抽取條件中的部分子條件；

確定所述目標任務的組合訓練數據，所述組合訓練數據包括多個第三訓練樣本，所述第三訓練樣本由多于一個的第一訓練樣本合并得到；利用所述組合訓練數據，在已經訓練得到的信息抽取模型的基礎上進一步訓練，直至滿足預設的第二訓練結束條件；

利用所述目標任務的訓練數據在已經訓練得到的信息抽取模型的基礎上進一步訓練，得到用以進行信息抽取的信息抽取模型。

2.根據權利要求1所述的方法，其特征在于，所述第二訓練樣本中的第二文本樣本為從所述目標任務的訓練數據中選取的第一訓練樣本中的第一文本樣本；所述第二訓練樣本中的目標樣本是所述選取的第一訓練樣本的目標樣本中所述第二抽取條件對應的部分；

所述第三訓練樣本包括第三文本樣本和針對第三文本樣本標注的所述目標任務指定的第一抽取條件對應的目標樣本，所述第三文本樣本是由選取的多個第一訓練樣本中的第一文本樣本合并得到的，所述第三文本樣本中的目標樣本是由所述選取的多個第一訓練樣本中的目標樣本合并得到的。

3.根據權利要求1所述的方法，其特征在于，在利用所述子任務的訓練數據訓練信息抽取模型時，將第二訓練樣本中的第二文本樣本作為信息抽取模型的輸入文本，訓練目標為：最小化信息抽取模型從輸入文本抽取的所述第二抽取條件對應的目標信息與該第二訓練樣本中的目標樣本之間的差異；

在利用所述組合訓練數據訓練信息抽取模型時，將第三訓練樣本中的文本樣本作為信息抽取模型的輸入文本，訓練目標為：最小化信息抽取模型從輸入文本抽取的所述第一抽取條件對應的目標信息與該第三訓練樣本中的目標樣本之間的差異；

在利用所述目標任務的訓練數據訓練信息抽取模型時，將第一訓練樣本中的第一文本樣本作為信息抽取模型的輸入文本，訓練目標為：最小化信息抽取模型從輸入文本抽取的所述第一抽取條件對應的目標信息與該第一訓練樣本中的目標樣本之間的差異。

4.根據權利要求3所述的方法，其特征在于，所述信息抽取模型采用序列到序列模型；

所述信息抽取模型的輸入序列包括抽取條件信息以及所述輸入文本，所述抽取條件信息為所述第一抽取條件的信息或所述第二抽取條件的信息；

所述信息抽取模型的輸出序列包括目標信息，或者包括目標信息及其對應的目標類型信息。

5.根據權利要求4所述的方法，其特征在于，所述抽取條件信息包括：

抽取的目標類型信息，或者，

抽取的目標類型信息和部分目標類型對應的實例信息。