[發明專利]一種實體識別模型訓練的方法以及相關裝置

有效

• 申請號: 202010413102.1
• 申請日: 2020-05-15
• 公開（公告）號: CN111597804B
• 公開（公告）日: 2023-03-10
• 發明（設計）人: 鄭孫聰;原雯
• 申請（專利權）人: 騰訊科技（深圳）有限公司
• 主分類號: G06F40/279
• 分類號: G06F40/279;G06F40/30
• 代理公司: 深圳市深佳知識產權代理事務所(普通合伙) 44285
• 代理人: 聶秀娜

1.一種實體識別模型訓練的方法，其特征在于，包括：

獲取實體訓練數據；

識別所述實體訓練數據中的實體信息；

基于所述實體信息抽取關聯信息，以生成訓練序列，具體包括：基于問答模式，將所述實體信息作為原始句子的查詢，通過序列標注抽取模型從所述原始句子中抽取所述實體信息的定義，作為關聯信息，以生成訓練序列；所述關聯信息基于至少一個維度信息確定，所述維度信息基于所述實體信息的語義特征所得，所述語義特征包括語義完整性和語義一致性，所述語義一致性用于體現所述實體信息與所述關聯信息的對應關系；在所述生成訓練序列的過程中，通過語義完整性模塊來增強所述實體信息的定義的語義完整性；

根據所述訓練序列訓練識別模型，具體包括：獲取所述實體信息在所述實體訓練數據中的原始定義信息，基于余弦相似性獲取所述原始定義信息和所述關聯信息的相似度分數，根據所述相似度分數確定第二損失函數，以對所述識別模型進行訓練，所述識別模型用于對所述實體信息的定義進行識別。

2.根據權利要求1所述的方法，其特征在于，所述基于所述實體信息抽取關聯信息，以生成訓練序列，包括：

確定所述實體信息中的詞信息；

基于所述詞信息進行關聯，以得到關聯信息；

根據預設規則對所述詞信息和所述關聯信息進行拼接，以生成所述訓練序列，所述預設規則基于所述詞信息的位置確定。

3.根據權利要求2所述的方法，其特征在于，所述方法還包括：

獲取所述詞信息和所述關聯信息拼接過程中的交叉熵；

根據所述交叉熵獲取第一損失函數，所述第一損失函數用于指示所述識別模型的參數調整。

4.根據權利要求2所述的方法，其特征在于，所述方法還包括：

基于所述詞信息的位置設置標簽標識；

根據所述標簽標識對所述訓練序列進行更新。

5.根據權利要求1所述的方法，其特征在于，所述根據所述訓練序列訓練識別模型，還包括：

根據所述實體信息的所述語義特征確定所述實體信息和所述關聯信息的匹配信息；

根據所述匹配信息確定第三損失函數，以對所述識別模型進行訓練。

6.根據權利要求5所述的方法，其特征在于，所述根據所述實體信息的所述語義特征確定所述實體信息和所述關聯信息的匹配信息，包括：

根據所述語義特征確定所述關聯信息的句子分類信息；

根據所述句子分類信息確定所述實體信息與所述關聯信息的匹配概率，以確定所述匹配信息。

7.根據權利要求5所述的方法，其特征在于，所述方法還包括：

根據所述語義特征確定所述關聯信息中的關系對；

基于所述關系對的相關性進行分類，以確定第四損失函數；

根據所述第四損失函數對所述識別模型的訓練參數進行更新。

8.根據權利要求7所述的方法，其特征在于，所述基于所述關系對的相關性進行分類，以確定第四損失函數，包括：

在所述實體信息中插入詞平均向量，以得到實體向量，所述詞平均向量基于至少兩個預設詞所得；

將所述關聯信息進行平均池化，以得到關聯向量；

將所述實體向量和所述關聯向量進行拼接，以得到判別向量；

基于所述判別向量對所述關系對的相關性進行分類，以確定第四損失函數。

9.根據權利要求1所述的方法，其特征在于，所述基于所述實體信息抽取關聯信息，以生成訓練序列，包括：

基于所述實體信息確定端點信息，所述端點信息包括至少兩個詞信息；

根據所述端點信息抽取關聯信息，以生成訓練序列。

10.根據權利要求1所述的方法，其特征在于，所述方法還包括：

獲取人工標注的驗證集；

根據所述驗證集對所述識別模型進行驗證。