[發明專利]一種事件識別模型的訓練方法和裝置

有效

• 申請號: 201811535981.4
• 申請日: 2018-12-14
• 公開（公告）號: CN109670174B
• 公開（公告）日: 2022-12-16
• 發明（設計）人: 劉樹林
• 申請（專利權）人: 騰訊科技（深圳）有限公司
• 主分類號: G06F40/284
• 分類號: G06F40/284;G06F40/295;G06N3/04;G06N3/08
• 代理公司: 深圳市深佳知識產權代理事務所(普通合伙) 44285
• 代理人: 王仲凱

1.一種事件識別模型的訓練方法，其特征在于，包括：

從訓練數據庫中獲取到目標事件類型和第一文本樣本，并將所述目標事件類型和所述第一文本樣本輸入到初始的事件識別模型中，所述事件識別模型中配置有注意力層；

所述將所述目標事件類型和所述第一文本樣本輸入到初始的事件識別模型中，包括：根據所述目標事件類型查詢詞向量表，得到第一事件類型向量和第二事件類型向量，所述第一事件類型向量為局部信息建模向量，所述第二事件類型向量為全局信息建模向量；從所述第一文本樣本中識別出每個詞對應的命名實體類型，并將所述每個詞以及所述每個詞對應的命名實體類型轉換為詞樣本向量；將所述第一事件類型向量、所述第二事件類型向量和所述詞樣本向量輸入到所述事件識別模型中；

通過所述事件識別模型對所述詞樣本向量進行表示信息提取，得到所述第一文本樣本中每個詞對應的詞表示向量；通過所述注意力層獲取所述第一文本樣本中每個詞對應的詞表示向量和所述第一事件類型向量之間的關注度信息；

按照所述第一文本樣本中每個詞對應的詞表示向量和所述第一事件類型向量之間的關注度信息，對所述第一文本樣本中每個詞對應的詞表示向量進行加權平均計算，得到所述第一文本樣本對應的文本表示向量；根據所述第一文本樣本對應的文本表示向量和所述第一事件類型向量獲取所述第一文本樣本的局部信息；根據所述第一文本樣本中最后一個輸入所述事件識別模型的詞表示向量和所述第二事件類型向量獲取所述第一文本樣本的全局信息；對所述第一文本樣本的局部信息和所述第一文本樣本的全局信息進行加權平均計算，得到所述第一文本樣本與所述目標事件類型的關聯結果；

根據所述事件識別模型輸出的所述關聯結果，采用預設的損失函數對所述事件識別模型進行訓練。

2.根據權利要求1所述的方法，其特征在于，所述從所述第一文本樣本中識別出每個詞對應的命名實體類型，并將所述每個詞以及所述每個詞對應的命名實體類型轉換為詞樣本向量，包括：

對所述第一文本樣本進行分詞處理從而得到詞序列，所述詞序列包括多個詞；

對所述詞序列中的每個詞分別進行命名實體識別，得到所述每個詞對應的命名實體類型；

將所述每個詞轉換為相應的詞向量，并將所述每個詞對應的命名實體類型轉換為相應的命名實體類型向量；

將所述每個詞對應的詞向量和命名實體類型向量拼接在一起，得到所述詞樣本向量。

3.根據權利要求1所述的方法，其特征在于，所述通過所述事件識別模型對所述詞樣本向量進行表示信息提取，得到所述第一文本樣本中每個詞對應的詞表示向量，包括：

通過所述事件識別模型中提取到所述第一文本樣本中第t-1個詞對應的詞表示向量之后，將所述第一文本樣本中第t個詞對應的詞樣本向量輸入到所述事件識別模型中，所述t為大于或等于1的正整數；

根據所述第一文本樣本中第t-1個詞對應的詞表示向量，通過所述事件識別模型對所述第一文本樣本中第t個詞對應的詞樣本向量進行表示信息提取，得到所述第一文本樣本中第t個詞對應的詞表示向量。

4.根據權利要求1至3中任一項所述的方法，其特征在于，所述將所述目標事件類型和所述第一文本樣本輸入到初始的事件識別模型中，包括：

當所述訓練數據庫中提取到N個所述目標事件類型時，獲取N個二元組，其中，每個二元組包括：N個所述目標事件類型的一個目標事件類型和所述第一文本樣本，所述N的取值為大于或等于2的正整數；

將所述N個二元組分別輸入到所述事件識別模型中。