[發明專利]一種基于融合網絡的交易對手識別方法、裝置及電子設備

在審

• 申請號: 202210333859.9
• 申請日: 2022-03-30
• 公開（公告）號: CN114942992A
• 公開（公告）日: 2022-08-26
• 發明（設計）人: 甘偉超;林遠平;鄒鴻岳;周靖宇
• 申請（專利權）人: 北京快確信息科技有限公司
• 主分類號: G06F16/35
• 分類號: G06F16/35;G06F16/31;G06F40/30;G06N3/04;G06N3/08;G06Q40/04
• 代理公司: 廣東良馬律師事務所 44395
• 代理人: 李良

1.一種基于融合網絡的交易對手識別方法,其特征在于,所述融合網絡包括預訓練模型編碼層、詞匯關系連接圖構建層、圖注意力網絡表示層、融合層和分類層，所述方法包括：

獲取訓練樣本，將訓練樣本輸入預訓練模型編碼層，生成文本編碼，其中，所述預訓練模型的編碼層中融合詞匯適配器；

獲取訓練樣本，將所述訓練樣本輸入詞匯關系連接圖構建層，構建詞匯和詞語之間的圖關系；

根據圖注意力網絡表示層和所述圖關系，生成詞匯對應的圖表征向量；

將所述圖表征向量與所述文本編碼進行融合，生成文本表征序列；

通過分類層對所述文本表征序列進行分類，完成融合網絡的訓練，生成交易對手識別模型；

獲取待解析的文本信息，將所述待解析的文本輸入交易對手識別模型，根據交易對手識別模型的輸出，得到交易對手類別，完成交易對手識別。

2.根據權利要求1所述的方法，其特征在于，所述獲取訓練樣本，將訓練樣本輸入預訓練模型編碼層，生成文本編碼前，還包括：

預先構建詞匯適配器，

將所述詞匯適配器加入預訓練模型中的任意一層或多層。

3.根據權利要求2所述的方法，其特征在于，所述預先構建詞匯適配器，包括：

預先獲取文本序列中字符表征向量；

獲取字符相關的詞匯的向量集合；

根據雙線性注意力機制，將字符表征向量、所述向量集合進行融合，生成詞匯表征向量；

將字符表征向量與詞匯表征向量進行相加，生成綜合表征向量；

根據綜合表征向量，輸出文本序列每個位置的表征向量。

4.根據權利要求3所述的方法，其特征在于，所述獲取訓練樣本，將所述訓練樣本輸入詞匯關系連接圖構建層，構建詞匯和詞語之間的圖關系，包括：

獲取訓練樣本，將所述訓練樣本輸入詞匯關系連接圖構建層；

通過連接關系構建詞匯和詞語之間的轉移圖、包含圖和柵格圖。

5.根據權利要求4所述的方法，其特征在于，所述根據圖注意力網絡表示層和所述圖關系，生成詞匯對應的圖表征向量，包括：

根據轉移圖、包含圖和柵格圖獲取對應的第一連接矩陣、第二連接矩陣和第三連接矩陣；

將文本序列中每個位置的表征向量、文本序列中的詞匯向量及第一連接矩陣、第二連接矩陣和第三連接矩陣輸入所述圖注意力網絡表示層；

獲取圖注意力網絡表示層的輸出，生成詞匯對應的圖表征向量。

6.根據權利要求5所述的方法，其特征在于，所述將所述圖表征向量與所述文本編碼進行融合，生成文本表征序列，包括：

將所述圖表征向量與所述文本編碼采用投影加權的方式進行融合，生成文本表征序列。

7.根據權利要求6所述的方法，其特征在于，所述通過分類層對所述文本表征序列進行分類，完成融合網絡的訓練，生成交易對手識別模型，包括：

將所述文本表征序列輸入softmax分類函數，

獲取softmax分類函數輸出的每個位置的分類，完成融合網絡的訓練，生成交易對手識別模型。

8.一種基于融合網絡的交易對手識別裝置，其特征在于，所述融合網絡包括預訓練模型編碼層、詞匯關系連接圖構建層、圖注意力網絡表示層、融合層和分類層，所述裝置包括：

編碼模塊，用于獲取訓練樣本，將訓練樣本輸入預訓練模型編碼層，生成文本編碼，其中，所述預訓練模型的編碼層中融合詞匯適配器；

圖關系構建模塊，用于獲取訓練樣本，將所述訓練樣本輸入詞匯關系連接圖構建層，構建詞匯和詞語之間的圖關系；

圖表征向量生成模塊，用于根據圖注意力網絡表示層和所述圖關系，生成詞匯對應的圖表征向量；

融合模塊，用于將所述圖表征向量與所述文本編碼進行融合，生成文本表征序列；

分類模塊，用于通過分類層對所述文本表征序列進行分類，完成融合網絡的訓練，生成交易對手識別模型；

識別模塊，用于獲取待解析的文本信息，將所述待解析的文本輸入交易對手識別模型，根據交易對手識別模型的輸出，得到交易對手類別，完成交易對手識別。