[發(fā)明專利]混合圖神經網絡模型的訓練、預測方法和裝置

有效

• 申請?zhí)枺?/td>: 202110050410.7
• 申請日: 2021-01-14
• 公開（公告）號: CN112381216B
• 公開（公告）日: 2021-04-27
• 發(fā)明（設計）人: 李厚意;張國威;曾馨檀;李勇勇;劉永超;黃斌;何昌華
• 申請（專利權）人: 螞蟻智信（杭州）信息技術有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08;G06Q30/02
• 代理公司: 北京博思佳知識產權代理有限公司 11415
• 代理人: 周嗣勇

1.一種混合圖神經網絡模型的訓練方法，所述混合圖神經網絡模型包括編碼函數和解碼函數，所述編碼函數為帶有編碼參數的圖神經網絡算法及其組合，所述解碼函數為帶有解碼參數的機器學習算法及其組合，所述混合圖神經網絡模型用于評估用戶所屬的類別，所述方法包括：

以訓練樣本中所有目標對應的實例以及所述實例的k度鄰居作為圖中的點，基于所有實例的圖數據，采用編碼函數生成每個實例的圖表示向量；k為自然數；所述實例為用戶；所述目標為某個用戶所屬的類別；

對解碼參數進行t個輪次的訓練；在每個輪次，從訓練樣本中提取bs個目標，基于每個目標對應的實例的圖表示向量、對應的非圖數據，采用解碼函數生成每個目標的預測量，并根據由本輪次bs個目標的預測量與標簽量確定的本輪次的損失量優(yōu)化解碼參數；bs為自然數，t為大于1的自然數；

根據所述t個輪次的損失量優(yōu)化編碼參數；

重復上述所有步驟直至滿足預定訓練終止條件；

采用訓練完畢的混合圖神經網絡模型預測用戶所屬的類別，并根據所述用戶所屬的類別來對用戶進行對應于所述類別的業(yè)務處理。

2.根據權利要求1所述的方法，所述根據t個輪次的損失量優(yōu)化編碼參數，包括：計算每個輪次的損失量對該輪次bs個目標對應實例的圖表示向量的梯度，根據個的梯度優(yōu)化編碼參數。

3.根據權利要求2所述的方法，所述根據個梯度優(yōu)化編碼參數，包括：在每個輪次bs個目標對應的各個實例的圖表示向量上分別累積t個輪次的梯度，根據所述各個圖表示向量上累積的梯度確定損失量對編碼參數的梯度，采用損失量對編碼參數的梯度優(yōu)化編碼參數。

4.根據權利要求1所述的方法，所述根據由本輪次bs個目標的預測量與標簽量確定的本輪次的損失量優(yōu)化解碼參數，包括：根據本輪次每個目標的預測量與標簽量確定每個目標的損失量，由本輪次bs個目標的損失量得到本輪次的損失量，根據本輪次的損失量對解碼參數的梯度優(yōu)化解碼參數。

5.根據權利要求1所述的方法，所述預定訓練終止條件包括：優(yōu)化R次編碼參數，R為大于1的自然數。

6.根據權利要求1所述的方法，所述實例的圖數據包括實例的自身點數據、與其他實例的關系數據中的至少一項；所述對應的非圖數據包括對應于目標的實例的自身非點數據、與對應于目標的實例相關的時序數據中的至少一項。

7.根據權利要求6所述的方法，所述實例的自身點數據包括：實例的自身稠密數據；所述實例的自身非點數據包括：實例的自身稀疏數據。

8.根據權利要求1所述的方法，所述實例的圖數據包括：用戶數據中表達為圖中點和邊的屬性的部分；所述對應的非圖數據包括以下至少一項：用戶數據中除表達為圖中點和邊的屬性之外的其余部分、根據用戶的歷史行為記錄生成的歷史行為時序數據。

9.一種混合圖神經網絡模型的預測方法，所述混合圖神經網絡模型包括編碼函數和解碼函數，所述編碼函數為帶有根據權利要求1至8任意一項所述方法訓練完畢的編碼參數的圖神經網絡算法，所述解碼函數為帶有根據權利要求1至8任意一項所述方法訓練完畢的解碼參數的機器學習算法，所述混合圖神經網絡模型用于評估用戶所屬的類別，所述方法包括：

以所有待預測的目標對應的實例以及所述實例的k度鄰居作為圖中的點，基于所有實例的圖數據，采用編碼函數生成每個實例的圖表示向量；k為自然數；所述實例為用戶；所述待預測的目標為某個用戶所屬的類別；

基于與待預測的目標對應的實例的圖表示向量、對應的非圖數據，采用解碼函數生成所述目標的預測量；

根據預測的某個用戶所屬的類別，來對所述用戶進行對應于所述類別的業(yè)務處理。