[發明專利]一種基于異構圖神經網絡模型進行預測的方法和系統

在審

• 申請號: 202010162355.6
• 申請日: 2020-03-10
• 公開（公告）號: CN111400560A
• 公開（公告）日: 2020-07-10
• 發明（設計）人: 胡斌斌;張志強;周俊;楊雙紅
• 申請（專利權）人: 支付寶（杭州）信息技術有限公司
• 主分類號: G06F16/901
• 分類號: G06F16/901;G06F16/906;G06F40/295;G06Q40/02;G06N3/04
• 代理公司: 成都七星天知識產權代理有限公司 51253
• 代理人: 楊永梅

1.一種基于異構圖神經網絡模型進行預測的方法，所述方法包括：

獲取與預測內容相關的異構圖數據，所述異構圖數據包括待預測節點、所述待預測節點的鄰居節點、以及連接所述待預測節點與所述鄰居節點之間的路徑，所述路徑包括至少一種類型；

基于所述路徑的類型，對所述鄰居節點進行分組，以使得同一組的所述鄰居節點的路徑的類型相同；

將所述待預測節點、分組后的所述鄰居節點以及節點之間的路徑輸入訓練好的異構圖神經網絡模型，得到待預測節點的表示向量后輸入訓練好的預測模型進行預測。

2.如權利要求1所述的基于異構圖神經網絡模型進行預測的方法，所述將所述待預測節點、分組后的所述鄰居節點以及節點之間的路徑輸入訓練好的異構圖神經網絡模型，得到待預測節點的表示向量還包括：

融合節點注意力權重和/或路徑注意力權重后得到所述待預測節點的表示向量。

3.如權利要求1所述的基于異構圖神經網絡模型進行預測的方法，所述將所述待預測節點、分組后的所述鄰居節點以及節點之間的路徑輸入訓練好的異構圖神經網絡模型，得到待預測節點的表示向量包括：

基于路徑的重要程度確定路徑的注意力權重；

基于所述分組融合的待預測節點信息和所述路徑的注意力權重確定所述待預測節點的表示向量。

4.如權利要求3所述的基于異構圖神經網絡模型進行預測的方法，所述將所述待預測節點、分組后的所述鄰居節點以及節點之間的路徑輸入訓練好的異構圖神經網絡模型，得到待預測節點的表示向量還包括：

基于鄰居節點的重要程度確定節點的注意力權重，基于所述分組融合的待預測節點信息、所述節點的注意力權重和所述路徑的注意力權重確定所述待預測節點的表示向量。

5.如權利要求1所述的基于異構圖神經網絡模型進行預測的方法，所述預測內容包括預測目標對象的類別、風險等級或者偏好習慣。

6.如權利要求1所述的基于異構圖神經網絡模型進行預測的方法，所述訓練好的異構圖神經網絡模型和訓練好的預測模型采用如下端到端訓練獲得：

基于預測模型的損失函數迭代更新預測模型以及異構圖神經網絡模型的模型參數，直到滿足迭代截止條件。

7.如權利要求6所述的方法，所述端到端訓練還包括：

將若干個異構圖數據作為訓練數據，將對應于該異構圖數據的節點正確結果作為該訓練數據的標簽數據，所述預測模型的參數和異構圖神經網絡模型的參數利用所述訓練數據和所述標簽數據通過訓練迭代更新。

8.如權利要求1所述的基于異構圖神經網絡模型進行預測的方法，所述將所述待預測節點、分組后的所述鄰居節點以及節點之間的路徑輸入訓練好的異構圖神經網絡模型，得到待預測節點的表示向量包括：

根據同一組的所述鄰居節點的特征信息，逐一得到對應于該組的組聚合向量；

針對每一所述組聚合向量，將該待預測節點特征信息融合，得到分組融合的待預測節點信息。

9.一種基于異構圖神經網絡模型進行預測的系統，所述系統包括：

異構圖獲取模塊，用于獲取與預測內容相關的異構圖數據，所述異構圖數據包括待預測節點、所述待預測節點的鄰居節點、以及連接所述待預測節點與所述鄰居節點之間的路徑，所述路徑包括至少一種類型；

分組模塊，用于基于所述路徑的類型，對所述鄰居節點進行分組，以使得同一組的所述鄰居節點的路徑的類型相同；

節點預測模塊，用于將所述待預測節點、分組后的所述鄰居節點以及節點之間的路徑輸入訓練好的異構圖神經網絡模型，得到待預測節點的表示向量后輸入訓練好的預測模型進行預測。

10.如權利要求9所述的基于異構圖神經網絡模型進行預測的系統，所述節點預測模塊還用于：融合節點注意力權重和/或路徑注意力權重后得到所述待預測節點的表示向量。