[發明專利]一種基于異構圖神經網絡的推薦方法

有效

• 申請號: 202110296182.1
• 申請日: 2021-03-19
• 公開（公告）號: CN112990972B
• 公開（公告）日: 2022-11-18
• 發明（設計）人: 許勇;邵逸臻
• 申請（專利權）人: 華南理工大學
• 主分類號: G06Q30/02
• 分類號: G06Q30/02;G06F16/9536;G06N3/04;G06N3/08
• 代理公司: 廣州市華學知識產權代理有限公司 44245
• 代理人: 楊望仙

1.一種基于異構圖神經網絡的推薦方法，其特征在于，包括步驟：

收集帶有用戶間社交關系、用戶-商品交互歷史數據以及商品類別信息的數據集，并過濾無效數據以及進行負采樣；

從數據集中隨機選取用戶集合及相關商品集合，并進行多階圖采樣與建圖；

結點特征提取：將構建的圖輸入到包括多層異構圖記憶網絡層的異構圖神經網絡中進行處理，得到結點的融合結點嵌入向量；對于不需要經過重校準步驟的商品結點而言，商品結點的融合結點嵌入向量即為商品融合嵌入向量；

重校準：對用戶融合結點嵌入向量進行重校準，得到用戶最終表示嵌入向量；

推薦預測：使用用戶最終表示嵌入向量和商品融合嵌入向量進行偏好預測，并得到推薦順序。

2.根據權利要求1所述的推薦方法，其特征在于，多階圖采樣與建圖過程包括：

(1)隨機選取數據集的用戶商品對，若未負采樣則還需進行商品負采樣，將選取集合中的用戶和商品以及負采樣商品作為圖采樣的種子結點；

(2)對種子結點進行多階圖采樣，確定階數以及每階采樣點數后進行圖采樣，圖采樣方法采用根據類型采樣或簡單地按照同構采樣均可。

3.根據權利要求1所述的推薦方法，其特征在于，異構圖神經網絡包括一個多層跳躍連接神經網絡和一個用戶嵌入向量重校準網絡，其中：

多層跳躍連接神經網絡使用多層跳躍結構，每一層圖網絡層都有一個跳躍連接到最終輸出；

用戶嵌入向量重校準網絡用于對用戶融合結點嵌入向量進行重校準。

4.根據權利要求1所述的推薦方法，其特征在于，提取結點的融合結點嵌入向量步驟包括：

(1)輸入多階圖采樣與建圖所構建的圖到異構圖神經網絡當中，并通過初始嵌入向量表得到結點的初始嵌入向量；

(2)經過多層異構圖記憶網絡層，得到結點的每一層異構圖記憶網絡層的結點輸出嵌入向量；

(3)將結點的初始嵌入向量與每一層異構圖記憶網絡層的結點輸出嵌入向量融合得到結點的融合結點嵌入向量。

5.根據權利要求4所述的推薦方法，其特征在于，異構圖記憶網絡層的處理過程包括：

1)對圖中每一條邊使用記憶增強異構關系編碼器進行邊終點的特征提取；

2)對每一結點接受到的消息進行融合，得到結點輸出嵌入向量；

3)將對每一結點消息融合后的輸出嵌入向量直接作為異構圖記憶網絡層輸出的結點輸出嵌入向量；或者，使用Layernorm進行標準化并加上使用自環的記憶增強異構關系編碼器輸出作為異構圖記憶網絡層最終輸出的結點輸出嵌入向量。

6.根據權利要求4所述的推薦方法，其特征在于，記憶增強異構關系編碼器包括以下操作：

a)使用激活函數激活后的可學帶偏置線性變換得到邊所對應關系下邊終點的記憶增強異構關系編碼器的每一記憶單元的系數；

b)利用所有記憶單元及其對應系數乘積之和作為變換矩陣，對邊所對應關系下邊起點的嵌入向量進行線性變換。

7.根據權利要求4所述的推薦方法，其特征在于，對每一結點接受到的消息進行融合的消息融合函數在不同類型結點的表現形式不同，包括：

對于用戶結點，其消息融合函數表現為歸一化后的該用戶結點的社交關系與用戶-商品交互歷史分別通過記憶增強異構關系編碼器得到的消息之和；

對于商品結點，其消息融合函數表現為歸一化后的該商品結點的用戶-商品交互歷史與商品類屬關系分別通過記憶增強異構關系編碼器得到的消息之和；

對于商品類別結點，其消息融合函數表現為歸一化后的該商品類別結點商品類屬關系通過記憶增強異構關系編碼器得到的消息之和。

8.根據權利要求4所述的推薦方法，其特征在于，得到結點的融合結點嵌入向量的方法包括：將結點初始嵌入向量與每一層異構圖記憶網絡層的輸出進行拼接，并使用Layernorm進行標準化。