[發明專利]一種基于元路徑鄰域目標泛化的序列推薦方法

在審

• 申請號: 202210302504.3
• 申請日: 2022-03-25
• 公開（公告）號: CN114841765A
• 公開（公告）日: 2022-08-02
• 發明（設計）人: 陳俊揚;伍楷舜;鞏志國;戴志江
• 申請（專利權）人: 深圳大學
• 主分類號: G06Q30/06
• 分類號: G06Q30/06;G06F16/9535;G06N3/08
• 代理公司: 北京市誠輝律師事務所 11430
• 代理人: 耿慧敏;朱偉軍

1.一種基于元路徑鄰域目標泛化的序列推薦方法，包括以下步驟：

根據用戶的歷史行為序列，將項目及其共現建模為項目-項目圖，根據各項目與標簽之間的對應關系構建項目-標簽圖，并構建元路徑用于捕獲項目或標簽之間的不同復合關系，找到項目節點和標簽節點的基于元路徑的鄰居；

利用異構圖編碼用戶歷史交互信息，并構建項目和項目、項目和標簽之間的關系，并采用消息傳播機制和消息聚合機制來融合不同類型的節點及其關系；

針對所述異構圖進行嵌入學習訓練以獲得經訓練的序列推薦模型，在訓練過程中，對于每個目標預測，泛化在原始行為序列中不存在的潛在項目目標用于輔助訓練，并將項目節點的向量表示輸入到轉換層，其中所述潛在項目目標基于元路徑的鄰居獲得。

2.根據權利要求1所述的方法，其特征在于，所述消息傳播機制設置為：

對于每個項目，消息在中心節點及其鄰居之間進行傳播，包括直接鄰居以及基于元路徑的鄰居，使用線性變換定義從節點v_j到v_i的消息傳播，表示為：

其中表示從節點v_j傳播到v_i的消息，維度為d，M_v∈R^d×d是變換矩陣，表示使用獨熱編碼的關系類型，f_m(·)將關系類型和相鄰節點表示向量作為輸入，并輸出變換矩陣M_v，使用多層感知器MLP來融合拼接向量和

3.根據權利要求1所述的方法，其特征在于，所述消息聚合機制是基于均值的聚合，采用以下公式平均節點的鄰居信息：

其中，是節點v_i的鄰居集合，W∈R^d×d表示需要通過訓練獲得的權重矩陣，σ是激活函數，d是維度，表示從節點v_j傳播到v_i的消息，是節點v_i的表示向量。

4.根據權利要求1所述的方法，其特征在于，所述消息聚合機制是基于注意力的聚合，包括：

對于每個目標節點，利用自注意力機制來學習其鄰居的重要性權重，給定一個節點對(v_i，v_j)，權重系數定義為：

節點v_i的表示向量是通過聚合其鄰居傳遞過來的消息乘以權重系數獲得，表示為：

采用多頭注意力機制來穩定自注意機制的學習過程，表示為：

其中，K是自注意力機制的次數，W∈R^d×d是訓練獲得的權重矩陣，a∈R^2d表示權重向量，d是維度，表示從節點v_j傳播到v_i的消息。

5.根據權利要求1所述的方法，其特征在于，將時間信息嵌入到所述異構圖節點表示中，包括：

將項目之間的時間差縮放到(0，N)之間，N是設定整數；

使用時間信息嵌入矩陣P∈R^N×d來對輸入的表示向量進行編碼，給定進行以下的相加計算：

其中p_i∈P是d維的時間信息嵌入向量，其索引i由項目節點v_i-1和v_i之間的時間差計算縮放后獲得，是節點v_i的表示向量。

6.根據權利要求1所述的方法，其特征在于，訓練的優化目標是：

將目標用戶在項目i之前的歷史交互序列中所有項目的節點表示向量輸入到Transformer層中，并以最后輸出的h_u作為整個行為序列的表示；

將用戶u在設定時間段內點擊的前k個項目的標簽作為其統計特征A_u，輸入第一多層感知器MLP以獲得統計特征向量表示

將h_u和的嵌入進行拼接，并使用第二多層感知器MLP來融合表示向量，經過激活函數后獲得預測分數，表示為：

其中，σ是激活函數，表示向量拼接操作，表示預測用戶u可能點擊項目i的可能性。