[發明專利]一種基于圖交互網絡的推薦方法

在審

• 申請號: 202010578943.8
• 申請日: 2020-06-23
• 公開（公告）號: CN111881363A
• 公開（公告）日: 2020-11-03
• 發明（設計）人: 簡萌;張宸林;毋立芳;鄧斯諾;胡文進;盧哲;張恒
• 申請（專利權）人: 北京工業大學
• 主分類號: G06F16/9536
• 分類號: G06F16/9536;G06Q30/06;G06K9/62;G06N3/04;G06N3/08
• 代理公司: 北京思海天達知識產權代理有限公司 11203
• 代理人: 劉萍

1.一種基于圖交互網絡的推薦方法，其特征在于，設計應用了以下幾個模塊：用戶偏好信息和物品屬性信息優化模塊、U-I交互特征提取模塊、交互推測模塊、Top-N推薦模塊；

首先將用戶和物品關系數據進行圖結構化建模；用戶偏好信息和物品屬性信息優化模塊通過堆疊兩層均值卷積層提取用戶特征和物品特征表達；U-I交互特征提取模塊利用圖注意力機制，融合目標用戶特征和待推薦物品特征得到圖交互網絡上的隱含特征表達，也就是U-I關系對的交互向量；交互推測模塊通過DNN網絡學習交互特征向量的分布規律，建模U-I之間非線性關系，得到用戶對目標物品的預測評分；最后通過top-N推薦模塊對目標物品進行排序實現對用戶的個性化推薦任務。

2.根據權利要求1所述的方法，其特征在于：

1).用戶偏好信息和物品屬性信息優化

第一個模塊是用戶偏好和物品屬性特征優化模塊，用戶偏好信息建模的目的是根據用戶交互行為得到精確的用戶偏好特征表示；通過兩層均值卷積層得到用戶和物品特征表達；其中用戶偏好和物品屬性相符合的用戶、物品之間在特征空間中的分布會更接近；

首先將U-I交互數據進行圖結構化建模，發生交互行為的用戶物品之間建立連接關系；然后，初始化用戶偏好特征和物品屬性特征，用戶特征和物品特征都是128維的高維向量；通過均值卷積層優化用戶和物品的特征表示，其中每一層目標節點特征學習是基于該節點上一層鄰居節點特征和該節點特征進行平均化處理得到，每一層均值卷積層的節點特征維度相同；

2).U-I交互特征提取模塊

第二個模塊是U-I交互特征提取模塊，提取目標用戶和待推薦物品之間的交互特征表達；U-I交互特征提取模塊直接在圖交互網絡上利用注意力機制網絡，融合目標用戶特征及其一階鄰居特征、待推薦物品特征及其一階鄰居特征，得到其交互特征表達；

首先，拼接用戶特征和用戶一階鄰居節點特征，以及拼接待推薦物品特征和其一階鄰居節點特征；將拼接特征輸入到自注意力網絡中得到該模塊的attention系數，其中自注意力網絡采用的是兩層全連接層網絡建模；最后，通過學習得到的attention權值系數聚合對應的U-I目標節點特征和其鄰居節點特征得到最終的交互特征向量；

3).交互推測模塊

第三個模塊是交互推測模塊，學習U-I交互特征的信息分布，計算用戶對目標物品的推測評分；通過經典的DNN網絡融合用戶和物品的特征信息，得到推測結果；

在得到用戶和目標物品的交互特征表達后，直接將交互向量輸入到DNN網絡中，得到模型的初步預測；通過sigmoid函數對模塊預測值進行歸一化處理，將用戶對目標物品的預測評分建模為偏好概率表達；

4).Top-N推薦模塊

最后一個模塊是top-N推薦模塊，得到目標用戶對待推薦列表所有物品的評值預測后；對所有物品根據評分進行降序排序，將前N個物品推薦給該用戶，實現該用戶的個性化推薦。

3.根據權利要求1所述的方法，其特征在于，具體實施步驟如下：

首先根據U-I交互數據進行圖結構化建模；為有交互記錄的用戶和物品之間建立連接關系，其中每個用戶和物品都是以無向圖的節點的形式存在；

1).用戶偏好信息和物品屬性信息建模

完成圖結構化建模后，隨機初始化U-I關系圖節點特征,任一節點特征都是128維的高維向量；根據無向圖節點連接關系，搭建兩層均值卷積層網絡，每一層均值卷積層網絡中的所有節點特征都是通過聚合上一層網絡中的該節點特征及其一階鄰居節點特征得到，其中聚合方式為平均化處理，聚合方式的數學表達式為：

其中表示第K層均值卷積層的用戶節點u的特征；N(u)表示用戶節點u的一階物品鄰居節點；N(v)表示物品節點v的一階用戶鄰居集合；表示第K層均值卷積層的物品節點v的特征；MEAN表示均值化處理，即相關U-I特征每個維度求其平均值；

2).U-I交互特征提取模塊

用戶物品特征建模完成后，針對無向圖中的目標用戶和待推薦物品節點，融合圖注意力機制，聚合用戶、物品特征及其一階鄰居特征得到其交互特征表達；

首先，拼接用戶特征和用戶一階鄰居節點特征，以及拼接待推薦物品特征和其一階鄰居節點特征，將拼接得到特征輸入到自注意力網絡中得到用戶和物品節點特征對應的attention系數，并對其進行softmax歸一化處理；其中，圖注意力網絡采用的是兩層全連接層進行建模；attention系數建模數學表達式為：

其中，W₁，W₂表示兩層attention網絡第一層、第二層的參數矩陣，b₁，b₂表示兩層attention網絡第一層、第二層的偏差系數，σ表示的是非線性激活函數，采用的是Relu激活函數；表示的是無向圖中目標用戶u_i的節點特征；h_a表示的是節點a的特征，節點a是用戶u_i及其一階鄰居N(i)的集合中任一節點；N(i)表示用戶u_i的一階物品鄰居集合；表示拼接處理；表示的是待推薦物品v_j的節點特征；h_b表示的是節點b的特征，節點b是物品v_j及其一階鄰居N(j)的集合中任一節點；N(j)表示物品v_j的一階用戶鄰居集合；和表示將拼接得到的特征通過attention網絡初步得到的權重系數；隨后進行softmax歸一化處理，得到目標用戶及其一階鄰居的attention系數α_ia和待推薦物品及其一階鄰居的attention系數β_jb；

在得到用戶及其一階鄰居和目標物品及其一階鄰居的attention系數后，融合attention系數加權目標節點特征得到最終的交互特征表達；其數學表達式為：

z_ij為得到的目標用戶u_i及其待推薦物品v_j的交互特征表達；

3).交互推測模塊

將交互特征輸入到DNN網絡中，得到用戶對該物品的預測評分，然后通過sigmoid歸一化處理將模型的預測評分建模為用戶對目標物品的概率表達；其數學表達式為：

g₁＝z_ij (8)

g₂＝σ(W₁·g₁+b₁) (9)

g₃＝σ(W₂·g₂+b₂) (10)

r′_ij＝sigmoid(W₃·g₃) (11)

其中W₁，W₂，W₃表示DNN網絡的參數矩陣，b₁，b₂表示的是DNN網絡中的偏差系數，σ表示的是非線性激活函數，采用的是Relu激活函數；g₁，g₂，g₃是DNN網絡每一層輸出的交互向量表達；r′_ij是經過sigmoid歸一化后得到的最終的概率預測評值表達；

4).Top-N推薦模塊

在得到模型對每個用戶的所有物品的預測評值后，根據模型輸出值對參與評比的物品進行由大到小排序，通過top-N推薦機制取排序完成后的前N個物品推薦給該目標用戶，進而完成對該用戶的個性化推薦。