[發明專利]一種融合圖神經網絡推薦算法

在審

• 申請號: 202110374761.3
• 申請日: 2021-04-08
• 公開（公告）號: CN113095483A
• 公開（公告）日: 2021-07-09
• 發明（設計）人: 韓越林
• 申請（專利權）人: 哈爾濱理工大學
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08;G06K9/62
• 代理公司: 暫無信息
• 代理人: 暫無信息

本發明提出一種融合圖神經網絡推薦算法，包括：步驟一、將分類特征數據轉換成獨熱向量對連續數據進行歸一化；步驟二、將獨熱向量通過嵌入層，使用戶和項進行嵌入初始化；步驟三、嵌入初始化后的數據進入傳播層，通過注入高階連通性關系來細化嵌入；步驟四、細化嵌入后的數據輸入到網絡層，在網絡層構造深度網絡和交叉網絡進行高階的交叉特征；步驟五、合并層對網絡層進行整合；步驟六輸出層，合并層數據在傳入輸出神經元，輸出用戶?項目對的得分。

技術領域

本發明涉及一種融合圖神經網絡推薦算法，屬于推薦系統領域。

背景技術

在信息泛濫的時代，如何快速高效地萃取出有價值信息成為了人們的當務之急，傳統的推薦系統由此應運而生；隨著線上信息的體量、復雜度和動態性的不斷增長，推薦系統已經成為了一種可以有效解決這種信息過載問題的關鍵性解決方案；近幾年，深度學習的革命性進步在語音識別、圖像分析和自然語言處理方面都受到了廣泛關注；與此同時，近期的一些研究也說明了深度學習在處理信息檢索和推薦任務中的有效性；由于其一流的性能表現和高質量的推薦結果，將深度學習應用于推薦系統已經獲得了動力；與傳統推薦模型相比，深度學習可以更好的理解用戶需求、項目特征及其之間的歷史性互動；用戶和項目的向量表示是現代推薦系統的核心。

發明內容

本發明的目的是提出一種融合圖神經網絡推薦算法，是為了解決隱藏在用戶-項目交互中的協作信號沒有在嵌入過程中編碼；由此產生的嵌入可能不足以捕獲協作過濾效果。

步驟一、讀取原始數據，對樣本進行預處理，對連續數據將各維度特征歸一化到同一取值區間；對分類特征數據進行獨熱編碼。

步驟二、獨熱向量通過嵌入層，使用戶和項進行嵌入初始化，用于可視化不同離散變量之間的關系。

步驟三、構建圖神經網絡的消息傳遞體系結構，即嵌入傳播層，沿著圖結構捕獲連通性關系并細化用戶和項的嵌入。

步驟四、網絡層分為交互層和深度網絡，以一種顯示、可控且高效的方式，自動構造有限高階交叉特征，交互層使得可以處理梯度消失的問題，使網絡可以“更深”；深度網絡，通過神經網絡來進行擬合。

步驟五、合并層將交互層和深度網絡的輸出合并成一維向量。

步驟六、將一維向量轉換成輸出用戶-項目對的得分。

進一步的，在步驟二中，嵌入初始化的維度為32。

進一步的，所述步驟三中包括以下步驟：

步驟三一、對于一個連接的用戶-項目對，定義i到u的信息嵌入為：

為可訓練權矩陣，提取有用信息進行傳播為轉換大小；，表示用戶u和項目i的緊挨的鄰居，括號前面的是系數是拉普拉斯標準化。

步驟三二、消息聚合在此階段，整合從用戶u的鄰域傳播的消息，以改進用戶u的表示：

是用戶u在一階嵌入傳播層獲得的表示除了從鄰居傳播的消息外，還考慮了u 的自連接:，保留了原始特征的信息。

步驟三三、嵌入合并通過堆疊i嵌入傳播層，用戶(和項)能夠接收從其i個間接鄰居傳播的消息；在第i步中，用戶u的表示遞歸式為:

。

步驟三四、連起來，構成用戶的最終嵌入；對 i 也做同樣的操作：

其中為串聯操作；使用加權平均來進行串聯。

步驟四一、交叉層使用公式：

其中。

步驟四二、深度網絡，所有層分為輸入層、隱層和輸出層，不同層之間是全連接的。

步驟四三，深度網絡使用的激活函數是RELU函數。

附圖說明