[發明專利]一種基于聯邦學習的社交協同過濾推薦方法

有效

• 申請號: 202210412917.7
• 申請日: 2022-04-20
• 公開（公告）號: CN114510652B
• 公開（公告）日: 2023-04-07
• 發明（設計）人: 劉柏嵩;羅林澤;張雪垣;欽蔣承;張云沖
• 申請（專利權）人: 寧波大學
• 主分類號: G06F16/9536
• 分類號: G06F16/9536;G06F18/214;G06N20/20
• 代理公司: 寧波中致力專利代理事務所(普通合伙) 33322
• 代理人: 張圓;黃挺

本發明公開了一種基于聯邦學習的社交協同過濾推薦方法，包括以下步驟：步驟1、由中央服務器選擇參與本地訓練的用戶客戶端；步驟2、在用戶客戶端上進行E輪本地訓練，每輪本地訓練過程中，分別通過矩陣分解模塊、用戶對比模塊和物品對比模塊來計算模型損失函數；步驟3、完成E輪本地訓練后，通過梯度保護模塊，得到最終需要上傳的梯度，并將其上傳至中央服務器進行梯度聚合；步驟4、重復步驟1至步驟3，得到充分訓練后的用戶嵌入向量和物品嵌入向量；步驟5、將用戶嵌入向量和物品嵌入向量作為評分預測模塊的輸入，得到對用戶推薦的物品序列。本發明能夠有效緩解聯邦社交推薦中的數據非獨立同分布問題對模型推薦性能的影響。

技術領域

本發明涉及人工智能交互技術領域，特別是一種基于聯邦學習的社交協同過濾推薦方法。

背景技術

推薦系統作為一種數據驅動的應用，通常來說，通過收集用戶的個人信息、交互記錄（瀏覽、評分等）來集中式地訓練推薦模型，捕獲用戶的興趣偏好，從而對用戶產生推薦。然而，集中式地存儲這些用戶信息，存在巨大的隱私安全問題。

隨著諸如GDPR之類的保護隱私安全的法案的提出，推薦系統中的隱私保護問題成為了一個重點研究的問題。聯邦學習作為一種去中心化的機器學習的范式，在保護隱私上的優勢逐漸受到國內外學者的重視。聯邦學習首先在用戶客戶端，利用用戶的本地數據分別訓練本地模型的參數，隨后將其上傳至服務端完成聚合，隨后將聚合后的全局模型參數發送到下一輪需要訓練的用戶客戶端上，并進行下一輪模型訓練。聯邦學習能夠保證用戶原始數據始終留在用戶本地。目前，已經有一些關于聯邦推薦系統的研究，FCF作為第一個基于聯邦學習的協同過濾推薦方法，利用矩陣分解結合隱式反饋來學習用戶和物品的嵌入向量。FedRec在FCF的基礎上，對用戶和物品的評分矩陣進行分解，得到用戶和物品的潛在嵌入，并完成物品評分預測的任務。然而，基于聯邦學習的推薦系統中仍然存在傳統推薦中的冷啟動問題，并且在聯邦學習這種分布式的訓練模式下，數據非獨立同分布的問題也成了亟待解決的一個問題。傳統推薦中往往會考慮引入用戶的社交信息來進行輔助推薦，及社交推薦。SocialMF添加了一個用戶和他的信任用戶的平均潛在向量的相似度的社交正則項，來利用社交信息緩解冷啟動問題和提高推薦模型的性能。FedGNN、FeSoG是近期關于聯邦社交推薦的研究，它們利用GNN來同時提取用戶和物品、用戶和用戶之間的信息。然而，它們并沒有關注數據非獨立同分布對聯邦推薦模型帶來的影響，這會導致聯邦社交推薦系統的性能嚴重下降。因為用戶本地模型更新的方向可能與全局模型更新的方向存在差異，導致模型參數聚合的結果與全局最優的結果產生偏差。

綜上所述，盡管當前的聯邦社交推薦方法可以解決在用戶隱私安全方面的問題和新用戶的冷啟動問題，但是忽視了數據非獨立同分布問題對模型性能的影響。

發明內容

本發明的目的在于，提供一種基于聯邦學習的社交協同過濾推薦方法。本發明能夠在解決用戶隱私安全方面的問題和新用戶冷啟動問題的基礎上，還能有效緩解聯邦社交推薦中的數據非獨立同分布問題對模型推薦性能的影響。

本發明的技術方案：一種基于聯邦學習的社交協同過濾推薦方法，包括以下步驟：

步驟1、由中央服務器選擇參與本地訓練的用戶客戶端，并將物品嵌入向量和對應的用戶嵌入向量分發到所述用戶客戶端；

步驟2、在用戶客戶端上進行E輪本地訓練，每輪本地訓練過程中，分別通過矩陣分解模塊、用戶對比模塊和物品對比模塊來計算模型損失函數；

步驟3、完成E輪本地訓練后，通過梯度保護模塊，得到最終需要上傳的梯度，并將其上傳至中央服務器進行梯度聚合，隨后對物品嵌入向量進行更新，完成一個完整的通訊輪次；

步驟4、重復步驟1至步驟3，直至完成預定個數的通訊輪次，得到充分訓練后的用戶嵌入向量和物品嵌入向量；

步驟5、將步驟4得到的用戶嵌入向量和物品嵌入向量作為評分預測模塊的輸入，得到對用戶推薦的物品序列。