[發明專利]基于隱私保護的去中心化業務模型訓練方法及裝置

有效

• 申請號: 202210980484.5
• 申請日: 2022-08-16
• 公開（公告）號: CN115081024B
• 公開（公告）日: 2023-01-24
• 發明（設計）人: 鄭小林;陳超超;王鐘毓;錢嘉曙;鄒子煜;鮑力成
• 申請（專利權）人: 杭州金智塔科技有限公司
• 主分類號: G06F21/62
• 分類號: G06F21/62;G06N20/00
• 代理公司: 北京智信禾專利代理有限公司 11637
• 代理人: 張瑞

本說明書提供基于隱私保護的去中心化業務模型訓練方法及裝置，其中所述方法包括：確定目標用戶的用戶關聯集群，在所述用戶關聯集群中確定所述目標用戶對應的鄰居用戶集合；確定所述目標用戶的待更新業務模型的初始模型梯度，接收所述鄰居用戶集合中每個鄰居用戶發送的鄰居模型梯度，其中，所述鄰居模型梯度為鄰居用戶對應的鄰居業務模型基于鄰居用戶對應的鄰居訓練數據生成；聚合所述初始模型梯度以及所述鄰居模型梯度，獲得所述待更新業務模型的目標模型梯度；基于所述目標模型梯度更新所述待更新業務模型，獲得所述目標用戶的目標業務模型，目標用戶將本地的梯度與采樣的鄰居所分享的梯度進行聚合，不僅保護用戶隱私數據還可高效訓練本地模型。

技術領域

本說明書涉及計算機技術領域，特別涉及一種基于隱私保護的去中心化業務模型訓練方法。本說明書同時涉及一種基于隱私保護的去中心化業務模型訓練裝置，一種計算設備，以及一種計算機可讀存儲介質。

背景技術

深度學習技術是目前研究最廣泛的計算機技術之一，在推薦系統、圖像識別和自然語言處理等領域都有突出的應用。為保障用戶數據隱私安全的前提下訓練高性能的深度學習模型，目前大多數均可采用無中心化的隱私保護深度學習系統，作為一種優化實現，去中心化的深度學習系統在實踐中取得了一定的隱私保護效果和較好的運行效率，其允許數據存放于用戶本地，并給予高效的去中心化算法訓練模型。但是，惡意的用戶或機構可能會利用分享的梯度信息，推斷用戶隱私數據，進而，不僅導致用戶隱私數據的泄漏，也制約了系統的運行效率。

發明內容

有鑒于此，本說明書實施例提供了一種基于隱私保護的去中心化業務模型訓練方法。本說明書同時涉及一種基于隱私保護的去中心化業務模型訓練裝置，一種計算設備，以及一種計算機可讀存儲介質，以解決現有技術中存在的技術缺陷。

根據本說明書實施例的第一方面，提供了一種基于隱私保護的去中心化業務模型訓練方法，包括：

確定目標用戶的用戶關聯集群，在所述用戶關聯集群中確定所述目標用戶對應的鄰居用戶集合；

確定所述目標用戶的待更新業務模型的初始模型梯度，接收所述鄰居用戶集合中每個鄰居用戶發送的鄰居模型梯度，其中，所述鄰居模型梯度為鄰居用戶對應的鄰居業務模型基于鄰居用戶對應的鄰居訓練數據生成；

聚合所述初始模型梯度以及所述鄰居模型梯度，獲得所述待更新業務模型的目標模型梯度；

基于所述目標模型梯度更新所述待更新業務模型，獲得所述目標用戶的目標業務模型。

根據本說明書實施例的第二方面，提供了一種基于隱私保護的去中心化業務模型訓練裝置，包括：

用戶集合確定模塊，被配置為確定目標用戶的用戶關聯集群，在所述用戶關聯集群中確定所述目標用戶對應的鄰居用戶集合；

模型梯度確定模塊，被配置為確定所述目標用戶的待更新業務模型的初始模型梯度，接收所述鄰居用戶集合中每個鄰居用戶發送的鄰居模型梯度，其中，所述鄰居模型梯度為鄰居用戶對應的鄰居業務模型基于鄰居用戶對應的鄰居訓練數據生成；

模型梯度聚合模塊，被配置為聚合所述初始模型梯度以及所述鄰居模型梯度，獲得所述待更新業務模型的目標模型梯度；

業務模型更新模塊，被配置為基于所述目標模型梯度更新所述待更新業務模型，獲得所述目標用戶的目標業務模型。

根據本說明書實施例的第三方面，提供了一種計算設備，包括：

存儲器和處理器；

所述存儲器用于存儲計算機可執行指令，所述處理器用于執行所述計算機可執行指令，該計算機可執行指令被處理器執行時實現上述方法的步驟。

根據本說明書實施例的第四方面，提供了一種計算機可讀存儲介質，其存儲有計算機可執行指令，該指令被處理器執行時實現所述方法的步驟。