[發明專利]一種在聯邦學習場景下針對全局數據分布進行攻擊的方法

在審

• 申請號: 202211526827.7
• 申請日: 2022-12-01
• 公開（公告）號: CN116192424A
• 公開（公告）日: 2023-05-30
• 發明（設計）人: 于東曉;張恒銘;謝珍真;王鵬;孫恩濤;杜超
• 申請（專利權）人: 山東大學;上海新時達電氣股份有限公司
• 主分類號: H04L9/40
• 分類號: H04L9/40;G06N20/00
• 代理公司: 青島華慧澤專利代理事務所(普通合伙) 37247
• 代理人: 付秀穎

本發明屬于面向聯邦學習的攻擊領域，具體涉及一種在聯邦學習場景下針對全局數據分布進行攻擊的方法，包括攻擊前的準備和在共享梯度的監督和引導下利用強化學習的整體攻擊過程；攻擊前的準備是設置攻擊時候所需要的各類參數、環境、工具；共享梯度的監督和引導下利用強化學習的整體攻擊過程是在共享梯度的監督和引導下，通過強化學習(深度強化學習算法DDPG)來調整惡意客戶本地數據的分布，最終推測出聯邦學習全局數據的分布情況。其優點在于，僅使用共享梯度和DDPG算法來調整惡意客戶本地數據的分布，最終推測出聯邦學習全局數據的分布情況。

技術領域

本發明屬于面向聯邦學習的攻擊領域，具體涉及一種在聯邦學習場景下針對全局數據分布進行攻擊的方法。

背景技術

近年來，機器學習和深度學習快速發展，被廣泛應用于在語音、圖像、文本識別和語言翻譯等方面。隨著邊緣智能的興起和人類活動的進一步擴展，數據規模呈現爆炸式增長，傳統機器學習的功效已大大下降。與此同時，各大公司對數據安全和隱私的意識逐漸增強，對數據隱私和安全的重視已成為世界范圍內的一個主要問題。由于數據規模劇增和隱私安全問題，即使是同一公司不同部門之間的數據集成也面臨重重阻力，因此數據往往以孤島的形式存在，不能發揮其應有的價值。在此背景下，聯邦學習迅速發展，聯邦學習本質上是一種加密的分布式學習框架，它僅通過交互模型的中間參數進行模型聯合訓練，私有訓練數據一直在本地，聯邦學習在數據隱私安全的基礎上，實現“數據共享”、“共同建模”。這種方式實現數據隱私保護和數據共享分析的平衡，即“數據可用不可見”的應用模式。而當下我們經常使用共享梯度作為交互模型的中間參數，所以共享梯度的安全性就異常重要。

然而分布式性質和默認的隱私聯合學習不足以保護客戶端私有訓練數據免受梯度泄漏攻擊，一旦共享梯度信息被泄漏給攻擊者，則攻擊者就有可能通過共享梯度恢復各個客戶的私有訓練數據。目前，多數利用重構攻擊從共享梯度中恢復私有訓練數據，例如：DLG和iDLG，但如果私有訓練數據規模較大、復雜度較高，兩者均有可能出現攻擊效率急劇低下、攻擊效果不佳或者是攻擊失敗的情況。

發明內容

基于上述問題和研究缺陷的存在，提出一種對聯邦學習全局數據的分布信息進行恢復攻擊的方法，它僅在共享梯度的監督和引導下，通過深度強化學習算法(DDPG)來調整惡意客戶本地數據的分布，最終推測出聯邦學習全局數據的分布情況。其技術方案為，

一種在聯邦學習場景下針對全局數據分布進行攻擊的方法，包括攻擊前的準備和在共享梯度的監督和引導下利用強化學習的整體攻擊過程；

攻擊前的準備是設置攻擊時候所需要的各類參數、環境、工具；

共享梯度的監督和引導下利用強化學習的整體攻擊過程是在共享梯度的監督和引導下，通過深度強化學習算法來調整惡意客戶本地數據的分布，最終推測出聯邦學習全局數據的分布情況。

優選的，在共享梯度的監督和引導下，智能體根據獎勵的變化情況，不斷學習如何選擇正確的動作，改變狀態，自動制定惡意客戶本地數據分布的調整策略，以此來促使惡意客戶的本地梯度和共享梯度的歐式距離越來越小，獎勵越來越大，一旦惡意客戶的本地梯度匹配共享梯度，環境返回的獎勵也會達到最大值，此時惡意客戶本地數據的分布情況就可以反應出聯邦學習全局數據的分布情況。

優選的，攻擊前的準備步驟如下，

步驟1：聯邦學習的中央服務器將當前的全局模型F(x；W)發送給參與訓練的客戶端，之后將聚合后的共享梯度也發送給參與訓練的客戶端；其中，x為參與訓練的客戶的訓練數據，W全局模型的參數權重；

步驟2：設計強化學習中的馬爾可夫決策過程，確定馬爾可夫決策過程包含的三個元素：狀態state、動作action、獎勵reward；