[發明專利]一種基于合作博弈論的聯邦學習中后門攻擊的檢測方法

有效

• 申請號: 202011118184.3
• 申請日: 2020-10-19
• 公開（公告）號: CN112257063B
• 公開（公告）日: 2022-09-02
• 發明（設計）人: 朱浩瑾;奚彬涵;李少鋒
• 申請（專利權）人: 上海交通大學
• 主分類號: G06F21/55
• 分類號: G06F21/55;G06N20/00
• 代理公司: 上海恒慧知識產權代理事務所(特殊普通合伙) 31317
• 代理人: 張寧展

1.一種基于合作博弈論的聯邦學習中后門攻擊的檢測方法，其特征在于：通過聯邦學習中央服務器采集各個用戶上傳的每一輪訓練輪次的模型梯度數據，然后利用合作博弈論中的Shapley值改進算法對每個用戶的模型梯度數據進行計算，獲得其對整體全局模型貢獻程度的度量值，最后基于絕對離差中位數的離群檢測算法，對得到的度量值進行后門攻擊異常檢測，從而判斷對應的用戶是否為攻擊者；

定義上傳模型梯度數據的所有用戶組成原始用戶集合，判斷所述原始用戶集合內部的用戶數量和是否大于閾值，若是，利用蒙特卡洛方法對原始用戶集合進行采樣，構成新集合M，計算所述新集合M中各個用戶的邊際貢獻度，取其平均值作為Shapley估計值，再計算每一個用戶從訓練開始到當前輪次的Shapley估計值的累加值，以所述累加值作為其對整體全局模型貢獻程度的度量值；

否則，利用合作博弈論中的Shapley值算法對各個用戶進行Shapley值計算，再計算每一個用戶從訓練開始到當前輪次的Shapley值的累加值，以所述累加值作為其對整體全局模型貢獻程度的度量值。

假設將聯邦學習系統抽象建模成一個合作博弈系統(N,v)，其中，N表示參與聯邦學習的用戶集合，v表示效用函數，利用如下方程式，計算第i個用戶的Shapley值

其中，v表示效用函數，R表示所有參與聯邦學習的用戶的某一種排列，所有的排列共有π(N)＝|N|！種，P_i^R表示以i結尾的按R排列的用戶集合；

從所有參與聯邦學習的用戶的所有排列集合π(N)中等概率地抽取m個樣本，構成新集合M，利用如下方程式，計算新集合中各個用戶的Shapley估計值：

其中，表示新集合M中每個樣本O中的每i個用戶的邊際貢獻度；

將第i個用戶的所述累加值代入如下方程式，判斷其結果是否大于設定值，若是，則判定第i個用戶為攻擊者，否則第i個用戶不是攻擊者：

其中，表示第i個用戶在第t輪次時Shapley值的累加值，N和v分別表示用戶集合和所用的效用函數，median表示中位數操作。

2.根據權利要求1所述的基于合作博弈論的聯邦學習中后門攻擊的檢測方法，其特征在于：所述閾值設置為五。