[發明專利]一種基于對抗樣本檢測的聯邦學習后門防御方法和裝置

在審

• 申請號: 202211525240.4
• 申請日: 2022-11-30
• 公開（公告）號: CN115796273A
• 公開（公告）日: 2023-03-14
• 發明（設計）人: 陳晉音;劉濤;黃國瀚;李榮昌;鄭雅羽;宣琦
• 申請（專利權）人: 浙江工業大學
• 主分類號: G06N3/098
• 分類號: G06N3/098;G06N3/094;G06F18/214;G06F18/23213;G06F18/24
• 代理公司: 杭州求是專利事務所有限公司 33200
• 代理人: 邱啟旺

1.一種基于對抗樣本檢測的聯邦學習后門防御方法，其特征在于，包括以下步驟：

(1)初始化聯邦學習訓練環境：本地設置有M個客戶端參與聯邦訓練，云端設置1個服務器；服務器為每個客戶端分別下發一個初始模型參數θ^k＝0；

(2)開始聯邦學習訓練前，本地的每個客戶端上傳數據集信息，云端的服務器根據上傳的數據集信息收集得到用于車聯網聯邦學習任務的檢測數據集X：X＝{x₁,x₂,…,x_i,…,x_n}，其中，x_i表示第i個檢測數據，i＝1,2…,i,…,n；

(3)服務器將初始全局模型參數發送給本地的每個客戶端，開始聯邦學習訓練；

(4)進行第k輪的聯邦學習訓練的每個客戶端將訓練好的本地模型參數上傳到服務器，服務器根據本地模型參數為每個客戶端生成一個對抗樣本集；

(5)利用生成的對抗樣本集對相應的本地模型參數進行測試，得到測試向量集合P_k；并利用檢測數據集X對初始模型參數θ^k＝0進行測試，得到干凈測試向量P；通過測試向量集合P_k和干凈測試向量P進行K-means聚類，得到第k輪的良性簇

(6)當任意客戶端的測試向量屬于良性簇對該客戶端的信任分數加1；當任意客戶端的測試向量不屬于良性簇對該客戶端的信任分數加0；重復上述步驟，得到每個客戶端的信任分數；根據本輪信任分數加1的客戶端的本地模型參數進行聚合，得到第k輪的全局模型參數并將全局模型參數下發給本地的各個客戶端進行下一輪聯邦學習訓練；

(7)重復步驟(4)-步驟(6)，直至全局模型收斂，得到最后一輪的全局模型參數，用于車聯網的聯邦學習后門防御。

2.根據權利要求1所述的一種基于對抗樣本檢測的聯邦學習后門防御方法，其特征在于，所述步驟(4)具體包括以下子步驟：

(4.1)對于第k輪聯邦學習訓練，任意一個客戶端訓練好的本地模型參數為并上傳給服務器，其中，下標m表示第m個客戶端，m＝1,2,…,m,…M；

(4.2)根據每個本地模型為每個客戶端生成一個對抗樣本集

所述對抗樣本的計算公式如下：

其中，y_i為檢測數據x_i的類標；為第m個客戶端的第k輪聯邦學習訓練好的本地模型；表示本地模型參數的損失函數，ε為設定的對抗上限；sign是符號函數，將大于0的輸入替換成1，將小于0的輸入替換為-1；表示為求偏導。

3.根據權利要求2所述的一種基于對抗樣本檢測的聯邦學習后門防御方法，其特征在于，所述步驟(5)具體包括以下子步驟：

(5.1)利用生成的對抗樣本集對相應的本地模型參數進行測試，得到本地模型參數的三個測試結果：模型倒數第二層神經元激活值、類標翻轉統計、對抗攻擊成功率，并將三個測試結果拼接成一個測試向量

重復上述步驟，得到每個客戶端的測試向量，得到測試向量集合P_k：

(5.2)利用檢測數據集X對初始模型參數θ^k＝0進行測試，得到干凈測試向量P；

(5.3)對測試向量集合和干凈測試向量P進行K-means聚類，分為4類；

(5.4)將干凈測試向量P所在的一類定義為最優簇，并將干凈測試向量P從最優簇中刪去，得到良性簇此時良性簇中共有H_k個測試向量。

4.根據權利要求3所述的一種基于對抗樣本檢測的聯邦學習后門防御方法，其特征在于，所述步驟(6)具體包括以下子步驟：

(6.1)給每個客戶端賦予一個初始信任分數在第k輪聯邦學習訓練中，當則當則

(6.2)通過屬于良性簇的測試向量相對應的客戶端的本地模型參數進行聚合，得到全局模型參數其中，j＝1,2,…,j,…,H_k。

5.一種基于對抗樣本檢測的聯邦學習后門防御裝置，其特征在于，包括一個或多個處理器，用于實現權利要求1-4中任一項所述的于對抗樣本檢測的聯邦學習后門防御方法。

6.一種計算機可讀存儲介質，其上存儲有程序，其特征在于，該程序被處理器執行時，用于實現權利要求1-4中任一項所述的于對抗樣本檢測的聯邦學習后門防御方法。