[發明專利]基于服務器和客戶端雙重檢測的聯邦學習中毒攻擊的防御方法

有效

• 申請號: 202110872091.8
• 申請日: 2021-07-30
• 公開（公告）號: CN113688387B
• 公開（公告）日: 2023-08-22
• 發明（設計）人: 陳潔;陳昂
• 申請（專利權）人: 華東師范大學
• 主分類號: G06F21/56
• 分類號: G06F21/56;G06F21/57;G06F18/241;G06F18/214;G06N20/20
• 代理公司: 上海藍迪專利商標事務所(普通合伙) 31215
• 代理人: 徐筱梅;張翔

1.一種基于服務器和客戶端雙重檢測的聯邦學習中毒攻擊的防御方法，其特征在于，所述方法包括以下步驟：

步驟1：中毒攻擊檢測模型訓練

服務器為每個客戶端初始化一個用于中毒攻擊檢測的二分類模型，接收各個客戶端提供的訓練參數，針對每個客戶端訓練一個中毒攻擊檢測模型；

步驟2：服務器端中毒攻擊檢測

服務器用步驟1所述中毒攻擊檢測模型對對應的客戶端進行中毒攻擊概率預測，將客戶端分為可疑客戶端和正常客戶端；特別地，將正常客戶端中中毒攻擊概率較低的客戶端標記為可信客戶端；

步驟3：可信客戶端評分

可信客戶端接收可疑客戶端的更新參數，并根據服務器端制定的評分規則對接收到的可疑客戶端進行評分；服務器綜合所有可信客戶端的評分對可疑客戶端是否為中毒攻擊客戶端進行判斷；

步驟4：聯邦學習聚合

服務器丟棄被判定為中毒攻擊客戶端的模型更新參數，只將正常客戶端的模型更新參數進行聚合，從而實現了中毒攻擊的防御，并完成聯邦學習模型的更新。

2.根據權利要求1所述的基于服務器和客戶端雙重檢測的聯邦學習中毒攻擊的防御方法，其特征在于，步驟1所述訓練一個中毒攻擊檢測模型，具體包括下述步驟：

步驟A1：設有N個客戶端C＝{C₁，C₂，...，C_n}，服務器為每個客戶端初始化一個相同的用于中毒攻擊檢測的二分類模型G＝{G₁，G₂，...，G_n}；其中，所述二分類模型為使用sigmoid函數作為激活函數的邏輯回歸模型，該模型由sigmoid函數輸出客戶端為中毒攻擊的概率；

步驟A2：每個客戶端使用本地數據集訓練參與聯邦學習的模型G_task，得到正確的模型更新參數；在聯邦學習中，模型G_task在系統初始化時由客戶端和服務器共同生成；具體為：首先由服務器發送建模任務，尋求參與客戶端；客戶端數據持有方根據自身需求，提出聯合建模設想；在與其他合作數據持有方達成協議后，聯合建模設想被確立，各數據持有方進入聯合建立模型G_task的過程，由服務器向各數據持有方發布模型G_task的初始參數；模型G_task隨著聯邦學習的聚合過程而不斷更新；設客戶端i得到的正確的模型更新參數為Up_itrue；

步驟A3：每個客戶端根據本地數據集，隨機生成一些錯誤標簽的數據集，用這些錯誤標簽數據訓練聯邦學習的模型G_task，模擬中毒攻擊，得到中毒的更新參數；設客戶端i得到的正確的模型更新參數為Up_ifalse；

步驟A4：服務器接收客戶端的正確和錯誤的模型更新參數對，得到數據集Up＝{Up_1true，Up_1false，...，Up_ntrue，Up_nfalse}；

步驟A5：服務器初始化一個同步驟A1的二分類模型，按順序每次輸入一個更新參數對中的兩個數據作為訓練數據進行中毒攻擊檢測模型的訓練，并記錄下訓練后的模型結果，記為{p₁，p₂，...，p_n}；

步驟A6：服務器重新初始化一個同步驟A1的二分類模型，逆序每次輸入一個更新參數對中的兩個數據作為訓練數據進行中毒攻擊檢測模型的訓練，并記錄下訓練后的模型結果，記為{p_rn，p_rn-1，...，p_r1}；

步驟A7：根據步驟A5和步驟A6的結果，為每個客戶端聚合生成一個中毒攻擊檢測模型；對于客戶端C₁，其最終的中毒攻擊檢測模型G₁的參數即為p_r2；對于客戶端C_n，其最終的中毒攻擊檢測模型G_n的參數即為p_n-1；對于客戶端C_i，(1＜i＜n)，服務器將參數p_i-1和p_ri+1聚合，即可得到其最終的中毒攻擊檢測模型G_i的參數。