[發明專利]基于聯邦學習的攻擊檢測與防御方法、裝置及存儲介質

有效

• 申請號: 202110436624.8
• 申請日: 2021-04-22
• 公開（公告）號: CN113301017B
• 公開（公告）日: 2022-04-08
• 發明（設計）人: 公茂果;高原;王善峰;武越;王釗;唐澤棟;劉志丹
• 申請（專利權）人: 西安電子科技大學;華為技術有限公司
• 主分類號: H04L9/40
• 分類號: H04L9/40;H04L41/14;H04L43/16;G06N20/20;G06K9/62;G06N3/08
• 代理公司: 西安嘉思特知識產權代理事務所(普通合伙) 61230
• 代理人: 劉長春

本發明公開了一種基于聯邦學習的攻擊檢測與防御方法，包括：根據原始模型的模型參數，將原始模型聚類為多個模型集合；確定每個模型集合對應的第一可疑度值；將第一可疑度值超出第一預設閾值的模型集合確定為異常集合，并計算異常集合中每個原始模型的第二可疑度值；將第一可疑度值未超出第一預設閾值的模型集合確定為正常集合，并將正常集合對應的第一可疑度值確定為正常集合中每個原始模型的第二可疑度值；按照預設可疑度計算規則，計算第二可疑度值，以得到第三可疑度值；將第三可疑度值超過第二預設閾值的客戶端，從服務器中刪除。本發明能夠在大規模客戶端的應用場景下，針對全部的攻擊種類，進行高效率高準確度的檢測與防御，且魯棒性強。

技術領域

本發明屬于人工智能領域，具體涉及一種基于聯邦學習的攻擊檢測與防御方法、裝置及存儲介質。

背景技術

隨著各界對用戶數據安全性的重視，本領域技術人員提出了聯邦學習技術，所述聯邦學習技術中所有訓練數據都保留在本地客戶服務器上，能夠防止數據的泄露，減小服務器壓力，能夠實現多參與者共同建模。具體的，所述聯邦學習技術的步驟是：服務器端建立有一個虛擬的共有模型供各參與者(客戶端)下載，各參與者用本地數據訓練所述模型，將訓練后得到的梯度更新信息等數據用加密通信的方式上傳至服務器，在服務器將多個參與者上傳的數據進行平均聚合，得到新的模型，將所述新的模型分發給參與下一輪訓練的參與者繼續進行訓練，以實現基于用戶數據安全的多參與者共同建模。

所述聯邦學習技術存在安全隱患，如：當攻擊者控制一臺或多臺參與者時，攻擊者能夠對參與者進行惡意投毒，包括但不局限于修改標簽、植入后門等操作，從而會通過參與者向服務器傳遞惡意數據，導致建模失敗，或者，被植入后門。

現有技術中針對上述安全隱患提出的檢測防御機制仍存在許多問題。首先，大部分防御機制受限于客戶端的數量，當客戶端數目超過客戶端總數的一定比例時，防御機制會失效；其次，現有防御機制的防御攻擊種類單一，基本上僅能針對特定的攻擊種類進行防御，其防御機制無法通用于多數或者全部的攻擊種類；另外，現有防御機制在執行防御任務時，耗時長，效率低，會占用大量的計算資源，不適用于大規模聯邦學習的應用場景。

發明內容

為了解決現有技術中存在的上述問題，本發明提供了一種攻擊檢測與防御方法、裝置及系統。本發明要解決的技術問題通過以下技術方案實現：

一種基于聯邦學習的攻擊檢測與防御方法，應用于服務器，所述服務器連接有多個客戶端，所述客戶端上部署有原始模型，所述方法包括：

根據所述原始模型的模型參數，將所述原始模型聚類為多個模型集合；

確定每個模型集合對應的第一可疑度值；

將所述第一可疑度值超出第一預設閾值的模型集合確定為異常集合，并計算所述異常集合中每個原始模型的第二可疑度值；

將所述第一可疑度值未超出第一預設閾值的模型集合確定為正常集合，并將所述正常集合對應的第一可疑度值確定為所述正常集合中每個原始模型的第二可疑度值；

按照預設可疑度計算規則，對所述第二可疑度進行計算，以得到第三可疑度值；

將所述第三可疑度值超過第二預設閾值的所述原始模型，從所述服務器中刪除。

在本發明的一個實施例中，所述根據所述原始模型的模型參數，將所述原始模型聚類為多個模型集合，包括：

按照預設模型選取規則，在多個所述原始模型中確定一個參考模型；

根據所述原始模型與所述參考模型的相似度值，對所述原始模型聚類，以得到多個模型集合。

在本發明的一個實施例中，所述確定每個模型集合對應的第一可疑度值，包括：

獲取每個模型集合對應的代表模型；

獲取所述代表模型的權重值；