[發明專利]一種聯邦學習中異常節點的檢測方法及系統

有效

• 申請號: 202110020440.3
• 申請日: 2021-01-07
• 公開（公告）號: CN112749392B
• 公開（公告）日: 2022-10-04
• 發明（設計）人: 郭晶晶;李海洋;劉玖樽;熊良成;田思怡;馬建峰;高華敏
• 申請（專利權）人: 西安電子科技大學
• 主分類號: G06F21/56
• 分類號: G06F21/56;G06F21/57;G06N20/20
• 代理公司: 西安通大專利代理有限責任公司 61200
• 代理人: 房鑫

1.一種聯邦學習中異常節點的檢測方法，其特征在于，包括以下步驟：

步驟一、系統初始化，包括用戶注冊、系統參數生成與密鑰協商；具體包括：

(1.1)用戶u_i注冊聯邦學習系統，首先向信任權威TA發送數據[d_i,MAC,nonce]，其中d_i為用戶u_i的本地數據量，MAC為用戶u_i的MAC地址，nonce為其生成的隨機數；

(1.2)服務器根據接收到的數據為用戶u_i生成其身份標識發送給用戶u_i與聚合服務器AS，然后利用KA.param算法生成系統參數pp＝[G,p,g,H]，將參數[G,p,g,H]分發給所有用戶；

(1.3)用戶u_i利用KA.gen(pp)算法生成其公私鑰并將公鑰發送給聚合服務器AS，聚合服務器AS將其接收到的所有公鑰分發給系統中的用戶；

(1.4)用戶u_i利用KA.agree算法生成其與其他用戶u_j的共享密鑰

KA.param(k)→pp:算法KA.param利用秘密參數k生成系統的參數pp＝(G’,g,q,H)，G’為階數為q的群，其生成元為g，H為哈希函數；

算法KA.gen利用KA.param產生的參數生成各用戶的公私鑰對；具體的：用戶u首先從Z_q中選擇一個隨機數x作為其私鑰然后計算g^x作為其公鑰

用戶u和v通過計算得到它們之間的共享密鑰s_u,v，該算法滿足交換律，即

步驟二、掩碼本地模型生成；具體包括：

(2.1)用戶u_i分別利用與作為隨機數生成器PRG的種子，根據公式(1)，(2)生成兩組掩碼向量m_i,j,mm_i,j，向量的長度與用戶本地模型參數長度相同；

(2.2)用戶u_i利用自己的本地數據進行模型訓練，得到本地模型

(2.3)用戶u_i利用公式(5)，(6)生成掩碼本地模型；

(2.4)用戶u_i利用公式(7)生成掩碼本地模型列表并將該列表發送給聚合服務器AS；

ULM_i＝[MLM_i,1||…||MLM_i,i-1||MLM_i,i+1||…||MLM_i,n||MLM_i] (7)

步驟三、惡意用戶檢測，包括服務器端進行本地模型聚合，生成混淆聚合模型，用戶端對混淆聚合模型進行驗證生成驗證結果，服務器端根據用戶端驗證結果進行惡意用戶檢測；具體包括：

(3.1)服務器根據所有用戶上傳的ULM_i生成掩碼本地模型矩陣MMA；

(3.2)服務器利用掩碼本地模型矩陣MMA生成聚合模型列表agg_model；

(3.3)服務器生成用于模型混淆的隨機模型，形成隨機模型列表random_list，該列表中的隨機模型數量為agg_model的長度的倍數；服務器將agg_model與random_list進行隨機混合得到混淆聚合模型列表garble_agg_model；將agg_model中的每個模型在garble_agg_model中的位置存儲在有序集合o_position中，最后將garble_agg_model發送給所有用戶；

(3.4)用戶u_i接收到garble_agg_model后，用本地數據對garble_agg_model中的每個模型進行驗證，記錄每個模型的精度并將精度最高的L個模型在garble_agg_model中的位置記錄在有序集合s_position中，作為其驗證結果發送給服務器；

(3.5)服務器接收到用戶u_i發送的s_position后，計算：

inter_position＝o_position∩s_position；

如果inter_position的長度大于閾值th，則認為用戶u_i不是惡意用戶，否則認為用戶u_i是惡意用戶，其本地模型也為惡意模型；

步驟四、服務器利用非惡意用戶上傳的掩碼本地模型進行模型聚合，得到當前迭代輪的全局模型并發送給用戶，用戶根據收到的全局模型進行本地模型更新。