[發明專利]一種區塊鏈聯邦學習系統及拜占庭攻擊檢測方法

有效

• 申請號: 202010963388.0
• 申請日: 2020-09-14
• 公開（公告）號: CN112100659B
• 公開（公告）日: 2023-04-07
• 發明（設計）人: 李宗航;虞紅芳;李晴;周天遙;羅龍;范末嬋;孫罡
• 申請（專利權）人: 電子科技大學
• 主分類號: G06F21/62
• 分類號: G06F21/62;G06F21/31;G06F21/55
• 代理公司: 北京正華智誠專利代理事務所(普通合伙) 11870
• 代理人: 何凡

本發明公開了一種區塊鏈聯邦學習系統及拜占庭攻擊檢測方法，其中區塊鏈聯邦學習系統包括數據持有者、驗證器、礦工和任務發布者；若干個驗證器構成驗證器組，每個驗證器組與一個礦工相連接構成邊緣云，每個數據持有者隨機與附近邊緣云的驗證器組中的任一驗證器相連接；所有邊緣云的礦工構建區塊鏈網絡，并通過區塊鏈網絡與任務發布者相連。本區塊鏈聯邦學習系統可部署于包含移動邊緣計算、微數據中心、微云在內的多種邊緣計算場景中，利用邊緣基礎設施的充足計算、通信、存儲資源來均衡驗證負載，從而減小驗證時延，提高系統效率。本方法可以容忍負精度增益的本地模型，能夠在保障模型精度無損的前提下取得高檢測率。

技術領域

本發明涉及聯邦學習領域，具體涉及一種區塊鏈聯邦學習系統及拜占庭攻擊檢測方法。

背景技術

聯邦學習是一種數據隱私保護的新興分布式人工智能技術，推動著邊緣智能的集成。為在網絡邊緣隱私保護地共享知識，聯邦學習將訓練數據保留在訓練設備內，而訓練設備間在云端參數服務器的協調下交互機器學習模型。這種有中心架構的參數服務器面臨壓力大、易崩潰、不可信且易成為攻擊目標等問題，而需要具備去中心性、不可篡改性和可回溯性。上述特性在區塊鏈中天然存在，這使得區塊鏈技術成為上述問題的可行解決方案。此外，邊緣環境的訓練設備不可信、不穩定、不積極，這些問題也能借助于區塊鏈對不可信網絡的內生安全性、對動態加入和退出的支持，以及成熟的激勵機制與積分體系得以解決。需求與特性的完美匹配促使聯邦學習與區塊鏈技術相結合，并發展為下一代去中心化的安全聯邦學習體系：區塊鏈聯邦學習(Blockchain-ed?Federated?Learning,BFL)。

隨著邊緣服務器的廣泛部署，網絡邊緣可以提供充足的計算、通信、存儲能力，吸引了許多BFL系統部署在網絡邊緣層。除豐富的邊緣資源帶來的好處外，潛藏在系統中的惡意攻擊者也對BFL系統的安全性提出了新的挑戰。由于終端和邊緣設備被安全意識弱且不可信的用戶所持有，這些設備可能提交劣質模型來污染全局模型(毒化攻擊)或騙取訓練獎勵(搭便車攻擊)，本申請統稱這些攻擊為拜占庭攻擊。拜占庭攻擊嚴重威脅BFL系統的安全性和公平性，因此，必須探索細粒度的拜占庭攻擊檢測方法，盡快識別與屏蔽攻擊來源，防止攻擊者對系統的進一步破壞。

然而，細粒度的攻擊檢測意味著系統需要逐個驗證設備提交的本地模型，這在設備數量達到億級的邊緣場景中將導致極高的驗證壓力和時間成本。以移動邊緣計算、微數據中心和微云為代表的邊緣計算技術為該問題提供了解決方案。在邊緣基礎設施的支撐下，BFL系統可以將重復且繁雜的驗證流程下沉到網絡邊緣，并在網絡邊緣實現計算與通信的負載均衡。因此，必須合理設計BFL系統架構，利用廣泛分布的邊緣基礎設施來均衡驗證負載，降低驗證時延。

發明內容

針對現有技術中的上述不足，本發明提供的一種區塊鏈聯邦學習系統及拜占庭攻擊檢測方法實現了高效且細粒度的拜占庭攻擊檢測，保障模型精度無損且具有高檢測率。

為了達到上述發明目的，本發明采用的技術方案為：

提供一種區塊鏈聯邦學習系統，其包括數據持有者、驗證器、計算節點和任務發布者；若干個驗證器構成驗證器組，每個驗證器組與一個計算節點相連接，每個數據持有者隨機與驗證器組中的任一驗證器相連接；所有計算節點構建區塊鏈網絡，并通過區塊鏈網絡與任務發布者相連；

數據持有者，擁有聯邦學習訓練的本地訓練數據，用于根據本地訓練數據訓練本地模型；

驗證器，用于驗證數據持有者提交的本地模型是否為拜占庭攻擊模型，對拜占庭攻擊模型進行阻攔，將誠實本地模型提交至計算節點，形成交易；其中拜占庭攻擊模型包括毒化攻擊模型和搭便車攻擊模型；

計算節點，用于根據驗證器提交的本地模型挖掘符合條件的平均模型，生成新區塊，在區塊鏈網絡中廣播新區塊以達成共識，并將新區塊上鏈；

任務發布者，用于生成創世塊，發布訓練任務和初始任務配置，為參與訓練的數據持有者、驗證器和計算節點分發訓練酬金；