[發明專利]一種基于區塊鏈的聯邦學習系統及方法

有效

• 申請號: 201911285920.1
• 申請日: 2019-12-13
• 公開（公告）號: CN111212110B
• 公開（公告）日: 2022-06-03
• 發明（設計）人: 王智;武鑫
• 申請（專利權）人: 清華大學深圳國際研究生院
• 主分類號: H04L67/1097
• 分類號: H04L67/1097;H04L47/80;H04L41/14;G06N20/00
• 代理公司: 深圳新創友知識產權代理有限公司 44223
• 代理人: 江耀純

本發明提供一種基于區塊鏈的聯邦學習系統及方法，系統包括：模型訓練模塊，用于聯邦學習過程的機器學習模型更新和所述機器學習模型變化值聚合；基于區塊鏈技術的智能合約模塊，用于在所述聯邦學習的過程中提供去中心化的控制功能與密鑰管理功能；基于IPFS協議的存儲模塊，用于為所述聯邦學習過程中的中間信息提供去中心化的信息存儲機制；每個參與聯邦學習的節點上同時運行所述模型訓練模塊、所述基于區塊鏈技術的智能合約模塊、所述基于IPFS協議的存儲模塊。實現整個系統的完全去中心化，任何節點的故障和退出都不會影響其他節點繼續進行聯邦學習，具有更強的魯棒性。

技術領域

本發明涉及聯邦學習技術領域，尤其涉及一種基于區塊鏈的聯邦學習系統及方法。

背景技術

聯邦學習使得各個參與機構能夠在不直接交換原始數據的情況下，協同的訓練機器學習模型。這對于那些數據量不足的企業或者機構而言，能夠讓它們聯合起來，獲得更好模型的同時又不暴露原始數據，實現互利共贏。現有的工程技術中，各個機構的協同訓練依賴于中心化的第三方協作節點實現控制，聚合和密鑰管理。現有的中心化的方法有以下缺點：

1)協作節點會持續地獲得其他所有機構上傳的信息。而一個好奇的協作節點可以通過這些信息推斷出與各個機構原始數據相關的重要信息，如類別標簽分布情況，因此會導致數據隱私的泄露。對于參與訓練的機構而言，它們并不想暴露這些隱私。

2)當協作節點出現故障，整個系統會發生崩潰從而無法繼續運行。由于中心化的協作節點的單點故障，各個機構的聯邦學習會被強行終止，無法繼續協同訓練。

現有技術中的聯邦學習方法有隱私風險和單點故障的問題。

發明內容

本發明為了解決現有的問題，提供一種基于區塊鏈的聯邦學習系統及方法。

為了解決上述問題，本發明采用的技術方案如下所述：

一種基于區塊鏈的聯邦學習系統，包括：模型訓練模塊，用于聯邦學習過程的機器學習模型更新和所述機器學習模型變化值聚合；基于區塊鏈技術的智能合約模塊，用于在所述聯邦學習的過程中提供去中心化的控制功能與密鑰管理功能；基于IPFS協議的存儲模塊，用于為所述聯邦學習過程中的中間信息提供去中心化的信息存儲機制；每個參與聯邦學習的節點上同時運行所述模型訓練模塊、所述基于區塊鏈技術的智能合約模塊、所述基于IPFS協議的存儲模塊。

優選地，所述基于區塊鏈技術的智能合約模塊包含了訓練控制模塊和密鑰管理模塊；所述訓練控制模塊用于在所述聯邦學習過程中的每一輪學習前隨機生成包含每個參與所述聯邦學習的節點的拓撲結構，在所述聯邦學習過程中與各所述節點通信，通知各所述節點已有的聚合信息，并收集各所述節點進一步聚合后的信息；所述密鑰管理模塊存儲了每個參與聯邦學習的節點上傳的公鑰信息。

優選地，所述公鑰是用于同態加密的公鑰；每個所述公鑰與每個參與所述聯邦學習的所述節點一一對應，在所述聯邦學習開始前被密鑰管理模塊記錄。

優選地，每個所述節點均承擔聚合任務，所有所述節點的聚合合起來是基于區塊鏈的聯邦學習系統的聚合信息。

優選地，每個所述節點從前驅節點處獲得加密信息，并將本地的加密信息與獲得的所述加密信息相加，得到新的加密信息；所述新的加密信息傳遞給后繼節點；累加后的所述加密信息被最后的節點解密，并用于全局訓練模型的更新，得到最新的全局模型。