[發明專利]聯邦學習方法、裝置、電子設備和介質

在審

• 申請號: 202111229404.4
• 申請日: 2021-10-21
• 公開（公告）號: CN113988318A
• 公開（公告）日: 2022-01-28
• 發明（設計）人: 陳世武;王煒;江軍;楊渝
• 申請（專利權）人: 北京天融信網絡安全技術有限公司;北京天融信科技有限公司;北京天融信軟件有限公司
• 主分類號: G06N20/20
• 分類號: G06N20/20;G06F21/60;G06F21/62;H04L67/104;H04L9/40
• 代理公司: 北京開陽星知識產權代理有限公司 11710
• 代理人: 唐博

本公開涉及一種聯邦學習方法、裝置、電子設備和介質；其中，該方法包括：響應于技術方發布的開始本輪模型訓練的消息，基于本地訓練樣本集對聯邦學習基礎模型進行訓練，得到本輪訓練過程的模型參數值；從區塊鏈系統中獲取本輪訓練過程的最終模型參數值；根據最終模型參數值，對聯邦學習基礎模型的參數值進行更新。本公開實施例能夠降低數據被惡意篡改和隱私泄露的風險，使不同參與方之間建立不基于信任的協作，提升聯邦學習基礎模型的準確度。

技術領域

本公開涉及聯邦學習領域，尤其涉及一種聯邦學習方法、裝置、電子設備和介質。

背景技術

目前，各組織和機構在業務開展過程中積累了大量業務數據，但這些數據基本上都以數據孤島的形式存在，其價值未得到有效利用。

為解決數據孤島問題并且對數據進行保護，現有技術中通常采用聯邦學習方法使得各個參與方能夠在不直接交換原始數據的前提下，協同的訓練機器學習模型，實現互利共贏。但是，在進行聯邦學習模型訓練時，訓練過程依賴于中心化的協調方，導致聯邦學習效率得不到保障。

發明內容

為了解決上述技術問題或者至少部分地解決上述技術問題，本公開提供了一種聯邦學習方法、裝置、電子設備和介質。

第一方面，本公開提供了一種聯邦學習方法，包括：

響應于技術方發布的開始本輪模型訓練的消息，基于本地訓練樣本集對聯邦學習基礎模型進行訓練，得到本輪訓練過程的模型參數值；

從區塊鏈系統中獲取本輪訓練過程的最終模型參數值，其中，所述最終模型參數值由所述區塊鏈系統通過目標匯總聚合節點獲取所有模型參數值，并對所有模型參數值進行匯總計算后得到；

根據所述最終模型參數值，對所述聯邦學習基礎模型的參數值進行更新。

可選的，所述響應于技術方發布的開始本輪模型訓練的消息，基于本地訓練樣本集對聯邦學習基礎模型進行訓練，得到本輪訓練過程的模型參數值之前，還包括：

從所述區塊鏈系統中獲取目標匯總聚合節點，其中，所述目標匯總聚合節點由所述區塊鏈系統根據預設隨機方式確定，所述目標匯總聚合節點的個數大于預設個數。

可選的，所述目標匯總聚合節點包括第一匯總聚合節點；

所述從區塊鏈系統中獲取本輪訓練過程的最終模型參數值之前，還包括：

根據所述第一匯總聚合節點的公鑰對所述模型參數值進行加密，得到第一模型參數值，并將第一模型參數值存儲至所述區塊鏈系統中；

相應的，所述最終模型參數值由所述區塊鏈系統在所述第一匯總聚合節點在線時，通過所述第一匯總聚合節點獲取所有第一模型參數值，通過所述第一匯總聚合節點的私鑰對所有第一模型參數值進行解密，并對解密后得到的所有模型參數值進行匯總計算后得到。

可選的，所述目標匯總聚合節點還包括第二匯總聚合節點；

相應的，所述最終模型參數值由所述區塊鏈系統在所述第一匯總聚合節點不在線時，通過所述第二匯總聚合節點向所述技術方發起數據轉換請求，以供所述技術方通過代理重加密方式將所述第一模型參數值轉換為第二模型參數值，并將所述第二模型參數值發送給所述第二匯總聚合節點，通過所述第二匯總聚合節點的私鑰對所有第二模型參數值進行解密，對解密后得到的所有模型參數值進行匯總計算后得到，其中，所述第二模型參數值為根據所述第二匯總聚合節點的公鑰對所述模型參數值進行加密后得到。

可選的，所述根據所述最終模型參數值，對所述聯邦學習基礎模型的參數值進行更新之后，還包括：

等待開始下一輪模型訓練的消息，并響應所述開始下一輪模型訓練的消息，進行新一輪的訓練過程；