[發明專利]一種基于區塊鏈的聯邦學習方法及裝置

在審

• 申請號: 202110398076.4
• 申請日: 2021-04-14
• 公開（公告）號: CN113095510A
• 公開（公告）日: 2021-07-09
• 發明（設計）人: 苗銀賓;鄭瑋;童秋云;馬卓然;范瑞彬;張開翔;李輝忠;嚴強;李成博
• 申請（專利權）人: 深圳前海微眾銀行股份有限公司;西安電子科技大學
• 主分類號: G06N20/20
• 分類號: G06N20/20;G06F21/60;G06F21/64
• 代理公司: 北京同達信恒知識產權代理有限公司 11291
• 代理人: 王春波

本發明實施例提供了一種基于區塊鏈的聯邦學習方法及裝置，該方法包括第一節點基于本地訓練數據對第i輪本地模型進行訓練，確定訓練后的第i+1輪本地模型梯度信息，基于梯度裁剪量化規則對第i+1輪本地模型梯度信息中各第一子梯度信息分別進行裁剪量化，得到各第二子梯度信息，按照梯度合并規則，將各第二子梯度信息中每m個第二子梯度信息進行合并，得到n類第三子梯度信息，對n類第三子梯度信息分別進行同態加密，得到n類密文，并將n類密文發送給區塊鏈。由于將本地模型梯度信息中各第一子梯度信息分別進行裁剪量化及合并處理，再進行同態加密，因此可以降低同態加密所產生的計算資源消耗，并可以減少密文傳輸過程中所消耗的網絡資源。

技術領域

本發明實施例涉及金融科技(Fintech)領域，尤其涉及一種基于區塊鏈的聯邦學習方法及裝置。

背景技術

隨著計算機技術的發展，越來越多的技術應用在金融領域，傳統金融業正在逐步向金融科技轉變，但由于金融行業的安全性、實時性要求，也對技術提出的更高的要求。

現有的基于同態加密的聯邦學習方法一般是：各設備端利用本地數據集訓練本地模型，得到各自訓練后的本地模型梯度信息，并利用同態加密算法(比如Paillier算法等)對各自訓練后的本地模型梯度信息進行加密，將各自加密后的本地模型梯度信息發送給服務端。然后，服務端在接收到各設備端發送的各自加密后的本地模型梯度信息后，按照預設的聚合方式對這些加密后的本地模型梯度信息進行聚合處理，得到處于加密狀態的全局模型梯度信息(密文形式的全局模型梯度信息)。服務端將處于加密狀態的全局模型梯度信息發送給各設備端，以使各設備端利用同態加密算法對各自所接收的處于加密狀態的全局模型梯度信息進行解密，并基于解密后的全局模型梯度信息繼續利用本地數據集訓練本地模型，直至本地模型收斂或達到迭代訓練次數為止，得到全局模型。然而，這種處理方式雖然利用同態加密為聯邦學習提供了強大的隱私保障，但它執行復雜的加密操作(比如模乘或指數運算等)，且該復雜的加密操作非常耗時，需要消耗大量計算資源。同時，復雜加密操作后會產生更大的密文，該密文在傳輸過程中比明文傳輸過程中所消耗的網絡資源更多。

綜上，目前亟需一種基于區塊鏈的聯邦學習方法，用以解決現有技術中存在對本地模型梯度信息進行同態加密所產生的計算開銷大以及通信開銷大的問題。

發明內容

本發明實施例提供了一種基于區塊鏈的聯邦學習方法及裝置，用以解決現有技術中存在對本地模型梯度信息進行同態加密所產生的計算開銷大以及通信開銷大的問題。

第一方面，本發明實施例提供了一種基于區塊鏈的聯邦學習方法，包括：

第一節點基于本地訓練數據對第i輪本地模型進行訓練，確定出訓練后的第i+1輪本地模型梯度信息；所述第一節點是從N個區塊鏈節點中選取的用于參與第i+1輪聯邦學習訓練的節點；所述第i輪本地模型是基于所述第一節點從區塊鏈上獲取的第i輪全局模型梯度密文得到的；

所述第一節點基于梯度裁剪量化規則對所述第i+1輪本地模型梯度信息中的各第一子梯度信息分別進行裁剪量化，得到各第二子梯度信息；

所述第一節點按照梯度合并規則，將所述各第二子梯度信息中每m個第二子梯度信息進行合并，得到n類第三子梯度信息；

所述第一節點對所述n類第三子梯度信息分別進行同態加密，得到n類密文，并將所述n類密文發送給所述區塊鏈；所述n類密文用于所述區塊鏈中的聚合節點對第i+1輪聯邦學習訓練的各第一節點反饋的密文進行聚合處理，從而得到第i+1輪全局模型梯度密文。