[發明專利]一種基于區塊鏈的聯邦學習方法及裝置

在審

• 申請號: 202110398076.4
• 申請日: 2021-04-14
• 公開（公告）號: CN113095510A
• 公開（公告）日: 2021-07-09
• 發明（設計）人: 苗銀賓;鄭瑋;童秋云;馬卓然;范瑞彬;張開翔;李輝忠;嚴強;李成博
• 申請（專利權）人: 深圳前海微眾銀行股份有限公司;西安電子科技大學
• 主分類號: G06N20/20
• 分類號: G06N20/20;G06F21/60;G06F21/64
• 代理公司: 北京同達信恒知識產權代理有限公司 11291
• 代理人: 王春波

1.一種基于區塊鏈的聯邦學習方法，其特征在于，包括：

第一節點基于本地訓練數據對第i輪本地模型進行訓練，確定出訓練后的第i+1輪本地模型梯度信息；所述第一節點是從N個區塊鏈節點中選取的用于參與第i+1輪聯邦學習訓練的節點；所述第i輪本地模型是基于所述第一節點從區塊鏈上獲取的第i輪全局模型梯度密文得到的；

所述第一節點基于梯度裁剪量化規則對所述第i+1輪本地模型梯度信息中的各第一子梯度信息分別進行裁剪量化，得到各第二子梯度信息；

所述第一節點按照梯度合并規則，將所述各第二子梯度信息中每m個第二子梯度信息進行合并，得到n類第三子梯度信息；

所述第一節點對所述n類第三子梯度信息分別進行同態加密，得到n類密文，并將所述n類密文發送給所述區塊鏈；所述n類密文用于所述區塊鏈中的聚合節點對第i+1輪聯邦學習訓練的各第一節點反饋的密文進行聚合處理，從而得到第i+1輪全局模型梯度密文。

2.如權利要求1所述的方法，其特征在于，在所述第一節點基于本地訓練數據對第i輪本地模型進行訓練之前，還包括：

所述第一節點對所述第i輪全局模型梯度信息密文進行同態解密，得到第i輪全局模型梯度信息；

所述第一節點確定所述第i輪全局模型梯度信息與第i-1輪全局模型梯度信息的差值大于設定閾值。

3.如權利要求1所述的方法，其特征在于，所述第一節點基于梯度裁剪量化規則對所述第i+1輪本地模型梯度信息中的各第一子梯度信息分別進行裁剪量化，得到各第二子梯度信息，包括：

所述第一節點基于梯度裁剪算法分別對所述各第一子梯度信息進行裁剪處理，得到裁剪后的各第一子梯度信息；

所述第一節點基于梯度量化算法分別對所述裁剪后的各第一子梯度信息進行量化處理，得到所述各第二子梯度信息。

4.如權利要求3所述的方法，其特征在于，所述第一節點基于梯度量化算法分別對所述裁剪后的各第一子梯度信息進行量化處理，得到所述各第二子梯度信息，包括：

針對所述裁剪后的各第一子梯度信息中每個第一子梯度信息，所述第一節點將所述第一子梯度信息與梯度閾值進行比較；所述梯度閾值是根據所述裁剪后的各第一子梯度信息的分布規律確定的；

所述第一節點基于梯度量化規則，根據所述第一子梯度信息與所述梯度閾值的比較結果，確定所述第一子梯度信息對應的第二子梯度信息。

5.如權利要求2所述的方法，其特征在于，在得到第i+1輪全局模型梯度密文之后，還包括：

所述第一節點從所述區塊鏈獲取所述第i+1輪全局模型梯度密文，并對所述第i+1輪全局模型梯度密文進行同態解密，得到第i+1輪全局模型梯度信息；

所述第一節點若確定所述第i+1輪全局模型梯度信息與所述第i輪全局模型梯度信息的差值小于等于所述設定閾值，則將所述第i+1輪全局模型梯度信息作為目標全局模型梯度信息，從而得到訓練好的聯邦學習模型。

6.一種基于區塊鏈的聯邦學習方法，其特征在于，包括：

聚合節點從區塊鏈上獲取各第一節點發送的各n類密文；第一節點是從N個區塊鏈節點中選取的用于參與第i+1輪聯邦學習訓練的節點；所述聚合節點是所述N個區塊鏈節點中除所述各第一節點以外的其它節點中的任一個；

所述聚合節點對所述各第一節點的各n類密文中同類的密文進行聚合處理，從而得到第i+1輪全局模型梯度密文，并將所述第i+1輪全局模型梯度密文發送給所述區塊鏈；

其中，所述n類密文是所述第一節點對n類第三子梯度信息分別進行同態加密得到的；所述n類第三子梯度信息是所述第一節點按照梯度合并規則對各第二子梯度信息中每m個第二子梯度信息進行合并確定的；所述各第二子梯度信息是所述第一節點基于梯度裁剪量化規則對所述第i+1輪本地模型梯度信息中的各第一子梯度信息分別進行裁剪量化得到的；所述第i+1輪本地模型梯度信息是所述第一節點基于本地訓練數據對第i輪本地模型進行訓練確定的；所述第i輪本地模型是基于所述第一節點從區塊鏈上獲取的第i輪全局模型梯度密文得到的。