[發明專利]基于區塊鏈的聯邦學習處理方法、裝置、系統以及介質

在審

• 申請號: 202011210463.2
• 申請日: 2020-11-03
• 公開（公告）號: CN114443754A
• 公開（公告）日: 2022-05-06
• 發明（設計）人: 王磊;趙德欣;曾然然
• 申請（專利權）人: 中國電信股份有限公司
• 主分類號: G06F16/27
• 分類號: G06F16/27;G06F16/242;G06F16/2455;G06F21/60;G06F21/64;G06Q40/04;G06N3/04;G06N3/08
• 代理公司: 中國貿促會專利商標事務所有限公司 11038
• 代理人: 方亮

本發明提供了一種基于區塊鏈的聯邦學習處理方法、裝置、區塊鏈網絡系統以及存儲介質，其中的方法包括：控制各個區塊節點基于測試樣本對深度學習模型進行模型訓練；獲取各個區塊節點完成模型訓練的本地訓練時長信息，確定進行聯邦學習的可信區塊節點；各個區塊節點使用聯邦學習算法和訓練數據進行訓練，獲得模型參數的梯度數據；可信區塊節點獲取其他區塊節點的梯度數據，進行梯度聚合處理。本公開的方法、裝置以及存儲介質，通過區塊鏈技術進行聯邦數據共享，尋找最佳性能的區塊節點成為可信第三方機構，能夠提升模型訓練的收斂速度以及精度；可以實現去中心化，取消聯邦學習中對于第三方證書機構或者其他可信實體機構的中心化依賴。

技術領域

本發明涉及區塊鏈技術領域，尤其涉及一種基于區塊鏈的聯邦學習處理方法、裝置、區塊鏈網絡系統以及存儲介質。

背景技術

區塊鏈技術可以基于共識機制進行結塊處理來保存信息，從而保證信息不可篡改，提高信息安全性。聯邦學習(Federated Learning)指的是多個數據擁有方在原始數據不出本地的情況下也可進行模型訓練并得到最終模型的計算過程，并且保證模型效果與聚合訓練效果的差距足夠小。目前，可以在區塊鏈場景下利用聯邦學習方法進行模型訓練，但是，在訓練中無法有效識別參與節點的模型訓練能力，容易出現降低模型訓練的收斂速度以及模型的精度的情況。

發明內容

有鑒于此，本發明要解決的一個技術問題是提供一種基于區塊鏈的聯邦學習處理方法、裝置、區塊鏈網絡系統以及存儲介質。

根據本公開的第一方面，提供一種基于區塊鏈的聯邦學習處理方法，包括：獲取測試樣本，將所述測試樣本發送給區塊鏈網絡中、需要進行模型訓練的各個區塊節點；在所述各個區塊節點中部署深度學習模型，控制各個區塊節點基于所述測試樣本對部署在本地的深度學習模型進行模型訓練；獲取所述各個區塊節點完成所述模型訓練的本地訓練時長信息，基于所述本地時長信息確定進行聯邦學習的可信區塊節點；生成聯邦學習任務，基于所述聯邦學習任務向所述各個區塊節點發送聯邦學習的訓練命令，以使所述各個區塊節點使用聯邦學習算法和訓練數據，對部署在本地的深度學習模型進行訓練，獲得模型參數的梯度數據；所述可信區塊節點獲取其他區塊節點的梯度數據，進行梯度聚合處理。

可選地，所述基于所述本地時長信息確定進行聯邦學習的可信區塊節點包括：獲取全部本地時長信息；將與所述全部本地時長信息中的最短本地時長信息相對應的區塊節點確定為所述可信區塊節點。

可選地，在基于所述測試樣本進行模型訓練時，根據預設的模型難度更新機制，對部署所述各個區塊節點中的深度學習模型進行訓練難度改變處理；在所述訓練難度改變處理完成后，控制各個區塊節點進行所述模型訓練。

可選地，所述可信區塊節點獲取其他區塊節點的梯度數據，進行梯度聚合處理包括：所述可信區塊節點基于其他區塊節點的梯度數據進行聚合處理，生成梯度聚合數據；所述可信區塊節點執行預設的執行合約，將所述梯度聚合數據廣播給所述其他區塊節點，以使所述其他區塊節點存儲所述梯度聚合數據，并根據所述梯度聚合數據更新部署在本地的所述深度學習模型。

可選地，所述可信區塊節點基于預設的密碼生成機制生成公私鑰對，將所述公私鑰對發送給所述其他區塊節點；所述可信區塊節點和所述其他區塊節點基于所述公私鑰對進行數據傳輸。

可選地，所述其他區塊節點使用所述公私鑰對中的公鑰對所述梯度數據進行加密，并將加密的所述梯度數據發送給所述可信區塊節點；所述可信區塊節點使用所述公私鑰對中的私鑰對加密的所述梯度數據進行解密，獲得所述梯度數據。

可選地，所述可信區塊節點使用所述公私鑰對中的公鑰對所述梯度聚合數據進行加密處理，并將加密的所述梯度聚合數據發送給所述其他區塊節點；所述其他區塊節點使用所述公私鑰對中的私鑰對加密的所述梯度聚合數據進行解密，獲得所述梯度聚合數據。

可選地，所述深度學習模型包括：基于神經網絡的聲紋模型。