[發(fā)明專利]基于區(qū)塊鏈的聯(lián)邦學(xué)習(xí)處理方法、裝置、系統(tǒng)以及介質(zhì)

在審

• 申請(qǐng)?zhí)枺?/td>: 202011210463.2
• 申請(qǐng)日: 2020-11-03
• 公開（公告）號(hào): CN114443754A
• 公開（公告）日: 2022-05-06
• 發(fā)明（設(shè)計(jì)）人: 王磊;趙德欣;曾然然
• 申請(qǐng)（專利權(quán)）人: 中國(guó)電信股份有限公司
• 主分類號(hào): G06F16/27
• 分類號(hào): G06F16/27;G06F16/242;G06F16/2455;G06F21/60;G06F21/64;G06Q40/04;G06N3/04;G06N3/08
• 代理公司: 中國(guó)貿(mào)促會(huì)專利商標(biāo)事務(wù)所有限公司 11038
• 代理人: 方亮

1.一種基于區(qū)塊鏈的聯(lián)邦學(xué)習(xí)處理方法，包括：

獲取測(cè)試樣本，將所述測(cè)試樣本發(fā)送給區(qū)塊鏈網(wǎng)絡(luò)中、需要進(jìn)行模型訓(xùn)練的各個(gè)區(qū)塊節(jié)點(diǎn)；

在所述各個(gè)區(qū)塊節(jié)點(diǎn)中部署深度學(xué)習(xí)模型，控制各個(gè)區(qū)塊節(jié)點(diǎn)基于所述測(cè)試樣本對(duì)部署在本地的深度學(xué)習(xí)模型進(jìn)行模型訓(xùn)練；

獲取所述各個(gè)區(qū)塊節(jié)點(diǎn)完成所述模型訓(xùn)練的本地訓(xùn)練時(shí)長(zhǎng)信息，基于所述本地時(shí)長(zhǎng)信息確定進(jìn)行聯(lián)邦學(xué)習(xí)的可信區(qū)塊節(jié)點(diǎn)；

生成聯(lián)邦學(xué)習(xí)任務(wù)，基于所述聯(lián)邦學(xué)習(xí)任務(wù)向所述各個(gè)區(qū)塊節(jié)點(diǎn)發(fā)送聯(lián)邦學(xué)習(xí)的訓(xùn)練命令，以使所述各個(gè)區(qū)塊節(jié)點(diǎn)使用聯(lián)邦學(xué)習(xí)算法和訓(xùn)練數(shù)據(jù)，對(duì)部署在本地的深度學(xué)習(xí)模型進(jìn)行訓(xùn)練，獲得模型參數(shù)的梯度數(shù)據(jù)；

所述可信區(qū)塊節(jié)點(diǎn)獲取其他區(qū)塊節(jié)點(diǎn)的梯度數(shù)據(jù)，進(jìn)行梯度聚合處理。

2.如權(quán)利要求1所述的方法，所述基于所述本地時(shí)長(zhǎng)信息確定進(jìn)行聯(lián)邦學(xué)習(xí)的可信區(qū)塊節(jié)點(diǎn)包括：

獲取全部本地時(shí)長(zhǎng)信息；

將與所述全部本地時(shí)長(zhǎng)信息中的最短本地時(shí)長(zhǎng)信息相對(duì)應(yīng)的區(qū)塊節(jié)點(diǎn)確定為所述可信區(qū)塊節(jié)點(diǎn)。

3.如權(quán)利要求1所述的方法，還包括：

在基于所述測(cè)試樣本進(jìn)行模型訓(xùn)練時(shí)，根據(jù)預(yù)設(shè)的模型難度更新機(jī)制，對(duì)部署所述各個(gè)區(qū)塊節(jié)點(diǎn)中的深度學(xué)習(xí)模型進(jìn)行訓(xùn)練難度改變處理；

在所述訓(xùn)練難度改變處理完成后，控制各個(gè)區(qū)塊節(jié)點(diǎn)進(jìn)行所述模型訓(xùn)練。

4.如權(quán)利要求1所述的方法，所述可信區(qū)塊節(jié)點(diǎn)獲取其他區(qū)塊節(jié)點(diǎn)的梯度數(shù)據(jù)，進(jìn)行梯度聚合處理包括：

所述可信區(qū)塊節(jié)點(diǎn)基于其他區(qū)塊節(jié)點(diǎn)的梯度數(shù)據(jù)進(jìn)行聚合處理，生成梯度聚合數(shù)據(jù)；

所述可信區(qū)塊節(jié)點(diǎn)執(zhí)行預(yù)設(shè)的執(zhí)行合約，將所述梯度聚合數(shù)據(jù)廣播給所述其他區(qū)塊節(jié)點(diǎn)，以使所述其他區(qū)塊節(jié)點(diǎn)存儲(chǔ)所述梯度聚合數(shù)據(jù)，并根據(jù)所述梯度聚合數(shù)據(jù)更新部署在本地的所述深度學(xué)習(xí)模型。

5.如權(quán)利要求4所述的方法，還包括：

所述可信區(qū)塊節(jié)點(diǎn)基于預(yù)設(shè)的密碼生成機(jī)制生成公私鑰對(duì)，將所述公私鑰對(duì)發(fā)送給所述其他區(qū)塊節(jié)點(diǎn)；

所述可信區(qū)塊節(jié)點(diǎn)和所述其他區(qū)塊節(jié)點(diǎn)基于所述公私鑰對(duì)進(jìn)行數(shù)據(jù)傳輸。

6.如權(quán)利要求5所述的方法，還包括：

所述其他區(qū)塊節(jié)點(diǎn)使用所述公私鑰對(duì)中的公鑰對(duì)所述梯度數(shù)據(jù)進(jìn)行加密，并將加密的所述梯度數(shù)據(jù)發(fā)送給所述可信區(qū)塊節(jié)點(diǎn)；

所述可信區(qū)塊節(jié)點(diǎn)使用所述公私鑰對(duì)中的私鑰對(duì)加密的所述梯度數(shù)據(jù)進(jìn)行解密，獲得所述梯度數(shù)據(jù)。

7.如權(quán)利要求5所述的方法，還包括：

所述可信區(qū)塊節(jié)點(diǎn)使用所述公私鑰對(duì)中的公鑰對(duì)所述梯度聚合數(shù)據(jù)進(jìn)行加密處理，并將加密的所述梯度聚合數(shù)據(jù)發(fā)送給所述其他區(qū)塊節(jié)點(diǎn)；

所述其他區(qū)塊節(jié)點(diǎn)使用所述公私鑰對(duì)中的私鑰對(duì)加密的所述梯度聚合數(shù)據(jù)進(jìn)行解密，獲得所述梯度聚合數(shù)據(jù)。

8.如權(quán)利要求1至7任一項(xiàng)所述的方法，其中，

所述深度學(xué)習(xí)模型包括：基于神經(jīng)網(wǎng)絡(luò)的聲紋模型。

9.一種基于區(qū)塊鏈的聯(lián)邦學(xué)習(xí)處理裝置，包括：

測(cè)試樣本處理模塊，用于獲取測(cè)試樣本，將所述測(cè)試樣本發(fā)送給區(qū)塊鏈網(wǎng)絡(luò)中、需要進(jìn)行模型訓(xùn)練的各個(gè)區(qū)塊節(jié)點(diǎn)；

模型訓(xùn)練測(cè)試模塊，用于在所述各個(gè)區(qū)塊節(jié)點(diǎn)中部署深度學(xué)習(xí)模型，控制各個(gè)區(qū)塊節(jié)點(diǎn)基于所述測(cè)試樣本對(duì)部署在本地的深度學(xué)習(xí)模型進(jìn)行模型訓(xùn)練；

可信節(jié)點(diǎn)確定模塊，用于獲取所述各個(gè)區(qū)塊節(jié)點(diǎn)完成所述模型訓(xùn)練的本地訓(xùn)練時(shí)長(zhǎng)信息，基于所述本地時(shí)長(zhǎng)信息確定進(jìn)行聯(lián)邦學(xué)習(xí)的可信區(qū)塊節(jié)點(diǎn)；

模型學(xué)習(xí)處理模塊，用于生成聯(lián)邦學(xué)習(xí)任務(wù)，基于所述聯(lián)邦學(xué)習(xí)任務(wù)向所述各個(gè)區(qū)塊節(jié)點(diǎn)發(fā)送聯(lián)邦學(xué)習(xí)的訓(xùn)練命令，以使所述各個(gè)區(qū)塊節(jié)點(diǎn)使用聯(lián)邦學(xué)習(xí)算法和訓(xùn)練數(shù)據(jù)，對(duì)部署在本地的深度學(xué)習(xí)模型進(jìn)行訓(xùn)練，獲得模型參數(shù)的梯度數(shù)據(jù)；

其中，所述可信區(qū)塊節(jié)點(diǎn)獲取其他區(qū)塊節(jié)點(diǎn)的梯度數(shù)據(jù)，進(jìn)行梯度聚合處理。