[發(fā)明專利]一種基于樹狀拓?fù)浣Y(jié)構(gòu)的聯(lián)邦學(xué)習(xí)方法及裝置

在審

• 申請?zhí)枺?/td>: 201911000573.3
• 申請日: 2019-10-21
• 公開（公告）號: CN110728376A
• 公開（公告）日: 2020-01-24
• 發(fā)明（設(shè)計）人: 黃安埠
• 申請（專利權(quán)）人: 深圳前海微眾銀行股份有限公司
• 主分類號: G06N20/00
• 分類號: G06N20/00
• 代理公司: 11291 北京同達(dá)信恒知識產(chǎn)權(quán)代理有限公司
• 代理人: 彭燕

1.一種基于樹狀拓?fù)浣Y(jié)構(gòu)的聯(lián)邦學(xué)習(xí)方法，其特征在于，所述樹狀拓?fù)浣Y(jié)構(gòu)包括至少兩層結(jié)構(gòu)，每層結(jié)構(gòu)包括至少一個節(jié)點(diǎn)，每個節(jié)點(diǎn)對應(yīng)一個訓(xùn)練模型，包括：

若滿足預(yù)設(shè)觸發(fā)條件，則對所述樹狀拓?fù)浣Y(jié)構(gòu)的當(dāng)前層節(jié)點(diǎn)進(jìn)行抽樣處理；

確定所述進(jìn)行抽樣處理后的當(dāng)前層節(jié)點(diǎn)對應(yīng)的訓(xùn)練模型，對所述確定的訓(xùn)練模型進(jìn)行聯(lián)邦聚合。

2.如權(quán)利要求1所述的方法，其特征在于，所述確定的訓(xùn)練模型進(jìn)行聯(lián)邦聚合，包括：

對所述確定的訓(xùn)練模型進(jìn)行聯(lián)邦聚合，得到至少一個當(dāng)前父層的節(jié)點(diǎn)對應(yīng)的訓(xùn)練模型，所述當(dāng)前父層為所述當(dāng)前層節(jié)點(diǎn)的父節(jié)點(diǎn)所在的層。

3.如權(quán)利要求1所述的方法，其特征在于，所述對所述樹狀拓?fù)浣Y(jié)構(gòu)的當(dāng)前層節(jié)點(diǎn)進(jìn)行抽樣處理，包括：

從所述當(dāng)前層節(jié)點(diǎn)中抽樣出至少一個當(dāng)前層節(jié)點(diǎn)；

刪除所述至少一個當(dāng)前層節(jié)點(diǎn)對應(yīng)的所述訓(xùn)練模型，或者對所述至少一個當(dāng)前層節(jié)點(diǎn)進(jìn)行標(biāo)注，以使所述至少一個當(dāng)前層節(jié)點(diǎn)對應(yīng)的訓(xùn)練模型不參與所述聯(lián)邦聚合。

4.如權(quán)利要求1所述的方法，其特征在于，所述預(yù)設(shè)觸發(fā)條件包括如下一種或多種：

所述當(dāng)前層節(jié)點(diǎn)的個數(shù)大于第一預(yù)設(shè)值；

所述當(dāng)前層節(jié)點(diǎn)對應(yīng)的訓(xùn)練模型不符合第一預(yù)設(shè)聯(lián)邦模型條件。

5.如權(quán)利要求3所述的方法，其特征在于，所述從所述當(dāng)前層節(jié)點(diǎn)中抽樣出至少一個當(dāng)前層節(jié)點(diǎn)，包括：

隨機(jī)從所述當(dāng)前層節(jié)點(diǎn)中抽樣出至少一個當(dāng)前層節(jié)點(diǎn)；或

從所述當(dāng)前層節(jié)點(diǎn)中抽樣出預(yù)設(shè)節(jié)點(diǎn)個數(shù)的當(dāng)前層節(jié)點(diǎn)。

6.如權(quán)利要求1所述的方法，其特征在于，從所述樹狀拓?fù)浣Y(jié)構(gòu)的底層開始，依次向頂層進(jìn)行聯(lián)邦模型聚合，其中，所述從所述樹狀拓?fù)浣Y(jié)構(gòu)的底層開始，依次向頂層進(jìn)行聯(lián)邦模型聚合之前，還包括：

接收所述樹狀拓?fù)浣Y(jié)構(gòu)的底層節(jié)點(diǎn)對應(yīng)的訓(xùn)練模型，所述訓(xùn)練模型為所述底層節(jié)點(diǎn)對應(yīng)的客戶端，通過本地訓(xùn)練數(shù)據(jù)訓(xùn)練本地模型得到的。

7.如權(quán)利要求6所述的方法，其特征在于，還包括：

若所述聯(lián)邦聚合得到的頂層聯(lián)邦模型不符合第二預(yù)設(shè)聯(lián)邦模型條件，則將所述頂層聯(lián)邦模型發(fā)送給所述底層節(jié)點(diǎn)對應(yīng)的客戶端，以使所述客戶端將所述頂層聯(lián)邦模型作為所述本地模型進(jìn)行下一輪訓(xùn)練；

接收所述客戶端進(jìn)行下一輪訓(xùn)練得到的訓(xùn)練模型，從所述樹狀拓?fù)浣Y(jié)構(gòu)的底層開始，依次向頂層進(jìn)行下一輪聯(lián)邦模型聚合。

8.一種基于樹狀拓?fù)浣Y(jié)構(gòu)的聯(lián)邦學(xué)習(xí)聚合裝置，其特征在于，所述樹狀拓?fù)浣Y(jié)構(gòu)包括至少兩層結(jié)構(gòu)，每層結(jié)構(gòu)包括至少一個節(jié)點(diǎn)，每個節(jié)點(diǎn)對應(yīng)一個訓(xùn)練模型，包括：

節(jié)點(diǎn)抽樣單元，用于若滿足預(yù)設(shè)觸發(fā)條件，則對所述樹狀拓?fù)浣Y(jié)構(gòu)的當(dāng)前層節(jié)點(diǎn)進(jìn)行抽樣處理；

聯(lián)邦聚合單元，用于確定所述進(jìn)行抽樣處理后的當(dāng)前層節(jié)點(diǎn)對應(yīng)的訓(xùn)練模型，對所述確定的訓(xùn)練模型進(jìn)行聯(lián)邦聚合。

9.一種計算機(jī)設(shè)備，包括存儲器、處理器及存儲在存儲器上并可在處理器上運(yùn)行的計算機(jī)程序，其特征在于，所述處理器執(zhí)行所述程序時實(shí)現(xiàn)權(quán)利要求1-7中任一權(quán)利要求所述方法的步驟。

10.一種計算機(jī)可讀存儲介質(zhì)，其特征在于，所述計算機(jī)可讀存儲介質(zhì)存儲有計算機(jī)指令，當(dāng)所述計算機(jī)指令在計算機(jī)上運(yùn)行時，使得計算機(jī)執(zhí)行如權(quán)利要求1-7中任一項所述的方法。