[發(fā)明專利]保護隱私的業(yè)務預測模型聯(lián)合更新方法及裝置

有效

• 申請?zhí)枺?/td>: 202010626342.X
• 申請日: 2020-07-02
• 公開（公告）號: CN111800411B
• 公開（公告）日: 2021-04-02
• 發(fā)明（設計）人: 陳超超;周俊;王力
• 申請（專利權(quán)）人: 支付寶（杭州）信息技術有限公司
• 主分類號: H04L29/06
• 分類號: H04L29/06
• 代理公司: 北京億騰知識產(chǎn)權(quán)代理事務所(普通合伙) 11309
• 代理人: 張明;周良玉

本說明書實施例提供一種保護隱私的業(yè)務預測模型聯(lián)合更新方法及裝置，在更新方法中，服務器接收若干客戶端在基于各自維護的私有樣本，在本地訓練業(yè)務預測模型后發(fā)送的加密梯度矩陣。將若干客戶端的加密梯度矩陣加載到TEE中，在TEE中對其進行解密，得到若干原始梯度矩陣。對若干原始梯度矩陣中相同位置的矩陣元素進行融合，得到融合矩陣。該融合矩陣用于反映若干原始梯度矩陣中的矩陣元素取值的總體趨勢。基于融合矩陣，計算若干原始梯度矩陣各自的離散度。該離散度用于反映各原始梯度矩陣中的矩陣元素取值偏離總體趨勢的程度。基于若干原始梯度矩陣各自的離散度，選取各目標矩陣，并基于各目標矩陣，更新服務器維護的業(yè)務預測模型的模型參數(shù)。

技術領域

本說明書一個或多個實施例涉及計算機技術領域，尤其涉及一種保護隱私的業(yè)務預測模型聯(lián)合更新方法及裝置。

背景技術

聯(lián)邦學習(Federated Learning)，也稱聯(lián)合學習，是一種新興的人工智能基礎技術。其設計目標是在保障大數(shù)據(jù)交換時的信息安全、保護終端數(shù)據(jù)和個人數(shù)據(jù)隱私、保證合法合規(guī)的前提下，在多參與方之間開展高效率的機器學習。

然而在多參與方聯(lián)合學習的過程中，比如，在多參與方聯(lián)合更新業(yè)務預測模型的過程中，可能會存在其中的某一方為惡意攻擊者，這就會使得模型聯(lián)合更新過程被攻擊。

因此，需要提供一種方案，以便可以從多個參與方中識別出惡意攻擊者，進而確保模型聯(lián)合更新的安全性。

發(fā)明內(nèi)容

本說明書一個或多個實施例描述了一種保護隱私的業(yè)務預測模型聯(lián)合更新方法及裝置，可以有效抵御惡意攻擊者的攻擊。

第一方面，提供了一種保護隱私的業(yè)務預測模型聯(lián)合更新方法，包括：

接收若干客戶端在基于各自維護的私有樣本，在本地訓練業(yè)務預測模型后發(fā)送的加密梯度矩陣；

將所述若干客戶端的加密梯度矩陣加載到所述TEE中，在所述TEE中對其進行解密，得到若干原始梯度矩陣；

對所述若干原始梯度矩陣中相同位置的矩陣元素進行融合，得到融合矩陣；所述融合矩陣用于反映所述若干原始梯度矩陣中的矩陣元素取值的總體趨勢；

基于所述融合矩陣，計算所述若干原始梯度矩陣各自的離散度；所述離散度用于反映各原始梯度矩陣中的矩陣元素取值偏離總體趨勢的程度；

基于所述若干原始梯度矩陣各自的離散度，從所述若干原始梯度矩陣中選取各目標矩陣；

基于所述各目標矩陣，更新所述服務器維護的業(yè)務預測模型的模型參數(shù)。

第二方面，提供了一種保護隱私的業(yè)務預測模型聯(lián)合更新裝置，包括：

接收單元，用于接收若干客戶端在基于各自維護的私有樣本，在本地訓練業(yè)務預測模型后發(fā)送的加密梯度矩陣；

解密單元，用于將所述若干客戶端的加密梯度矩陣加載到所述TEE中，在所述TEE中對其進行解密，得到若干原始梯度矩陣；

融合單元，用于對所述若干原始梯度矩陣中相同位置的矩陣元素進行融合，得到融合矩陣；所述融合矩陣用于反映所述若干原始梯度矩陣中的矩陣元素取值的總體趨勢；

計算單元，用于基于所述融合矩陣，計算所述若干原始梯度矩陣各自的離散度；所述離散度用于反映各原始梯度矩陣中的矩陣元素取值偏離總體趨勢的程度；

選取單元，用于基于所述若干原始梯度矩陣各自的離散度，從所述若干原始梯度矩陣中選取各目標矩陣；

更新單元，用于基于所述各目標矩陣，更新所述服務器維護的業(yè)務預測模型的模型參數(shù)。

第三方面，提供了一種計算機存儲介質(zhì)，其上存儲有計算機程序，當所述計算機程序在計算機中執(zhí)行時，令計算機執(zhí)行第一方面的方法。