[發明專利]一種個性化的隱私保護學習方法、裝置以及設備

有效

• 申請號: 202110104747.1
• 申請日: 2021-01-26
• 公開（公告）號: CN112836829B
• 公開（公告）日: 2022-08-02
• 發明（設計）人: 陳超超;王力
• 申請（專利權）人: 支付寶（杭州）信息技術有限公司
• 主分類號: G06N20/00
• 分類號: G06N20/00
• 代理公司: 北京君慧知識產權代理事務所(普通合伙) 11716
• 代理人: 吳紹群

1.一種個性化的隱私保護學習方法，應用于第一參與端，所述方法包括：

確定全局模型和所述第一參與端的局部模型；

通過與多個第二參與端進行聯邦學習，協同訓練所述全局模型；

根據所述協同訓練后的全局模型，在所述多個第二參與端中選擇第二參與端；

與所述選擇出的第二參與端協同訓練所述第一參與端的局部模型。

2.如權利要求1所述的方法，所述根據所述協同訓練后的全局模型，在所述多個第二參與端中選擇第二參與端，具體包括：

根據所述協同訓練后的全局模型，確定所述第一參與端與所述第二參與端之間的相似性；

根據所述相似性，在所述多個第二參與端中選擇第二參與端。

3.如權利要求2所述的方法，所述根據所述協同訓練后的全局模型，確定所述第一參與端與所述第二參與端之間的相似性，具體包括：

利用所述第一參與端與所述第二參與端分別使用的訓練數據，在所述協同訓練后的全局模型中進行預測；

根據所述預測的結果，確定所述第一參與端與所述第二參與端之間的相似性。

4.如權利要求3所述的方法，所述根據所述預測的結果，確定所述第一參與端與所述第二參與端之間的相似性，具體包括：

通過所述預測，得到根據多個預測值生成的預測向量；

確定所述第一參與端與所述第二參與端分別對應的所述預測向量之間的內積；

根據所述內積，確定所述第一參與端與所述第二參與端之間的相似性。

5.如權利要求2所述的方法，所述通過與多個第二參與端進行聯邦學習，協同訓練所述全局模型，具體包括：

采用第一指定批次的訓練數據，與多個采用第二指定批次的訓練數據的第二參與端進行聯邦學習，協同訓練所述全局模型；

所述根據所述協同訓練后的全局模型，在所述多個第二參與端中選擇第二參與端，具體包括：

根據所述協同訓練后的全局模型，以及第三指定批次的訓練數據，在所述多個第二參與端中選擇第二參與端。

6.如權利要求1所述的方法，所述與所述選擇出的第二參與端協同訓練所述第一參與端的局部模型，具體包括：

獲取根據所述第二參與端的局部模型和訓練數據生成的協同數據；

根據所述協同數據，以及所述第一參與端的訓練數據，對所述第一參與端的局部模型進行協同訓練。

7.如權利要求6所述的方法，所述協同數據包括進行隱私保護后的梯度信息。

8.一種個性化的隱私保護學習裝置，應用于第一參與端，所述裝置包括：

模型確定模塊，確定全局模型和所述第一參與端的局部模型；

全局訓練模塊，通過與多個第二參與端進行聯邦學習，協同訓練所述全局模型；

參與端選擇模塊，根據所述協同訓練后的全局模型，在所述多個第二參與端中選擇第二參與端；

局部協同模塊，與所述選擇出的第二參與端協同訓練所述第一參與端的局部模型。

9.如權利要求8所述的裝置，所述參與端選擇模塊包括：

相似性確定子模塊，根據所述協同訓練后的全局模型，確定所述第一參與端與所述第二參與端之間的相似性；

選擇子模塊，根據所述相似性，在所述多個第二參與端中選擇第二參與端。

10.如權利要求9所述的裝置，所述相似性確定子模塊，利用所述第一參與端與所述第二參與端分別使用的訓練數據，在所述協同訓練后的全局模型中進行預測；

根據所述預測的結果，確定所述第一參與端與所述第二參與端之間的相似性。

11.如權利要求10所述的裝置，所述相似性確定子模塊，通過所述預測，得到根據多個預測值生成的預測向量；

確定所述第一參與端與所述第二參與端分別對應的所述預測向量之間的內積；

根據所述內積，確定所述第一參與端與所述第二參與端之間的相似性。