[發明專利]一種聯邦學習模型的訓練方法、裝置及電子設備

有效

• 申請號: 202011617342.X
• 申請日: 2020-12-31
• 公開（公告）號: CN113822311B
• 公開（公告）日: 2023-09-01
• 發明（設計）人: 王佩琪;張文夕;顧松庠;薄列峰;孫孟哲
• 申請（專利權）人: 京東科技控股股份有限公司
• 主分類號: G06F18/214
• 分類號: G06F18/214;G06F18/2431;G06N3/04;G06N3/08;G06N3/084;G06N3/098;G06N20/00
• 代理公司: 北京清亦華知識產權代理事務所(普通合伙) 11201
• 代理人: 張大威

1.一種聯邦學習模型的訓練方法，其特征在于，應用于服務端，包括：

如果訓練節點滿足預設分裂條件，則獲取所述訓練節點對應的目標分裂方式；其中，所述訓練節點為多個提升樹中一個提升樹上的節點；

通知客戶端基于所述目標分裂方式進行節點分裂；

以所述訓練節點分裂后生成的左子樹節點重新作為所述訓練節點進行下一輪訓練，直至更新的所述訓練節點不再滿足所述預設分裂條件；

以所述一個提升樹的其它非葉子節點重新作為所述訓練節點進行下一輪訓練；

如果所述多個提升樹的節點數據集均為空，停止訓練并生成目標聯邦學習模型；

所述獲取所述訓練節點對應的目標分裂方式，包括：

基于第一訓練集合，協同所述客戶端進行橫向聯邦學習，以得到所述訓練節點對應的第一分裂值；

基于第二訓練集合，協同所述客戶端進行縱向聯邦學習，以得到所述訓練節點對應的第二分裂值；

根據所述第一分裂值和所述第二分裂值，確定所述訓練節點對應的目標分裂方式。

2.根據權利要求1所述的聯邦學習模型的訓練方法，其特征在于，所述根據所述第一分裂值和所述第二分裂值，確定所述訓練節點對應的目標分裂方式，包括：

確定所述第一分裂值與所述第二分裂值中較大的值為所述訓練節點對應的目標分裂值；

根據所述目標分裂值，確定所述訓練節點對應的分裂方式。

3.根據權利要求1所述的聯邦學習模型的訓練方法，其特征在于，所述基于第一訓練集合，協和所述客戶端進行橫向聯邦學習，以得到所述訓練節點對應的第一分裂值，包括：

從所述第一訓練集合中產生所述訓練節點可用的第一特征子集，并發送給所述客戶端；

接收所述客戶端發送的所述第一特征子集中每個特征的特征值；

根據所述第一特征子集中每個特征的特征值，分別確定所述每個特征作為分裂特征點對應的橫向分裂值；

根據所述每個特征對應的所述橫向分裂值，確定所述訓練節點的所述第一分裂值。

4.根據權利要求3所述的聯邦學習模型的訓練方法，其特征在于，所述根據所述第一特征子集中每個特征的特征值，分別確定所述每個特征作為分裂特征點對應的橫向分裂值，包括：

針對所述第一特征子集中任一特征，根據所述任一特征的特征值，確定所述任一特征的分裂閾值；

根據所述分裂閾值，獲取所述任一特征對應的第一數據實例標識集合和第二數據實例標識集合，其中，所述第一數據實例標識集合包括屬于第一左子樹空間的數據實例標識，所述第二數據實例標識集合包括屬于第一右子樹空間的數據實例標識；

根據所述第一數據實例標識集合和所述第二數據實例標識集合，確定所述任一特征對應的所述橫向分裂值。

5.根據權利要求4所述的聯邦學習模型的訓練方法，其特征在于，所述根據所述分裂閾值，獲取所述任一特征對應的第一數據實例標識集合和第二數據實例標識集合，包括：

向所述客戶端發送所述分裂閾值；

接收所述客戶端發送所述訓練節點對應的初始數據實例標識集合，其中，所述初始數據實例標識集合為所述客戶端根據所述分裂閾值對所述任一特征進行節點分裂時生成的，所述初始數據實例標識集合包括屬于所述第一左子樹空間的數據實例標識；

基于所述初始數據實例標識集合和所有數據實例標識，獲得所述第一數據實例標識集合和所述第二數據實例標識集合。

6.根據權利要求5所述的聯邦學習模型的訓練方法，其特征在于，所述基于所述初始數據實例標識集合，獲得所述第一數據實例標識集合和所述第二數據實例標識集合，包括：

將所述初始數據實例標識集合中的每個數據實例標識，與所述客戶端的數據實例標識進行對比，獲取存在異常的數據實例標識；

對所述異常的數據實例標識進行預處理，獲取所述第一數據實例標識集合；

基于所有數據實例標識和所述第一數據實例標識集合，獲取所述第二數據實例標識集合。