[發明專利]一種聯邦學習中的業務數據處理方法、裝置以及設備

在審

• 申請號: 202011173171.6
• 申請日: 2020-10-28
• 公開（公告）號: CN112200713A
• 公開（公告）日: 2021-01-08
• 發明（設計）人: 張君濤;周啟賢
• 申請（專利權）人: 支付寶（杭州）信息技術有限公司
• 主分類號: G06T1/20
• 分類號: G06T1/20;G06N20/00
• 代理公司: 北京君慧知識產權代理事務所(普通合伙) 11716
• 代理人: 吳紹群

1.一種聯邦學習中的業務數據處理方法，包括：

確定聯邦學習中的所要執行的同態操作；

根據所述聯邦學習的參與方提供的業務數據，確定所述同態操作所要使用的整數參數；

將所述整數參數轉換為多個片段整數，所述片段整數的位數少于所述整數參數的位數，所述片段整數是根據數字相同的數位劃分的，所述數位為二進制數位，有損失地轉換所述整數參數，包括：若所述整數參數的末尾有少量的二進制數位1，考慮將這些1轉換為0；或者，若所述整數參數有連續的二進制數位為1的序列，考慮在該序列的最后一位上加1，從而該序列進1位；

在后續的訓練過程中給予相應的補償，包括：減少對應部分的訓練數據的權重；或者，將基于有損轉換對應生成的訓練數據作為一部分樣本，對所述整數參數再反向地進行有損轉換，對應生成的訓練數據作為該一部分樣本的補償樣本，既使用該一部分樣本也使用其補償樣本進行訓練；

通過圖形處理器GPU獲取所述多個片段整數，根據所述多個片段整數，為所述GPU的多個算術邏輯單元分配相應的同態乘法和/或同態加法，以通過相應的多個GPU線程并行執行，完成所述同態操作。

2.如權利要求1所述的方法，所述根據所述多個片段整數，為所述GPU的多個算術邏輯單元分配相應的同態乘法和/或同態加法，具體包括：

在所述GPU中根據所述多個片段整數和所述同態操作的步驟，生成批量計算任務集合，所述批量計算任務集合中的計算任務包括由至少兩個所述片段整數參與的同態乘法和/或同態加法；

將所述批量計算任務集合拆分后，分配給所述GPU的多個算術邏輯單元。

3.如權利要求1所述的方法，所述完成所述同態操作之后，所述方法還包括：

根據所述同態操作的結果，訓練所述聯邦學習對應的機器學習模型。

4.如權利要求1所述的方法，所述確定聯邦學習中的所要執行的同態操作，具體包括：

根據所述業務數據或者聯邦學習的類型，確定所述聯邦學習中的所要執行的同態操作。

5.如權利要求4所述的方法，所述根據聯邦學習的類型，確定所述聯邦學習中的所要執行的同態操作，具體包括：

若所述聯邦學習為縱向聯邦學習，則確定所述聯邦學習中的所要執行的同態操作包括同態乘法；和/或，

若聯邦學習為橫向聯邦學習，則確定所述聯邦學習中的所要執行的同態操作包括同態加法。

6.如權利要求1所述的方法，所述將所述整數參數轉換為多個片段整數，具體包括：

根據所述整數參數的多個數位，劃分出多個數位集合；

根據所述多個數位集合，將所述整數參數轉換為可還原所述整數參數的多個片段整數。

7.如權利要求6所述的方法，所述根據所述整數參數的多個數位，劃分出多個數位集合，具體包括：

確定所述整數參數的數位的順序，并在所述順序中確定分割點；

在所述分割點之前劃分出至少一個非空的數位集合，以及在所述分割點之后劃分出至少一個非空的數位集合。

8.如權利要求6所述的方法，所述數位集合中為所述整數參數的連續數位，所述數位為二進制數位；

所述根據所述多個數位集合，將所述整數參數轉換為可還原所述整數參數的多個片段整數，具體包括：

針對所述多個數位集合中的數位集合，確定該數位集合中的全部數位在所述整數參數中表示的總數值；

若該數位集合中不包含所述整數參數的最低數位，則將所述總數值轉換為兩個片段整數，否則，將所述總數值作為一個片段整數；

其中，所述兩個片段整數中的其中一個是通過將所述整數參數在所述全部數位上的數字依次連接得到，另一個是2的m次方，m為所述整數參數中低于所述全部數位的數位數量。

9.如權利要求8所述的方法，所述將所述總數值轉換為兩個片段整數之后，或者所述將所述總數值作為一個片段整數后，所述方法還包括：

通過迭代處理，將已得到的片段整數轉換為位數更少的片段整數。