[發明專利]用于聯盟學習的方法、裝置及聯盟學習系統

有效

• 申請號: 202010411922.7
• 申請日: 2020-05-15
• 公開（公告）號: CN111340243B
• 公開（公告）日: 2020-09-08
• 發明（設計）人: 王力;周俊
• 申請（專利權）人: 支付寶（杭州）信息技術有限公司
• 主分類號: G06N20/00
• 分類號: G06N20/00
• 代理公司: 北京永新同創知識產權代理有限公司 11376
• 代理人: 林錦輝;劉景峰

1.一種用于聯盟學習的方法，所述聯盟包括至少三個第一成員設備，以及第二成員設備，每個第一成員設備具有本地數據，所述方法由第二成員設備執行，所述方法包括：

獲取各個第一成員設備的硬件性能參數信息；

基于各個第一成員設備的硬件性能參數信息，對第一成員設備進行成員分組，得到各個第一成員設備分組，每個第一成員設備分組具有與各自的硬件性能參數適配的初始全局業務模型，各個第一成員設備分組中的第一成員設備的硬件性能參數相似，各個初始全局業務模型選自所述第二成員設備中所維護的至少一個全局業務模型或者由所述第二成員設備生成，并且具有不同的模型復雜度；

將各個初始全局業務模型分別提供給對應的第一成員設備分組中的各個第一成員設備；

針對各個第一成員設備分組，與該第一成員設備分組中的各個第一成員設備一起，使用各個第一成員設備的本地數據一起執行聯盟學習來得到目標全局業務模型；以及

針對模型性能最好的第一成員設備分組，利用知識蒸餾技術訓練出小規模模型。

2.如權利要求1所述的方法，其中，所述第二成員設備維護至少一個全局業務模型，基于各個第一成員設備的硬件性能參數信息，對第一成員設備進行成員分組，得到各個第一成員設備分組，每個第一成員設備分組具有與各自的硬件性能參數適配的初始全局業務模型包括：

基于各個第一成員設備的硬件性能參數信息，將各個第一成員設備分配給與各自的硬件性能參數適配的初始全局業務模型，具有同一初始全局業務模型的第一成員設備組成第一成員設備分組。

3.如權利要求1所述的方法，其中，基于各個第一成員設備的硬件性能參數信息，對第一成員設備進行成員分組，得到各個第一成員設備分組，每個第一成員設備分組具有與各自的硬件性能參數適配的初始全局業務模型包括：

基于各個第一成員設備的硬件性能參數信息，對第一成員設備進行成員分組，得到各個第一成員設備分組；以及

為各個第一成員設備分組生成與各自的硬件性能參數適配的初始全局業務模型。

4.如權利要求1所述的方法，其中，所述第一成員設備是智能終端設備，所述硬件性能參數信息包括下述參數信息中的至少一種：

處理芯片型號、內存大小、操作系統版本以及設備使用年限。

5.如權利要求1所述的方法，其中，基于各個第一成員設備的硬件性能參數信息，對第一成員設備進行成員分組，得到各個第一成員設備分組，每個第一成員設備分組具有與各自的硬件性能參數適配的初始全局業務模型包括：

基于各個第一成員設備的硬件性能參數信息以及其它參數信息，對第一成員設備進行成員分組，得到各個第一成員設備分組，每個第一成員設備分組具有與各自的硬件性能參數適配的初始全局業務模型，

所述其它參數信息包括所述第二成員設備的可用計算能力信息以及各個第一成員設備與所述第二成員設備之間的通信參數信息中的至少一種。

6.如權利要求5所述的方法，其中，各個第一成員設備和所述第二成員設備之間通過網絡進行數據傳輸，所述通信參數信息包括網絡傳輸速度、網絡使用率和/或網絡連接成功率。

7.如權利要求1所述的方法，進一步包括：

基于各個初始全局業務模型的模型結構和模型訓練要求，為各個初始全局業務模型的模型訓練配置所述第二成員設備的計算資源。

8.如權利要求1所述的方法，其中，所述小規模模型被用作所具有的硬件性能參數低于預定閾值的第一成員設備分組的初始全局業務模型或者目標全局業務模型。

9.如權利要求8所述的方法，其中，在所述第二成員設備的計算資源不足以提供針對所有第一成員設備分組的全局模型訓練時，所述小規模模型被用作部分第一成員設備分組的目標全局業務模型。