[發明專利]用于聯盟學習的方法、裝置及聯盟學習系統

有效

• 申請號: 202010411922.7
• 申請日: 2020-05-15
• 公開（公告）號: CN111340243B
• 公開（公告）日: 2020-09-08
• 發明（設計）人: 王力;周俊
• 申請（專利權）人: 支付寶（杭州）信息技術有限公司
• 主分類號: G06N20/00
• 分類號: G06N20/00
• 代理公司: 北京永新同創知識產權代理有限公司 11376
• 代理人: 林錦輝;劉景峰

本說明書的實施例提供用于聯盟學習的方法，所述聯盟包括至少三個第一成員設備以及第二成員設備，每個第一成員設備具有本地數據。在該方法中，第二成員設備基于各個第一成員設備的硬件性能參數信息，對第一成員設備進行成員分組，得到各個第一成員設備分組，每個第一成員設備分組具有與各自的硬件性能參數適配的初始全局業務模型。針對各個第一成員設備分組，該第一成員設備分組中的各個第一成員設備使用各自的本地數據，與第二成員設備一起執行聯盟學習來得到目標全局業務模型。

技術領域

本說明書實施例通常涉及人工智能領域，尤其涉及用于聯盟學習的方法、裝置以及聯盟學習系統。

背景技術

隨著人工智能技術的發展，業務模型已經逐漸應用于各種業務應用場景，比如，風險評估、語音識別、自然語言處理等。為了解決模型訓練時的數據孤島問題，提出了聯盟學習（Federated Learning）。利用聯盟學習，可以在保護數據隱私的情況下，讓多個數據擁有方通過多方安全計算或者在硬件SGX環境中進行加密計算，通過各個數據擁有方之間的協同計算來實現模型訓練。

然而，在聯盟學習場景下，各個數據擁有方設備可能是具有不同配置和不同計算能力的終端設備，比如，由不同生產廠商生產的不同型號的智能移動終端，從而使得各個數據擁有方設備的硬件性能差異非常大。在這種情況下，在各個數據擁有方設備進行聯盟學習時，如果所有數據擁有方設備都訓練同一全局業務模型，則會存在巨大的性能瓶頸。例如，部分硬件性能較差的數據擁有方設備可能會在規定時間內無法訓練出全局業務模型，或者在規定時間內完成全局業務模型訓練，但需要消耗大量的代價，比如，大量的通信成本以及大量的電量消耗等等。

發明內容

鑒于上述問題，本說明書實施例提供一種用于聯盟學習的方法、裝置及聯盟學習系統。利用該方法、裝置及系統，在具有全局業務模型的第二成員設備處，基于具有本地數據的各個第一成員設備的硬件性能參數來對第一成員設備進行成員設備分組，每個成員設備分組具有與其硬件性能參數適配的全局業務模型，并由各個成員設備分組的第一成員設備使用本地數據，與第二成員設備一起來對各自的全局業務模型進行聯盟學習，可以為不同硬件性能的第一成員設備分配不同模型復雜度的全局業務模型，由此使得各個第一成員設備所訓練的全局業務模型的復雜度不超出該第一成員設備的硬件性能參數，從而使得各個第一成員設備分組能夠快速地訓練出全局業務模型，進而提高聯盟學習效率。

根據本說明書實施例的一個方面，提供一種用于聯盟學習的方法，所述聯盟包括至少三個第一成員設備以及第二成員設備，每個第一成員設備具有本地數據，所述方法由第二成員設備執行，所述方法包括：獲取各個第一成員設備的硬件性能參數信息；基于各個第一成員設備的硬件性能參數信息，對第一成員設備進行成員分組，得到各個第一成員設備分組，每個第一成員設備分組具有與各自的硬件性能參數適配的初始全局業務模型；以及將各個初始全局業務模型分別提供給對應的第一成員設備分組中的各個第一成員設備，其中，針對各個第一成員設備分組，各個第一成員設備使用各自的本地數據，與所述第二成員設備一起執行聯盟學習來得到目標全局業務模型。

可選地，在上述方面的一個示例中，所述第二成員設備維護至少一個全局業務模型，基于各個第一成員設備的硬件性能參數信息，對第一成員設備進行成員分組，得到各個第一成員設備分組，每個第一成員設備分組具有與各自的硬件性能參數適配的初始全局業務模型可以包括：基于各個第一成員設備的硬件性能參數信息，將各個第一成員設備分配給與各自的硬件性能參數適配的初始全局業務模型，具有同一初始全局業務模型的第一成員設備組成第一成員設備分組。

可選地，在上述方面的一個示例中，基于各個第一成員設備的硬件性能參數信息，對第一成員設備進行成員分組，得到各個第一成員設備分組，每個第一成員設備分組具有與各自的硬件性能參數適配的初始全局業務模型可以包括：基于各個第一成員設備的硬件性能參數信息，對第一成員設備進行成員分組，得到各個第一成員設備分組；以及為各個第一成員設備分組生成與各自的硬件性能參數適配的初始全局業務模型。