[發明專利]異步聯邦學習的方法、業務服務的預測方法、裝置及系統

在審

• 申請號: 202210148478.3
• 申請日: 2022-02-17
• 公開（公告）號: CN114548426A
• 公開（公告）日: 2022-05-27
• 發明（設計）人: 劉吉;周晨娣;季石磊;竇德景
• 申請（專利權）人: 北京百度網訊科技有限公司
• 主分類號: G06N20/00
• 分類號: G06N20/00;G06K9/62;G06F11/34
• 代理公司: 北京同立鈞成知識產權代理有限公司 11205
• 代理人: 馬姣琴;劉芳

本公開提供了一種異步聯邦學習的方法、業務服務的預測方法、裝置及系統，涉及人工智能技術中的大數據和機器學習，具體涉及機器學習中的聯邦學習。方案為：響應于目標電子設備發送的參與異步聯邦學習的請求，根據服務器的性能信息確定服務器支持參與異步聯邦學習的電子設備的第一數量，并獲取已參與異步聯邦學習的其他電子設備的第二數量，若第一數量大于第二數量，則向目標電子設備發送待優化的全局模型，并接收目標電子設備對待優化的全局模型進行訓練得到的目標反饋信息，根據目標反饋信息對待優化的全局模型進行優化，得到優化后的全局模型，避免了服務器過載的弊端，有效保證了得到優化后的全局模型的收斂速度。

技術領域

本公開涉及人工智能技術中的大數據和機器學習，具體涉及機器學習中的聯邦學習，尤其涉及一種異步聯邦學習的方法、業務服務的預測方法、裝置及系統。

背景技術

聯邦機器學習(Federated machine learning/Federated Learning)，又名聯邦學習，聯合學習，聯盟學習，異步聯邦學習是指異步的更新機制的聯邦學習。

在現有技術中，異步聯邦學習的方法包括：由服務器向各電子設備下發待優化的全局模型，各電子設備對待優化的全局模型進行訓練，得到模型參數，服務器根據各模型模型參數對待優化的全局模型進行優化，得到優化后的全局模型。

然而，采用上述方法，隨著參與異步聯邦學習的電子設備的數量的增加，異步聯邦學習的收斂速度下降，導致效率偏低的技術問題。

發明內容

本公開提供了一種用于提高異步聯邦學習的收斂速度的異步聯邦學習的方法、業務服務的預測方法、裝置及系統。

根據本公開的第一方面，提供了一種異步聯邦學習的方法，所述方法應用于服務器，所述方法包括：

響應于目標電子設備發送的參與異步聯邦學習的請求，根據所述服務器的性能信息確定所述服務器支持參與所述異步聯邦學習的電子設備的第一數量，并獲取已參與所述異步聯邦學習的其他電子設備的第二數量；

若所述第一數量大于所述第二數量，則向所述目標電子設備發送待優化的全局模型，并接收所述目標電子設備對所述待優化的全局模型進行訓練得到的目標反饋信息；

根據所述目標反饋信息對所述待優化的全局模型進行優化，得到優化后的全局模型。

根據本公開的第二方面，提供了一種異步聯邦學習的方法，所述方法應用于電子設備，所述方法包括：

向服務器發起參與異步聯邦學習的請求，并接收所述服務器基于所述參與異步聯邦學習的請求反饋的待優化的全局模型，其中，所述待優化的全局模型是在第一數量大于第二數量時接收到的，且所述第一數量是根據所述服務器的性能信息確定所述服務器支持參與所述異步聯邦學習的電子設備的數量，所述第二數量是獲取到的已參與所述異步聯邦學習的其他電子設備的數量；

對所述待優化的全局模型進行訓練，得到目標反饋信息，并將所述目標反饋信息傳輸給所述服務器，其中，所述目標反饋信息用于對所述待優化的全局模型進行優化，得到優化后的全局模型。

根據本公開的第三方面，提供了一種業務服務的預測方法，包括：

獲取預測請求，所述預測請求用于請求對目標業務服務進行預測；

基于預先訓練的優化后的全局模型對所述目標業務服務進行預測，得到預測結果；

其中，所述優化后的全局模型是基于如第一方面所述的方法得到的。

根據本公開的第四方面，提供了一種異步聯邦學習的裝置，所述裝置應用于服務器，所述裝置包括：

確定單元，用于響應于目標電子設備發送的參與異步聯邦學習的請求，根據所述服務器的性能信息確定所述服務器支持參與所述異步聯邦學習的電子設備的第一數量；