[發明專利]異步聯邦學習的方法、業務服務的預測方法、裝置及系統

在審

• 申請號: 202210148478.3
• 申請日: 2022-02-17
• 公開（公告）號: CN114548426A
• 公開（公告）日: 2022-05-27
• 發明（設計）人: 劉吉;周晨娣;季石磊;竇德景
• 申請（專利權）人: 北京百度網訊科技有限公司
• 主分類號: G06N20/00
• 分類號: G06N20/00;G06K9/62;G06F11/34
• 代理公司: 北京同立鈞成知識產權代理有限公司 11205
• 代理人: 馬姣琴;劉芳

1.一種異步聯邦學習的方法，所述方法應用于服務器，所述方法包括：

響應于目標電子設備發送的參與異步聯邦學習的請求，根據所述服務器的性能信息確定所述服務器支持參與所述異步聯邦學習的電子設備的第一數量，并獲取已參與所述異步聯邦學習的其他電子設備的第二數量；

若所述第一數量大于所述第二數量，則向所述目標電子設備發送待優化的全局模型，并接收所述目標電子設備對所述待優化的全局模型進行訓練得到的目標反饋信息；

根據所述目標反饋信息對所述待優化的全局模型進行優化，得到優化后的全局模型。

2.根據權利要求1所述的方法，其中，所述性能信息包括負載量；根據所述服務器的性能信息確定所述服務器支持參與所述異步聯邦學習的電子設備的第一數量，包括：

根據所述負載量確定所述異步聯邦學習的收斂速度達到預設速度閾值的電子設備的數量，其中，達到預設速度閾值的電子設備的數量確定為所述第一數量。

3.根據權利要求2所述的方法，其中，所述異步聯邦學習的環境中包括N個電子設備；根據所述負載量確定所述異步聯邦學習的收斂速度達到預設速度閾值的電子設備的數量，包括：

根據所述負載量，確定所述N個電子設備參與所述異步聯邦學習的收斂速度；

若所述N個電子設備參與所述異步聯邦學習時收斂速度小于所述預設速度閾值，則根據所述負載量，確定(N-M)個電子設備參與所述異步聯邦學習的收斂速度，其中，1≤M＜N；

以此類推，直至得到所述異步聯邦學習的收斂速度達到預設速度閾值的電子設備的數量。

4.根據權利要求1-3中任一項所述的方法，其中，根據所述目標反饋信息對所述待優化的全局模型進行優化，得到優化后的全局模型，包括：

根據所述目標反饋信息從所述服務器的內存中，獲取所述其他電子設備反饋的對所述待優化的全局模型進行訓練得到的反饋信息；

根據所述目標反饋信息和所述其他電子設備的反饋信息，對所述待優化的全局模型進行優化，得到所述優化后的全局模型。

5.根據權利要求4所述的方法，其中，所述目標反饋信息包括時間戳，所述時間戳用于表征所述異步聯邦學習的學習輪數；根據所述目標反饋信息從所述服務器的內存中，獲取所述其他電子設備反饋的對所述待優化的全局模型進行訓練得到的反饋信息，包括：

從所述服務器的內存中，獲取與所述目標電子設備具有相同的時間戳的所述其他電子設備的反饋信息。

6.根據權利要求5所述的方法，在從所述服務器的內存中，獲取與所述目標電子設備具有相同的時間戳的所述其他電子設備的反饋信息之后，所述方法還包括：

獲取所述目標反饋信息、以及所述其他電子設備的反饋信息在所述內存中的占有容量；

以及，根據所述目標反饋信息和所述其他電子設備的反饋信息，對所述待優化的全局模型進行優化，得到所述優化后的全局模型，包括：

若所述占有容量達到預設的容量閾值，則根據所述目標反饋信息和所述其他電子設備的反饋信息，對所述待優化的全局模型進行優化，得到所述優化后的全局模型。

7.根據權利要求1-6任一項所述的方法，其中，根據所述目標反饋信息對所述待優化的全局模型進行優化，得到優化后的全局模型，包括：

獲取優化得到所述待優化的全局模型的歷史被優化記錄，并根據所述歷史被優化記錄生成每兩相鄰次優化所述待優化的全局模型的陳腐性信息；

根據各陳腐性信息和所述目標反饋信息，對所述待優化的全局模型進行優化，得到優化后的全局模型。

8.根據權利要求7所述的方法，其中，根據各陳腐性信息和所述目標反饋信息，對所述待優化的全局模型進行優化，得到優化后的全局模型，包括：

確定各陳腐信息各自對應的陳腐權重值，并對各陳腐性信息進行加權平均計算，得到平均陳腐性信息；

根據所述平均陳腐性信息、各陳腐性權重、以及所述目標反饋信息，對所述待優化的全局模型進行優化，得到優化后的全局模型。