[發(fā)明專利]一種基于模型遷移的高效聯(lián)邦訓練方法和裝置

在審

• 申請?zhí)枺?/td>: 202210402652.2
• 申請日: 2022-04-18
• 公開（公告）號: CN114666218A
• 公開（公告）日: 2022-06-24
• 發(fā)明（設計）人: 徐宏力;劉建春;許楊;王倫;王志遠
• 申請（專利權）人: 中國科學技術大學蘇州高等研究院
• 主分類號: H04L41/082
• 分類號: H04L41/082;H04L41/14;H04L41/16
• 代理公司: 蘇州創(chuàng)元專利商標事務所有限公司 32103
• 代理人: 范晴

1.一種基于模型遷移的高效聯(lián)邦訓練方法，其特征在于，包括：

S110、服務器將目標任務的全局模型分發(fā)至各本地客戶端；

S120、所述各本地客戶端對接收到的全局模型進行訓練，并在完成本地訓練后向所述服務器發(fā)送訓練完成信號；

S130、所述服務器基于預設算法確定本地模型遷移訓練策略并將所述遷移訓練策略下發(fā)給所述各本地客戶端；

S140、所述各本地客戶端根據(jù)所述遷移訓練策略將自身更新好的本地模型遷移到其他本地客戶端繼續(xù)進行訓練，并在執(zhí)行完所述遷移訓練策略后將本地模型參數(shù)上傳至服務器。

2.根據(jù)權利要求1所述的方法，其特征在于，所述服務器基于預設算法確定本地模型遷移訓練策略，包括：

所述服務器采用強化學習訓練DRL代理的方法確定本地模型遷移策略。

3.根據(jù)權利要求2所述的方法，其特征在于，所述服務器采用強化學習訓練DRL代理的方法確定本地模型遷移策略，包括：

將所述各本地客戶端的數(shù)據(jù)分布、資源使用和訓練狀態(tài)作為輸入，輸出每一個動作的概率值，選取最高概率的動作以得到最優(yōu)的本地模型遷移策略。

4.根據(jù)權利要求1所述的方法，其特征在于，所述本地模型遷移策略中的參與遷移的本地客戶端數(shù)量小于聯(lián)邦訓練系統(tǒng)中所有的本地客戶端數(shù)量。

5.一種基于模型遷移的高效聯(lián)邦訓練裝置，其特征在于，包括：

全局模型分發(fā)模塊，用于通過服務器將目標任務的全局模型分發(fā)至各本地客戶端

本地模型訓練模塊，用于通過所述各本地客戶端對接收到的全局模型進行訓練，并在完成本地訓練后向所述服務器發(fā)送訓練完成信號

遷移策略確定模塊，用于通過所述服務器基于預設算法確定本地模型遷移訓練策略并將所述遷移訓練策略下發(fā)給所述各本地客戶端

遷移策略執(zhí)行模塊，用于通過所述各本地客戶端根據(jù)所述遷移訓練策略將自身更新好的本地模型遷移到其他本地客戶端繼續(xù)進行訓練，并在執(zhí)行完所述遷移訓練策略后將本地模型參數(shù)上傳至服務器。