[發明專利]聯邦學習系統優化方法、裝置、設備及存儲介質

在審

• 申請號: 202010022561.7
• 申請日: 2020-01-09
• 公開（公告）號: CN111222647A
• 公開（公告）日: 2020-06-02
• 發明（設計）人: 程勇;劉洋;陳天健
• 申請（專利權）人: 深圳前海微眾銀行股份有限公司
• 主分類號: G06N20/00
• 分類號: G06N20/00;G06K9/62
• 代理公司: 深圳市世紀恒程知識產權代理事務所 44287
• 代理人: 王韜

1.一種聯邦學習系統優化方法，其特征在于，應用于參與聯邦學習的參與設備，所述聯邦學習系統優化方法包括：

參與聯邦學習模型訓練獲得聯邦模型；

采用預設訓練數據集和所述聯邦模型訓練得到本地模型和全模型，其中，所述全模型至少包括所述聯邦模型、所述本地模型和融合模型，所述聯邦模型和所述本地模型的輸出連接所述融合模型的輸入；

對所述聯邦模型、所述本地模型和所述全模型進行性能測試，基于性能測試結果選擇最終使用的模型。

2.如權利要求1所述的聯邦學習系統優化方法，其特征在于，所述采用預設訓練數據集和所述聯邦模型訓練得到本地模型和全模型的步驟包括：

采用預設訓練數據集對待訓練本地模型進行訓練得到本地模型；

采用所述預設訓練數據集中的數據作為所述聯邦模型和所述本地模型的輸入，采用所述聯邦模型和所述本地模型的輸出作為待訓練融合模型的輸入，對所述待訓練融合模型進行訓練得到所述全模型。

3.如權利要求1所述的聯邦學習系統優化方法，其特征在于，所述采用預設訓練數據集和所述聯邦模型訓練得到本地模型和全模型的步驟包括：

采用所述預設訓練數據集中的數據作為所述聯邦模型和待訓練本地模型的輸入，采用所述聯邦模型和所述待訓練本地模型的輸出作為待訓練融合模型的輸入，對所述待訓練本地模型和所述待訓練融合模型進行訓練，得到所述本地模型和所述全模型。

4.如權利要求1所述的聯邦學習系統優化方法，其特征在于，所述對所述聯邦模型、所述本地模型和所述全模型進行性能測試，基于性能測試結果選擇最終使用的模型的步驟之后，還包括：

當性能測試結果為所述本地模型性能最優時，在預設時間段內停止參與聯邦學習。

5.如權利要求1所述的聯邦學習系統優化方法，其特征在于，所述對所述聯邦模型、所述本地模型和所述全模型進行性能測試，基于性能測試結果選擇最終使用的模型的步驟之后，還包括：

將性能測試結果發送給參與聯邦學習的協調設備，以供所述協調設備在所述性能測試結果為所述本地模型性能最優時，在預設時間段內停止發送聯邦學習邀請給所述參與設備。

6.如權利要求5所述的聯邦學習系統優化方法，其特征在于，當性能測試結果為所述全模型性能最優，所述全模型用于對圖像進行分類時，所述對所述聯邦模型、所述本地模型和所述全模型進行性能測試，基于性能測試結果選擇最終使用的模型的步驟之后，還包括：

將待分類圖像分別輸入所述全模型中的所述聯邦模型和所述本地模型，得到所述聯邦模型輸出的第一分對數和所述本地模型輸出的第二分對數，其中，所述第一分對數和所述第二分對數表征所述待分類圖像屬于各圖像類別的概率；

將所述第一分對數和所述第二分對數進行融合后輸入所述全模型中的所述融合模型，得到所述融合模型輸出的所述待分類圖像的分類結果。

7.如權利要求1至6任一項所述的聯邦學習系統優化方法，其特征在于，所述聯邦模型的個數為至少一個，所述本地模型的個數為至少一個。

8.一種聯邦學習系統優化裝置，其特征在于，部署于參與聯邦學習的參與設備，所述聯邦學習系統優化裝置包括：

聯邦學習模塊，用于參與聯邦學習模型訓練獲得聯邦模型；

訓練模塊，用于采用預設訓練數據集和所述聯邦模型訓練得到本地模型和全模型，其中，所述全模型至少包括所述聯邦模型、所述本地模型和融合模型三部分，所述聯邦模型和所述本地模型的輸出連接所述融合模型的輸入；

測試模塊，用于對所述聯邦模型、所述本地模型和所述全模型進行性能測試，基于性能測試結果選擇最終使用的模型。

9.一種聯邦學習系統優化設備，其特征在于，所述聯邦學習系統優化設備包括存儲器、處理器和存儲在所述存儲器上并可在所述處理器上運行的聯邦學習系統優化程序，所述聯邦學習系統優化程序被所述處理器執行時實現如權利要求1至7中任一項所述的聯邦學習系統優化方法的步驟。

10.一種計算機可讀存儲介質，其特征在于，所述計算機可讀存儲介質上存儲有聯邦學習系統優化程序，所述聯邦學習系統優化程序被處理器執行時實現如權利要求1至7中任一項所述的聯邦學習系統優化方法的步驟。