[發明專利]基于聯邦學習和神經架構搜索的云邊協同訓練方法及系統

在審

• 申請號: 202310037397.0
• 申請日: 2023-01-10
• 公開（公告）號: CN116070714A
• 公開（公告）日: 2023-05-05
• 發明（設計）人: 王曉飛;張子桐;仇超;劉志成;趙云鳳
• 申請（專利權）人: 天津大學
• 主分類號: G06N20/00
• 分類號: G06N20/00;G06N3/049;G06N3/08;G06N3/0464
• 代理公司: 深圳眾邦專利代理有限公司 44545
• 代理人: 丁曹凱

本發明公開了一種基于聯邦學習和神經架構搜索的云邊協同訓練方法及系統，包括：基于P個殘差網絡構建包含若干網絡的搜索空間；收集圖像構建包括訓練集和驗證集的樣本集；基于策略梯度的強化學習方法對搜索空間中的網絡進行訓練得到優化網絡，根據驗證精度和模型大小設獎勵函數選取最優子模型；中心服務器在最優子模型的每一層網絡的后方添加分支分類網絡作出口，形成含若干個分支模型的退出點模型；將分支模型分配給邊緣設備訓練得到退出點本地模型，中心服務器利用聯邦學習對訓練后的退出點本地模型聚合，以最小化總損失函數和最大化驗證精度為目標對退出點模型更新。本發明通過選擇適當的分支模型部署在不同邊緣設備上，提高了模型可重用性。

技術領域

本發明屬于神經網絡技術領域，具體涉及一種基于聯邦學習和神經架構搜索的云邊協同訓練方法及系統。

背景技術

近年來，隨著邊緣計算的發展，深度神經網絡被部署在不同的邊緣設備上，然而由于邊緣設備的異構性，需要設計一系列模型結構。為了實現設計的自動化，一些方法使用神經架構搜索(Neural?Architecture?Search,NAS)方法構建模型，從而減少了人力和計算資源。為了保護數據隱私，聯邦學習(Federated?Learning,FL)可以在不泄漏數據的情況下對邊緣環境中的模型進行協同訓練。但是將神經架構搜索和聯邦學習相結合的方案還處于起步階段，在集中的搜索過程結合云邊協同的訓練過程中會出現一些技術問題。比如：不同設備上的模型是異構的，傳統的聯邦學習只能聚合相同結構的模型，針對結構不同的模型沒有特定的聚合策略。

針對上述問題，利用基于聯邦學習的神經架構搜索方法，自動搜索多退出模型，為設備提供異構的模型，并針對異構模型設計協同訓練的聚合策略，為邊緣場景中實現異構、高效、可復用的訓練框架提供有效的解決方案亟待解決。

發明內容

針對以上問題，本發明提出了一種基于聯邦學習和神經架構搜索的云邊協同訓練方法及系統。為解決以上技術問題，本發明所采用的技術方案如下：

一種基于聯邦學習和神經架構搜索的云邊協同訓練方法，包括如下步驟：

S1，基于P個殘差網絡構建包含若干個網絡的搜索空間，且P≥2；

S2，收集圖像數據構建樣本集，將所述樣本集劃分為訓練集和驗證集；

S3，采用基于策略梯度的強化學習方法利用訓練集對搜索空間中的網絡進行訓練得到優化網絡，根據驗證集精度和模型大小設定獎勵函數，選取獎勵函數最高的網絡作為最優子模型；

S4，中心服務器在最優子模型的每一層網絡的后方均添加分支分類網絡作為出口，并添加輸入層和輸出層形成包括若干個分支模型的退出點模型；

S5，將步驟S4中退出點模型的分支模型分配給邊緣設備進行訓練得到退出點本地模型，中心服務器利用聯邦學習方法對訓練后的退出點本地模型進行聚合，并以最小化總損失函數和最大化驗證精度為目標對中心服務器中的退出點模型進行更新。

所述步驟S1包括如下步驟：

S1.1，選取P個殘差網絡，對每個殘差網絡分別進行裁剪按照網絡層將裁剪后的殘差塊對應存儲在每層的殘差塊池中；

S1.2，分別從每個殘差塊池中隨機選擇一個殘差塊組成對應的網絡層；

S1.3，對步驟S1.2得到的網絡層進行連接形成包含個網絡的搜索空間，其中，N表示殘差塊池中候選殘差塊的數目，L表示殘差塊池的數目。

所述步驟S3包括如下步驟：

S3.1，基于長短期記憶網絡建立控制器；

S3.2，利用控制器從步驟S1建立的搜索空間中隨機選取網絡，采用策略梯度的強化學習方法基于訓練集數據對選取出的網絡進行訓練得到優化網絡；