[發明專利]一種移動邊緣計算中的云邊端聯邦學習方法

在審

• 申請號: 202111169752.7
• 申請日: 2021-10-08
• 公開（公告）號: CN113947210A
• 公開（公告）日: 2022-01-18
• 發明（設計）人: 畢遠國;項天敖;閆飛宏;王博洋;郭朋超
• 申請（專利權）人: 東北大學
• 主分類號: G06N20/00
• 分類號: G06N20/00
• 代理公司: 大連理工大學專利中心 21200
• 代理人: 溫福雪

本發明屬于邊緣計算技術領域，提供了一種移動邊緣計算中的云邊端聯邦學習方法，以降低通信輪次，提高所提出的三層邊緣計算架構中的訓練的機器學習模型可靠性。通過讓邊緣服務器參與聯邦學習訓練過程，通過動態調整終端設備中的訓練輪次來最小化邊緣服務器和終端設備之間的通信輪次。通過最小化邊緣服務器和終端設備之間的通信輪次降低了在傳輸模型過程中由于信道帶寬等因素導致的模型參數丟失問題。

技術領域

本發明屬于邊緣計算技術領域，涉及一種移動邊緣計算中的云邊端聯邦學習方法。

背景技術

隨著智能設備和通信技術的發展，根據IHS Markit的預測，到2030年，將有超過1250億臺設備部署在各個領域，如工業互聯網、智能汽車、醫療衛生等。與傳統的多媒體服務相比，這些領域的應用通常對響應延遲有嚴格的要求，使在網絡的邊緣部署此類服務成為剛需。

移動邊緣計算(Mobile Edge Computing,MEC)已經成為支持上述服務質量(Quality of Service,QoS)要求的一種有前途的技術，它可以提供具有本地計算能力、低延遲和大帶寬通信的實時服務。同時，作為一種分布式的機器學習范式，聯邦學習(Federated Learning,FL)在MEC中提供邊緣智能和隱私保護方面有很大的潛力。參與聯合學習過程的終端設備協同建立一個全局的高性能模型，同時在本地保留訓練數據。一個FL過程由數輪訓練過程組成，每輪只選擇一部分終端設備參與訓練過程。參與的終端設備用本地數據訓練模型，然后云服務器將收到的模型匯總，形成一個全球模型。

FL的主要優點是將模型訓練與直接訪問原始訓練數據脫鉤。在沒有數據交換的情況下，FL過程保留了數據隱私，減少了數據泄露的風險。基于這一特點，FL被廣泛應用于從商業公司到學術組織的各個領域，如谷歌、Webank和IEEE等。同時，與MEC集成的FL已經在許多研究領域進行了研究，如區塊鏈、深度強化學習和虛擬網絡功能自動縮放。

然而，由于有限的帶寬、不可靠的無線信道和頻繁的切換等原因，將FL與MEC整合面臨著許多挑戰。一方面，眾多設備爭相接入無線信道進行數據傳輸，導致嚴重的干擾或數據包碰撞。另一方面，終端設備的移動性引起的多普勒效應和頻繁切換也大大增加了MEC中丟包的可能性。由于終端設備參與了FL過程并與邊緣服務器交換參數，不穩定的無線連接降低了模型的可靠性，甚至使模型不可用，從而使全球聚合模型的質量下降。

發明內容

為了提高模型的可靠性，利用MEC的三層結構，將模型參數損失的可能性和終端設備與邊緣服務器之間的通信輪次建立正相關關系。通過理論分析，證明了最優通信輪次的存在，以及相應的使參數損失可能性最小的歷時數。通過對一些關鍵參數的調整，得到最小通信輪次和相應的最優本地訓練輪次的估計，然后使用邊緣服務器動態控制選中的終端設備的訓練輪次來減少通信輪次。

基于通信輪次和數據包丟失的正相關關系，從理論上推導出最佳的通信輪次和相應的歷時，并進一步利用這些輪次來減少由于脆弱的無線連接造成的參數丟失的可能性。通過擴展優化參數，估計了最佳通信輪次和相應的方便計算的本地迭代輪次，并設計了一種有效的本地迭代輪次調整算法來提高模型的可靠性。通過廣泛的模擬，結果表明，超過80％的估計歷時數在實踐中接近最佳迭代輪次，增強的FL方案有效地減少了通信輪次，以達到所需的精度。

本發明的技術方案為：

一種移動邊緣計算中的云邊端聯邦學習方法，包括步驟如下：

第一步，移動終端設備估計并向服務器傳遞計算最優本地迭代輪次所需的參數；