[發明專利]一種基于衛星和地面站連接密度的動態聚合聯邦學習方法

在審

• 申請號: 202211487222.1
• 申請日: 2022-11-24
• 公開（公告）號: CN115713009A
• 公開（公告）日: 2023-02-24
• 發明（設計）人: 許建龍;劉粵龍;金夢晴;林健;徐卓
• 申請（專利權）人: 汕頭大學
• 主分類號: G06F30/20
• 分類號: G06F30/20;G06F119/02
• 代理公司: 廣州三環專利商標代理有限公司 44202
• 代理人: 周增元

本發明公開了一種基于衛星和地面站連接密度的動態聚合聯邦學習方法，包括以下步驟：在第i輪，當衛星與地面站首次建立連接時，地面站發送全局模型w_i；所述衛星在本地訓練模型，并在下次連接時將本地的局部模型返回給地面站；當采集到的所述局部模型數量超過緩沖容量V或到預定義的時間周期T₀時，所述地面站采用加權平均法更新所述全局模型。發明可以充分利用衛星的計算資源、提高了模型的魯棒性、增加了全局模型聚合的數量或增加了聚合梯度的數量，有效地提高了模型的預測精度。

技術領域

本發明涉及衛星技術領域，尤其涉及一種基于衛星和地面站連接密度的動態聚合聯邦學習方法。

背景技術

近年來衛星技術的進步降低了衛星部署成本，促進了近地軌道(LEO)衛星的大規模發展。LEO衛星收集的大量圖像數據增強了機器學習能力，有助于解決一些全球性問題，如氣候變化、疾病傳播等。

傳統的基于衛星圖像的機器學習通常需要地面站下載衛星生成的圖像，然后地面站將數據傳輸到云計算平臺上，訓練機器學習模型。然而，從衛星上下載所有生成的原始圖像數據正變得越來越不可行。

這主要是因為：(1)與地球同步衛星不同，低軌道衛星每天只與地面站通信幾次，每次通信時間有限；(2)由于建立地面站的數百萬美元成本和擴大的難度，下行帶寬有限；(3)衛星圖像通常是高分辨率的，其中可能包含了隱私信息，被下載后可能會造成隱私泄露。

為了應對這些挑戰，一些學者將FL(聯邦學習)應用于衛星星座。FL是一個“服務器－客戶端”體系結構，其中只需要在服務器和客戶端之間交換模型參數，而不需要從客戶端傳遞原始數據。FL的概念是由McMahan等人所提出，與此同時它們將FL結合SGD(隨機梯度下降)進而提出了FedAvg(the FederatedAveraging Algorithm)的概念，它是一種同步FL，簡單來說FedAvg地的實現過程就是在每一輪中選擇一部分客戶端執行SGD，然后由中央服務器聚合該部分客戶端執行后產生的結果，進而實現全局模型優化的結果。同時為了提高靈活性和可拓展性，Cong Xie等人在FL的基礎上提出了一種新的異步聯邦優化算法—FedAsync，它與同步聯邦學習的區別在于服務器和客戶端可以隨時進行更新而無需同步，這在設備具有異構條件時是有利的。而針對異步FL中聚合單個客戶端時可能存在的隱私安全問題，John Nguyen等人提出了一種新穎的緩沖異步聚合方法FedBuff，它與優化器的選擇無關，并結合了同步和異步FL的最佳特性。在FedBuff中，客戶端異步進入和完成本地訓練。但是，服務器模型不會在收到每個客戶端更新后立即更新。相反，客戶端更新存儲在緩沖區中。只有當緩沖區中所存儲的更新的客戶端數量滿足緩沖區大小時，服務器更新才會發生，其中緩沖區的大小是一個可調參數。

在面向衛星星座的FL中，根據地面站和衛星在FL中扮演的角色不同可以將其主要分為以下兩種：

(1)衛星作為客戶端的聯邦學習框架