[發明專利]一種對抗通信噪聲的聯邦學習方法和系統

在審

• 申請號: 202011078479.2
• 申請日: 2020-10-10
• 公開（公告）號: CN112235062A
• 公開（公告）日: 2021-01-15
• 發明（設計）人: 昂凡;陳力;陳曉輝;王衛東
• 申請（專利權）人: 中國科學技術大學
• 主分類號: H04B17/391
• 分類號: H04B17/391;H04B1/10;G06N20/00
• 代理公司: 北京集佳知識產權代理有限公司 11227
• 代理人: 錢娜

1.一種對抗通信噪聲的聯邦學習方法，其特征在于，包括：

各個計算節點分別通過無線信道傳輸對應的本地訓練模型；

中心節點將各個通過無線信道傳輸后的本地訓練模型進行加權平均運算后，得到全局訓練模型，并將所述全局訓練模型通過無線信道廣播至各個計算節點；

各個計算節點基于接收到的模型和損失函數進行梯度下降計算，直至收斂。

2.根據權利要求1所述的方法，其特征在于，所述各個計算節點分別通過無線信道傳輸對應的本地訓練模型，包括：

N個計算節點分別通過無線信道傳輸本地訓練模型w₁,w₂,...,w_N。

3.根據權利要求2所述的方法，其特征在于，所述中心節點將各個通過無線信道傳輸后的本地訓練模型進行加權平均運算后，得到全局訓練模型，包括：

對于第t次傳輸過程，所述中心節點基于公式得到全局訓練模型，其中，Δw^t是本次無線信道傳輸帶來的噪聲，其滿足||Δw||²≤σ²，σ²為常數。

4.根據權利要求3所述的方法，其特征在于，對于第t次傳輸過程，第j個節點接收的模型為：

其中，是本次無線信道傳輸帶來的噪聲，其滿足為常數。

5.根據權利要求4所述的方法，其特征在于，所述損失函數為：

其中，ρ^t∈(0,1]，λ為設定的參數，F_j(·)為與計算節點j中的樣本相關的函數，為滿足的任意取值，其中，為梯度累計函數，表示為

6.一種對抗通信噪聲的聯邦學習系統，其特征在于，包括：多個計算節點和一個中心節點；其中：

計算節點，用于通過無線信道傳輸對應的本地訓練模型；

中心節點，用于將各個通過無線信道傳輸后的本地訓練模型進行加權平均運算后，得到全局訓練模型，并將所述全局訓練模型通過無線信道廣播至各個計算節點；

計算節點，還用于基于接收到的模型和損失函數進行梯度下降計算，直至收斂。

7.根據權利要求6所述的系統，其特征在于，N個計算節點具體用于分別通過無線信道傳輸本地訓練模型w₁,w₂,...,w_N。

8.根據權利要求7所述的系統，其特征在于，所述中心節點具體用于：

對于第t次傳輸過程，基于公式得到全局訓練模型，其中，Δw^t是本次無線信道傳輸帶來的噪聲，其滿足||Δw||²≤σ²，σ²為常數。

9.根據權利要求8所述的系統，其特征在于，對于第t次傳輸過程，第j個節點接收的模型為：

其中，是本次無線信道傳輸帶來的噪聲，其滿足為常數。

10.根據權利要求9所述的系統，其特征在于，所述損失函數為：

其中，ρ^t∈(0,1]，λ為設定的參數，F_j(·)為與計算節點j中的樣本相關的函數，為滿足的任意取值，其中，為梯度累計函數，表示為