[發明專利]異步機制的隱私保護聯邦學習方法、裝置、介質及系統

在審

• 申請號: 202210449740.8
• 申請日: 2022-04-26
• 公開（公告）號: CN115062320A
• 公開（公告）日: 2022-09-16
• 發明（設計）人: 苗銀賓;劉紫騰;馬建峰;李興華;馬卓
• 申請（專利權）人: 西安電子科技大學
• 主分類號: G06F21/60
• 分類號: G06F21/60;G06F21/62;G06K9/62
• 代理公司: 北京市誠輝律師事務所 11430
• 代理人: 耿慧敏;成丹

1.一種異步機制的隱私保護聯邦學習方法，其特征在于，所述方法包括下述步驟：

S100、在設置的時長內，在各客戶端上對第一模型進行本地訓練，對訓練好的第一模型，使用該第一模型所在客戶端對應的標識符生成的掩碼進行加密，獲得第一模型密文；

S200、在所述時長內使服務器獲得第一模型密文、第一模型所在客戶端對應的標識符以及第一模型所在客戶端的時間戳；

S300、由服務器根據服務器的時間戳和獲得的每一個客戶端的時間戳的差值，計算獲得的每一個客戶端發送的第一模型密文對應權重，進而利用所述權重對第一模型密文進行加權聚合，得到第二模型密文；

S400、使客戶端獲得第二模型密文、服務器計算的各個權重、當前服務器的時間戳以及當前服務器獲得的標識符，并使服務器上的時間戳更新；

S500、使客戶端時間戳更新為獲得的服務器的時間戳，對當前每一個被服務器獲得的標識符，獲得其對應的掩碼；將所述掩碼與權重結合獲得第二模型密文的密鑰，從而解密得到第二模型；

S600、判斷客戶端上的第二模型與第一模型的差值是否滿足收斂條件，若不滿足，將第二模型作為客戶端上新的第一模型，返回S100；

其中，每個客戶端具有節點標識符掩碼表，在節點標識符掩碼表中，所述掩碼基于標識符生成，不同客戶端對應不同標識符。

2.根據權利要求1的方法，其特征在于，所述加權聚合包括下述步驟：

S301、獲取一個未設置權重的第一模型密文作為當前第一模型密文；

S302、獲取當前第一模型密文對應的時間戳差值，若所述差值小于第一設定值，則將該第一模型密文對應的分值設置為1；否則，執行S304；

S303、若所述差值大于第二設定值，則將該第一模型密文對應的分值設置為0；否則，執行S304；

S304、將該第一模型密文對應的分值設置為差值與1的和的倒數；

S305、判斷是否還有第一模型密文未設置對應的分值；若還有，則返回S301；否則，計算所有分值的總和，執行S306；

S306、對每一個第一模型密文，用其對應的分值比上總和獲得對應的權重；

S307、計算每一個第一模型密文乘以其對應權重后的累加和，得到第二模型密文。

3.根據權利要求1所述的方法，其特征在于，所述加密包括下述方法：單一掩碼加密、雙掩碼加密。

4.根據權利要求1所述的方法，其特征在于，所述第一模型采用下述方法進行訓練：隨機梯度下降法、全量梯度下降法、小批量梯度下降法、Momentum梯度下降法、NAG梯度下降法或其它梯度下降法。

5.根據權利要求1所述的方法，其特征在于，所述時長為所有第一模型訓練時長的中位數或平均值。

6.一種異步機制的隱私保護聯邦裝置，其特征在于：包括存儲器和處理器，所述存儲器上存儲有能夠被處理器加載并執行如權利要求1至5中任一種方法的計算機程序。

7.一種計算機可讀存儲介質，其特征在于：存儲有能夠被處理器加載并執行如權利要求1至5中任一種方法的計算機程序。