[發明專利]一種復合隱私保護方法、系統、計算機設備及存儲介質

有效

• 申請號: 202110226452.1
• 申請日: 2021-03-01
• 公開（公告）號: CN112966298B
• 公開（公告）日: 2022-02-22
• 發明（設計）人: 殷麗華;孫哲;操志強;馮紀元;李超;李然
• 申請（專利權）人: 廣州大學
• 主分類號: G06F21/62
• 分類號: G06F21/62;G06F21/60
• 代理公司: 廣州三環專利商標代理有限公司 44202
• 代理人: 郭浩輝;顏希文

1.一種復合隱私保護方法，其特征在于，所述方法包括以下步驟：

預先根據客戶端權重，通過可信第三方生成客戶端的加密公鑰和服務器的解密私鑰，具體包括：

由所述客戶端將預設的權重數據發送給所述可信第三方；所述權重數據包括貢獻度和數據量；

由所述可信第三方根據所述權重數據生成權重向量，并根據所述權重向量生成所述客戶端的加密公鑰和服務器的解密私鑰；

由所述服務器向所述客戶端發送第一模型和第一模型參數；所述第一模型參數包括噪聲參數和采樣率；

由所述客戶端根據本地數據對所述第一模型進行訓練，將所述第一模型參數更新為第二模型參數；

采用差分隱私算法，由所述客戶端對所述第二模型參數添加噪聲，得到第三模型參數，具體包括：

根據所述第二模型參數的分布特征及所述噪聲參數添加噪聲，得到第三模型參數；所述噪聲為高斯噪聲；

根據所述第二模型參數與第三模型參數的距離、以及所述噪聲參數和所述采樣率，計算隱私損失；所述第二模型參數與第三模型參數的距離為瑞麗散度；所述隱私損失表示為：

其中，c_t(λ)表示第t輪迭代的隱私損失；t表示當前的迭代輪數；q和σ分別表示采樣率和噪聲參數，g_t和g′_t分別表示第二模型參數梯度和第三模型參數梯度；λ為超參數；

根據所述加密公鑰，由所述客戶端對所述第三模型參數進行函數加密，得到加密模型并發送給所述服務器；

根據所述解密私鑰，由所述服務器對所述加密模型進行解密，得到全局模型；

所述根據所述解密私鑰，由所述服務器對所述加密模型進行解密，得到全局模型的步驟之后還包括：

由所述服務器將所述客戶端的隱私損失進行匯總，得到全局隱私損失；

根據所述全局隱私損失是否超過預設的隱私預算，判斷是否停止迭代；

若所述全局隱私損失未超過預設的隱私預算時，則由所述服務器將所述全局模型發送給所述客戶端進行下一輪迭代訓練，反之，則停止迭代。

2.如權利要求1所述的復合隱私保護方法，其特征在于，在所述根據所述加密公鑰，由所述客戶端對所述第三模型參數進行函數加密的步驟之前，還包括以下步驟：

采用模型壓縮算法，由所述客戶端對所述第二模型參數進行模型壓縮；所述模型壓縮算法包括稀疏化差分梯度算法。

3.如權利要求2所述的復合隱私保護方法，其特征在于，所述根據所述解密私鑰，由所述服務器對所述加密模型進行解密，得到全局模型的步驟包括：

由所述服務器根據所述解密私鑰對所述加密模型進行解密，得到增量全局模型；

將所述增量全局模型和所述全局模型作和，更新所述全局模型。

4.一種復合隱私保護系統，其特征在于，能夠執行如權利要求1所述的復合隱私保護方法，所述系統包括：

權重加密模塊，用于預先根據客戶端權重，通過可信第三方生成客戶端的加密公鑰和服務器的解密私鑰；

模型下發模塊，用于由所述服務器向所述客戶端發送預設的第一模型和第一模型參數；所述第一模型參數包括噪聲參數和采樣率；

模型訓練模塊，用于由所述客戶端根據本地數據對所述第一模型進行訓練，將所述第一模型參數更新為第二模型參數；

差分隱私模塊，用于采用差分隱私算法，由所述客戶端對所述第二模型參數添加噪聲，得到第三模型參數；

模型加密模塊，用于根據所述加密公鑰，由所述客戶端對所述第三模型參數進行函數加密，得到加密模型并發送給所述服務器；

模型聚合模塊，用于根據所述解密私鑰，由所述服務器對所述加密模型進行解密，得到全局模型。

5.如權利要求4所述的復合隱私保護系統，其特征在于，在所述模型加密模塊之前，還包括：

模型壓縮模塊，用于采用模型壓縮算法，由所述客戶端對所述第二模型參數進行模型壓縮；所述模型壓縮算法包括稀疏化差分梯度算法。

6.一種計算機設備，包括存儲器、處理器及存儲在存儲器上并可在處理器上運行的計算機程序，其特征在于，所述處理器執行所述計算機程序時實現權利要求1至3中任一所述方法的步驟。

7.一種計算機可讀存儲介質，其上存儲有計算機程序，其特征在于，所述計算機程序被處理器執行時實現權利要求1至3中任一所述方法的步驟。