[發(fā)明專利]一種協(xié)作學(xué)習(xí)場景下基于噪聲擾動的隱私保護(hù)方法和系統(tǒng)

在審

• 申請?zhí)枺?/td>: 202310302147.5
• 申請日: 2023-03-27
• 公開（公告）號: CN116186780A
• 公開（公告）日: 2023-05-30
• 發(fā)明（設(shè)計）人: 胡勝山;陸建榮;李明慧;王乙臣;薛潞潞
• 申請（專利權(quán)）人: 華中科技大學(xué)
• 主分類號: G06F21/62
• 分類號: G06F21/62;G06N3/04;G06N3/08
• 代理公司: 武漢臻誠專利代理事務(wù)所(普通合伙) 42233
• 代理人: 宋業(yè)斌

本發(fā)明公開了一種協(xié)作學(xué)習(xí)場景下基于噪聲擾動的隱私保護(hù)方法，其采用兩個主要措施來實(shí)現(xiàn)隱私保護(hù)語模型性能之間的有效權(quán)衡。一方面設(shè)計一種新的梯度裁剪方式，將每一個梯度參數(shù)都視為隱私保護(hù)對象進(jìn)行處理，然后再對裁剪后的梯度參數(shù)進(jìn)行噪聲擾動。另一方面使用偏差糾正機(jī)制來在本輪更新的參數(shù)中糾正前面累積的偏差，從而在不影響通信效率與隱私的前提下保障了模型的性能。本發(fā)明的優(yōu)點(diǎn)在于，它不僅可以保護(hù)參與方的隱私，還可以在不犧牲模型性能的情況下提高訓(xùn)練效率和準(zhǔn)確性，從而實(shí)現(xiàn)協(xié)作學(xué)習(xí)的安全性和可用性的雙贏。

技術(shù)領(lǐng)域

本發(fā)明屬于協(xié)作式機(jī)器學(xué)習(xí)安全領(lǐng)域，更具體地，涉及一種協(xié)作學(xué)習(xí)場景下基于噪聲擾動的隱私保護(hù)方法和系統(tǒng)。

背景技術(shù)

大數(shù)據(jù)、人工智能等產(chǎn)業(yè)的爆發(fā)式發(fā)展，一方面為傳統(tǒng)行業(yè)帶來升級變革的新機(jī)遇，另一方面也給數(shù)據(jù)和網(wǎng)絡(luò)安全帶來了新挑戰(zhàn)。如何在滿足數(shù)據(jù)隱私、安全和監(jiān)管要求的前提下，設(shè)計一個機(jī)器學(xué)習(xí)框架，讓人工智能系統(tǒng)能夠更加高效、準(zhǔn)確地共同使用各自的數(shù)據(jù)，是當(dāng)前人工智能發(fā)展所面臨的一個重大難題。而協(xié)作學(xué)習(xí)正是針對這個難題設(shè)計的框架。協(xié)作學(xué)習(xí)可以看成是一種分布式機(jī)器學(xué)習(xí)框架，而與常見的分布式機(jī)器學(xué)習(xí)框架不同的是，協(xié)作學(xué)習(xí)中將各方數(shù)據(jù)保存在客戶本地，在數(shù)據(jù)不直接共享的情況下，多個參與者聯(lián)合數(shù)據(jù)建立虛擬的公有模型，使用他們本地數(shù)據(jù)產(chǎn)生的數(shù)據(jù)進(jìn)行公有模型的更新。由于協(xié)作學(xué)習(xí)使用聚合梯度的方式而不是直接使用數(shù)據(jù)來實(shí)現(xiàn)模型的訓(xùn)練，所以協(xié)作學(xué)習(xí)被普遍認(rèn)為可以保護(hù)隱私。但最新工作表明，梯度仍然會泄露隱私，攻擊者可以使用梯度反演攻擊從收集的梯度恢復(fù)出客戶的隱私數(shù)據(jù)。

為了解決這個問題，研究人員已經(jīng)提出了多種方法來保護(hù)梯度的隱私。目前，保護(hù)隱私的協(xié)作學(xué)習(xí)主要有兩種方法：一是使用差分隱私保護(hù)技術(shù)，二是使用加密工具執(zhí)行安全聚合。差分隱私技術(shù)起源于數(shù)據(jù)科學(xué)領(lǐng)域，其隱私保障建立在不可區(qū)分博弈上，通過添加適當(dāng)?shù)脑肼暎拗屏斯粽咴趨^(qū)分具體數(shù)據(jù)樣本是否在數(shù)據(jù)庫中的優(yōu)勢；基于密碼學(xué)的安全聚合技術(shù)例如安全多方計算，同態(tài)加密等，這些技術(shù)可以保證客戶端與服務(wù)器通信時所傳輸?shù)奶荻刃畔⒌臋C(jī)密性，使得攻擊者只能獲得加密后的梯度信息而無法進(jìn)行解密。

然而，上述兩種保護(hù)隱私的協(xié)作學(xué)習(xí)方法都存在一些不可忽略的缺陷：第一，差分隱私技術(shù)主要用于防御成員推理攻擊的，而對于近幾年來新提出的梯度反演攻擊卻沒有很好的效果；第二，差分隱私技術(shù)中對梯度添加的噪聲擾動會大大降低訓(xùn)練出來的模型的精確度，收斂性和可用性；第三、基于密碼學(xué)的安全聚合技術(shù)雖然能保證梯度信息的機(jī)密性，但是其使用到的加密算法會帶來昂貴的計算開銷和通信開銷，在實(shí)際的大規(guī)模協(xié)作學(xué)習(xí)場景下不適用。

發(fā)明內(nèi)容

針對現(xiàn)有技術(shù)的以上缺陷或改進(jìn)需求，本發(fā)明提供了一種協(xié)作學(xué)習(xí)場景下基于噪聲擾動的隱私保護(hù)方法和系統(tǒng)，其目的在于，解決現(xiàn)有差分隱私技術(shù)主要用于防御成員推理攻擊的，而對于新提出的梯度反演攻擊卻沒有很好效果的技術(shù)問題，以及現(xiàn)有差分隱私技術(shù)中對梯度添加的噪聲擾動會大大降低訓(xùn)練出來的模型的精確度、收斂性和可用性的技術(shù)問題，以及現(xiàn)有基于密碼學(xué)的安全聚合技術(shù)雖然能保證梯度信息的機(jī)密性，但是其使用到的加密算法會帶來昂貴的計算開銷和通信開銷，導(dǎo)致在實(shí)際的大規(guī)模協(xié)作學(xué)習(xí)場景下不適用的技術(shù)問題。

為實(shí)現(xiàn)上述目的，按照本發(fā)明的一個方面，提供了一種協(xié)作學(xué)習(xí)場景下基于噪聲擾動的隱私保護(hù)方法，包括以下步驟：

(1)服務(wù)端與所有客戶端共同協(xié)商確定作為全局模型進(jìn)行訓(xùn)練的神經(jīng)網(wǎng)絡(luò)模型，并確定參與訓(xùn)練的客戶端的數(shù)量M，訓(xùn)練過程的迭代總次數(shù)，全局模型的學(xué)習(xí)率lr，以及訓(xùn)練過程中所使用的損失函數(shù)L；

(2)服務(wù)端設(shè)置計數(shù)器cnt＝1，并初始化全局模型，以得到第cnt次迭代時的全局模型G^cnt以及參數(shù)矩陣W^cnt和偏置矩陣b^cnt；

(3)服務(wù)端判斷cnt是否大于步驟(1)中確定的訓(xùn)練過程的迭代總次數(shù)，如果是則過程結(jié)束，否則轉(zhuǎn)入步驟(4)；