[發(fā)明專(zhuān)利]一種復(fù)合隱私保護(hù)方法、系統(tǒng)、計(jì)算機(jī)設(shè)備及存儲(chǔ)介質(zhì)

有效

• 申請(qǐng)?zhí)枺?/td>: 202110226452.1
• 申請(qǐng)日: 2021-03-01
• 公開(kāi)（公告）號(hào): CN112966298B
• 公開(kāi)（公告）日: 2022-02-22
• 發(fā)明（設(shè)計(jì)）人: 殷麗華;孫哲;操志強(qiáng);馮紀(jì)元;李超;李然
• 申請(qǐng)（專(zhuān)利權(quán)）人: 廣州大學(xué)
• 主分類(lèi)號(hào): G06F21/62
• 分類(lèi)號(hào): G06F21/62;G06F21/60
• 代理公司: 廣州三環(huán)專(zhuān)利商標(biāo)代理有限公司 44202
• 代理人: 郭浩輝;顏希文

本發(fā)明提供了一種復(fù)合隱私保護(hù)方法、系統(tǒng)、計(jì)算機(jī)設(shè)備及存儲(chǔ)介質(zhì)，所述方法包括：預(yù)先根據(jù)客戶(hù)端權(quán)重，通過(guò)可信第三方生成客戶(hù)端的加密公鑰和服務(wù)器的解密私鑰；由所述服務(wù)器向所述客戶(hù)端發(fā)送第一模型和第一模型參數(shù)；由所述客戶(hù)端根據(jù)本地?cái)?shù)據(jù)對(duì)所述第一模型進(jìn)行訓(xùn)練，將所述第一模型參數(shù)更新為第二模型參數(shù)；采用差分隱私算法，由所述客戶(hù)端對(duì)所述第二模型參數(shù)添加噪聲，得到第三模型參數(shù)；根據(jù)所述加密公鑰，由所述客戶(hù)端對(duì)所述第三模型參數(shù)進(jìn)行函數(shù)加密，得到加密模型并發(fā)送給所述服務(wù)器；根據(jù)所述解密私鑰，由所述服務(wù)器對(duì)所述加密模型進(jìn)行解密，得到全局模型。本發(fā)明不僅加強(qiáng)了隱私保護(hù)，還提高了模型服務(wù)質(zhì)量和學(xué)習(xí)效率。

技術(shù)領(lǐng)域

本發(fā)明涉及人工智能技術(shù)領(lǐng)域，特別是涉及一種面向聯(lián)邦學(xué)習(xí)的復(fù)合隱私保護(hù)方法、系統(tǒng)、計(jì)算機(jī)設(shè)備及存儲(chǔ)介質(zhì)。

背景技術(shù)

隨著人工智能的高速發(fā)展，采用機(jī)器深度學(xué)習(xí)模型進(jìn)行訓(xùn)練分類(lèi)預(yù)測(cè)等被廣泛應(yīng)用，然而，由于每個(gè)用戶(hù)的數(shù)據(jù)有限降低了機(jī)器學(xué)習(xí)的精度，且出于對(duì)數(shù)據(jù)隱私和安全的保護(hù)，各個(gè)用戶(hù)之間無(wú)法直接進(jìn)行數(shù)據(jù)交換等問(wèn)題的存在限制了機(jī)器學(xué)習(xí)的發(fā)展，隨之，一種允許在不需要原始數(shù)據(jù)的情況下充分利用分散的訓(xùn)練設(shè)備進(jìn)行模型訓(xùn)練的聯(lián)邦學(xué)習(xí)就應(yīng)運(yùn)而生了。雖然，聯(lián)邦學(xué)習(xí)為進(jìn)一步打破數(shù)據(jù)孤島和提供更精確的服務(wù)提供了便利，且已在數(shù)字圖像處理、自然語(yǔ)言處理、文本語(yǔ)音處理等領(lǐng)域得以廣泛應(yīng)用，但其學(xué)習(xí)過(guò)程中存在的數(shù)據(jù)隱私問(wèn)題仍備受學(xué)者關(guān)注，學(xué)者們分別基于數(shù)據(jù)級(jí)隱私和內(nèi)容級(jí)隱私給出了不同的保護(hù)方案。

現(xiàn)有技術(shù)雖然提供了不同的隱私保護(hù)方案，如，通過(guò)同態(tài)加密和安全多方計(jì)算等方法保護(hù)數(shù)據(jù)級(jí)隱私，采用擾動(dòng)機(jī)制(如差分隱私)和泛化機(jī)制(如k-匿名、l-多樣性、t-近似)保護(hù)內(nèi)容級(jí)隱私，將差分隱私和安全多方計(jì)算協(xié)議結(jié)合起來(lái)保護(hù)數(shù)據(jù)和參數(shù)的隱私，將差分隱私和秘密共享技術(shù)結(jié)合起來(lái)保護(hù)數(shù)據(jù)提供者的隱私，及將函數(shù)加密和差分隱私相結(jié)合保證參數(shù)隱私性，并添加一個(gè)可信的第三方實(shí)體來(lái)負(fù)責(zé)生成和管理密鑰的多維度隱私保護(hù)等方法。但，它們中均未考慮聯(lián)邦學(xué)習(xí)訓(xùn)練過(guò)程中客戶(hù)端權(quán)重的保護(hù)，在為攻擊者根據(jù)模型分析結(jié)果間接推斷出訓(xùn)練數(shù)據(jù)的來(lái)源提供了可乘之機(jī)的同時(shí)，為了追求差分隱私保護(hù)效果又忽略了聯(lián)邦學(xué)習(xí)模型的服務(wù)質(zhì)量和學(xué)習(xí)效率。

發(fā)明內(nèi)容

本發(fā)明的目的是提供一種面向聯(lián)邦學(xué)習(xí)的復(fù)合隱私保護(hù)方法，在克服現(xiàn)有隱私保護(hù)方法忽略對(duì)客戶(hù)端權(quán)重保護(hù)的問(wèn)題，達(dá)到了保護(hù)客戶(hù)端數(shù)據(jù)來(lái)源隱私和防止數(shù)據(jù)級(jí)隱私泄露威脅的效果的同時(shí)，克服現(xiàn)有技術(shù)忽略聯(lián)邦學(xué)習(xí)的模型服務(wù)質(zhì)量和學(xué)習(xí)效率的問(wèn)題，達(dá)到了防止內(nèi)容級(jí)隱私泄露威脅、保障模型服務(wù)質(zhì)量和學(xué)習(xí)效率的效果。

為了實(shí)現(xiàn)上述目的，有必要針對(duì)上述技術(shù)問(wèn)題，提供了一種復(fù)合隱私保護(hù)方法、系統(tǒng)、計(jì)算機(jī)設(shè)備及存儲(chǔ)介質(zhì)。

第一方面，本發(fā)明實(shí)施例提供了一種復(fù)合隱私保護(hù)方法，所述方法包括以下步驟：

預(yù)先根據(jù)客戶(hù)端權(quán)重，通過(guò)可信第三方生成客戶(hù)端的加密公鑰和服務(wù)器的解密私鑰；

由所述服務(wù)器向所述客戶(hù)端發(fā)送第一模型和第一模型參數(shù)；所述第一模型參數(shù)包括噪聲參數(shù)和采樣率；

由所述客戶(hù)端根據(jù)本地?cái)?shù)據(jù)對(duì)所述第一模型進(jìn)行訓(xùn)練，將所述第一模型參數(shù)更新為第二模型參數(shù)；

采用差分隱私算法，由所述客戶(hù)端對(duì)所述第二模型參數(shù)添加噪聲，得到第三模型參數(shù)；

根據(jù)所述加密公鑰，由所述客戶(hù)端對(duì)所述第三模型參數(shù)進(jìn)行函數(shù)加密，得到加密模型并發(fā)送給所述服務(wù)器；

根據(jù)所述解密私鑰，由所述服務(wù)器對(duì)所述加密模型進(jìn)行解密，得到全局模型。。

進(jìn)一步地，所述預(yù)先根據(jù)客戶(hù)端權(quán)重，通過(guò)可信第三方生成客戶(hù)端的加密公鑰和服務(wù)器的解密私鑰的步驟包括：

由所述客戶(hù)端將預(yù)設(shè)的權(quán)重?cái)?shù)據(jù)發(fā)送給所述可信第三方；

由所述可信第三方根據(jù)所述權(quán)重?cái)?shù)據(jù)生成權(quán)重向量，并根據(jù)所述權(quán)重向量生成所述客戶(hù)端的加密公鑰和服務(wù)器的解密私鑰。