[發(fā)明專利]面向成員推理攻擊的基于特征增強的深度模型隱私保護方法和裝置

在審

• 申請?zhí)枺?/td>: 202110619608.2
• 申請日: 2021-06-03
• 公開（公告）號: CN113283520A
• 公開（公告）日: 2021-08-20
• 發(fā)明（設(shè)計）人: 陳晉音;上官文昌;鮑亮;吳長安
• 申請（專利權(quán)）人: 浙江工業(yè)大學;公安部第三研究所
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08;G06N20/10;G06F21/62;G06K9/00
• 代理公司: 杭州天勤知識產(chǎn)權(quán)代理有限公司 33224
• 代理人: 曹兆霞

1.一種面向成員推理攻擊的基于特征增強的深度模型隱私保護方法，其特征在于，包括以下步驟：

在用于人臉識別的原始目標模型中增加用于增強特征的特征增強單元，組成增強目標模型，利用圖像樣本優(yōu)化增強目標模型的模型參數(shù)；

構(gòu)建用于模擬目標模型的陰影模型，利用圖樣樣本優(yōu)化陰影模型的模型參數(shù)，依據(jù)參數(shù)優(yōu)化的陰影模型的輸出置信度重新定義型標簽，依據(jù)新標簽和輸出置信度構(gòu)建新圖像樣本；

構(gòu)建用于判別圖像是否為目標模型成員樣本的攻擊模型，利用新圖像樣本優(yōu)化攻擊模型的模型參數(shù)；

利用參數(shù)優(yōu)化的增強目標模型獲得輸入測試圖像的預(yù)測置信度，并將預(yù)測置信度輸入至參數(shù)優(yōu)化的攻擊模型，經(jīng)計算獲得攻擊模型的預(yù)測結(jié)果，依據(jù)預(yù)測結(jié)果判斷測試圖像是否為原始目標模型的訓練樣本。

2.如權(quán)利要求1所述的面向成員推理攻擊的基于特征增強的深度模型隱私保護方法，其特征在于，所述特征增強單元用于對輸入特征進行各種變換操作，其包含兩個參數(shù)，兩個參數(shù)均從正態(tài)分布中隨機采樣獲得，一個作為縮放因子，一個作為偏置項，基于兩個參數(shù)對輸入特征進行線性增強操作。

3.如權(quán)利要求1所述的面向成員推理攻擊的基于特征增強的深度模型隱私保護方法，其特征在于，利用圖像樣本優(yōu)化增強目標模型的模型參數(shù)時，先固定特征增強單元的參數(shù)，利用第一批圖像樣本優(yōu)化原始目標模型的參數(shù)；然后，固定原始目標模型的參數(shù)，利用第二批圖像樣本優(yōu)化特征增強單元的參數(shù)；第一批圖像樣本與第二批圖像樣本不重復(fù)，采用圖像樣本的標簽和預(yù)測置信度的交叉熵作為損失函數(shù)，更新參數(shù)。

4.如權(quán)利要求3所述的面向成員推理攻擊的基于特征增強的深度模型隱私保護方法，其特征在于，在優(yōu)化特征增強單元的參數(shù)時，采用以下方式進行參數(shù)更新：

其中，表示第t次迭代時，特征增強單元的參數(shù)，α表示放縮因子，表示損失函數(shù)L₂對特征增強單元參數(shù)的梯度值。

5.如權(quán)利要求1所述的面向成員推理攻擊的基于特征增強的深度模型隱私保護方法，其特征在于，所述陰影模型包括均卷積層、池化層以及全連接層，采用圖像樣本的標簽和預(yù)測置信度的交叉熵作為損失函數(shù)，更新參數(shù)。

6.如權(quán)利要求1所述的面向成員推理攻擊的基于特征增強的深度模型隱私保護方法，其特征在于，構(gòu)建新圖像樣本的過程為：

將訓練陰影模型的樣本圖像分成第三批樣本圖像和第四批樣本圖像；利用參數(shù)優(yōu)化的陰影模型獲得輸入的第三批樣本圖像的預(yù)測置信度，并將預(yù)測置信度的新標簽設(shè)置為1；利用參數(shù)優(yōu)化的陰影模型獲得輸入的第四批樣本圖像的預(yù)測置信度，并將預(yù)測置信度的新標簽設(shè)置為0；將預(yù)測置信度與對應(yīng)的新標簽組成一個新圖像樣本。

7.如權(quán)利要求1所述的面向成員推理攻擊的基于特征增強的深度模型隱私保護方法，其特征在于，所述攻擊模型為二分類模型，采用新圖像樣本的標簽和預(yù)測置信度的交叉熵作為損失函數(shù)，更新參數(shù)。

8.如權(quán)利要求1所述的面向成員推理攻擊的基于特征增強的深度模型隱私保護方法，其特征在于，所述攻擊模型采用支持向量機。

9.一種面向成員推理攻擊的基于特征增強的深度模型隱私保護裝置，包括存儲器、處理器以及存儲在存儲器中并可在處理器上執(zhí)行的計算機程序，其特征在于，所述處理器執(zhí)行計算機程序時實現(xiàn)權(quán)利要求1～8任一項所述的面向成員推理攻擊的基于特征增強的深度模型隱私保護方法。