[發明專利]面向成員推理攻擊的基于異常點檢測的深度模型隱私保護方法

在審

• 申請號: 202110653336.8
• 申請日: 2021-06-11
• 公開（公告）號: CN113283536A
• 公開（公告）日: 2021-08-20
• 發明（設計）人: 陳晉音;上官文昌;吳長安;鄭雅羽
• 申請（專利權）人: 浙江工業大學
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06F21/62;G06N3/04
• 代理公司: 杭州天勤知識產權代理有限公司 33224
• 代理人: 彭劍

1.一種面向成員推理攻擊的基于異常點檢測的深度模型隱私保護方法，其特征在于，包括以下步驟：

(1)獲取圖像數據集，按比例分成目標模型訓練集和目標模型測試集；

(2)搭建目標模型，利用目標模型訓練集訓練目標模型；

(3)通過檢測目標模型訓練集的樣本，從中挑選出容易受到成員推理攻擊的樣本，具體過程如下：

(3-1)建立k個參考模型，參考模型的結構與目標模型的結構相同；

(3-2)建立k個參考模型訓練集，參考模型訓練集與目標模型訓練集中的待測樣本無重疊，并分別對k個參考模型進行訓練；參考模型訓練方式與目標模型訓練方式相同；

(3-3)選取目標模型訓練集中的一個待測樣本x輸入參考模型r1，提取參考模型softmax層前的特征o1；后將待測樣本輸入參考模型r2，提取參考模型softmax層前的特征o2，重復上述過程直到獲取待測樣本x在k個參考模型下的特征；將k個特征拼接起來組成f作為待測樣本x的樣本特征；

(3-4)重復步驟(3-3)，建立目標模型訓練集中所有待測樣本的樣本特征；并計算兩兩樣本特征的余弦距離；

(3-5)計算每個待測樣本的局部離群因子，若局部離群因子大于1，則認為待測樣本為異常樣本；

(4)將步驟(3-5)得到的異常樣本輸入到m個參考模型中，獲取模型輸出；定義log損失函數：

L＝-logp_y

式中，y是異常樣本的標簽，則P_y是模型預測異常樣本為y的概率；利用m個log損失值建立經驗累積分布函數F(L)，該函數以log損失值L為輸入；

(5)將待檢測的異常樣本輸入目標模型，獲取目標模型的輸出P_y，從而得到該樣本的log損失值L；將L輸入步驟(5)中建立的經驗累積分布函數F(L)得到輸出p；比較p與閾值α，如果p小于α，則認為該異常樣本是目標模型的訓練樣本；

(6)將步驟(5)中被檢測成目標模型訓練樣本的異常樣本從目標模型訓練集中刪除，用剩余的目標模型訓練集重新訓練目標模型，使該目標模型對成員推理攻擊有較好的防御效果。

2.根據權利要求1所述的面向成員推理攻擊的基于異常點檢測的深度模型隱私保護方法，其特征在于，步驟(2)中，所述的目標模型采用VGG-16網絡，由13層卷積層和3層全連接層組成。

3.根據權利要求1所述的面向成員推理攻擊的基于異常點檢測的深度模型隱私保護方法，其特征在于，步驟(2)中，所述目標模型訓練的損失函數在交叉熵函數基礎上添加了正則化項：

式中，p()表示樣本的真實標簽，q()表示模型的預測概率，w表示模型的內部參數，λ表示正則化系數，是一個常數。

4.根據權利要求1所述的面向成員推理攻擊的基于異常點檢測的深度模型隱私保護方法，其特征在于，步驟(3-3)中，計算兩兩樣本特征的余弦距離的公式為：

其中，f₁作為待測樣本x₁的樣本特征，f₂作為待測樣本x₂的樣本特征。