[發(fā)明專利]一種基于改進(jìn)生成對抗網(wǎng)絡(luò)的隱私保護(hù)方法

在審

• 申請?zhí)枺?/td>: 202110385835.3
• 申請日: 2021-04-11
• 公開（公告）號: CN113051617A
• 公開（公告）日: 2021-06-29
• 發(fā)明（設(shè)計(jì)）人: 金煜;邱釗
• 申請（專利權(quán)）人: 海南大學(xué)
• 主分類號: G06F21/62
• 分類號: G06F21/62;G06N3/04;G06N3/08
• 代理公司: 暫無信息
• 代理人: 暫無信息

1.一中基于改進(jìn)生成對抗網(wǎng)絡(luò)的隱私保護(hù)方法，其特征在于，包括以下步驟：

步驟S1：對原始圖片進(jìn)行預(yù)處理，并生成標(biāo)簽文件，具體方式如下：

步驟S11：將原始圖片壓縮至64*64尺寸，并根據(jù)設(shè)定的隱私目標(biāo)與效用目標(biāo)構(gòu)建一個圖片對應(yīng)兩個標(biāo)簽的標(biāo)簽文件；

步驟S2：構(gòu)建基于改進(jìn)生成對抗網(wǎng)絡(luò)的隱私保護(hù)網(wǎng)絡(luò)，具體方法如下：

步驟S21：搭建類變分自編碼器結(jié)構(gòu)的生成器網(wǎng)絡(luò)，由編碼器部分與解碼器部分組成，具體方法如下：

步驟S211：編碼器部分由五層卷積網(wǎng)絡(luò)組成，其中在第二層至第四層卷積操作后均使用批標(biāo)準(zhǔn)化操作，激活函數(shù)使用LeakReLU函數(shù)，此外在第五層卷積操作之后可根據(jù)原始數(shù)據(jù)量的大小以及數(shù)據(jù)復(fù)雜度，選擇是否加入隨機(jī)噪聲；

步驟S212：解碼器部分由五層反卷積網(wǎng)絡(luò)組成，其中第一層至第四層卷積操作均使用批標(biāo)準(zhǔn)化操作，并進(jìn)行Dropout操作。前四層的激活函數(shù)均使用LeakReLU函數(shù)，但最后一層使用tanh激活函數(shù)；

步驟S22：搭建三組判別器網(wǎng)絡(luò)，分別為真實(shí)性判別器、隱私判別器與效用判別器，具體方法如下：

步驟S221：真實(shí)性判別器網(wǎng)絡(luò)由五層卷積網(wǎng)絡(luò)組成，在第二層至第四層卷積操作之后均使用批標(biāo)準(zhǔn)化操作，并選擇LeakReLU函數(shù)作為激活函數(shù)，最后一層取消sigmoid函數(shù)，直接輸出卷積操作后的值。真實(shí)性判別器網(wǎng)絡(luò)判別輸入的圖像真實(shí)與否；

步驟S222：隱私判別器與效用判別器均由五層卷積網(wǎng)絡(luò)組成，架構(gòu)與真實(shí)性判別器網(wǎng)絡(luò)相同，但最后一層選用sigmoid歸一化函數(shù)。隱私判別器與效用判別器判斷輸入所屬的類別；

步驟S3：初始化網(wǎng)絡(luò)權(quán)重，具體方法為：采用正態(tài)分布初始化參數(shù)，其中：μ＝0，σ＝0.01；

步驟S4：將步驟S1預(yù)處理后的圖片與標(biāo)簽文件輸入網(wǎng)絡(luò)，完成前向傳播；

步驟S5：將步驟S4前向傳播的結(jié)果與輸入的標(biāo)簽文件計(jì)算損失，更新模型參數(shù)，具體方法如下：

步驟S51：計(jì)算判別器網(wǎng)絡(luò)的損失，具體方法如下：

步驟S511：計(jì)算改進(jìn)生成對抗網(wǎng)絡(luò)的基礎(chǔ)判別器損失，具體公式為：

其中公式的前兩項(xiàng)為取消了log函數(shù)的原始GAN的判別器訓(xùn)練過程。第一項(xiàng)為判別器對真實(shí)樣本的分?jǐn)?shù)，第二項(xiàng)為生成器處理原始圖片后的生成圖片的評分，第三項(xiàng)為限定判別器損失不超過1，以滿足1-利普希茨連續(xù)條件(1-lipschitz)，其中λ為超參數(shù)；

步驟S512：計(jì)算效用判別器的損失，具體公式為：

公式由兩組交叉熵組成，表示交叉熵。兩組交叉熵分別為真實(shí)圖片的效用標(biāo)簽與效用判別器的輸出之間，以及真實(shí)圖片的效用標(biāo)簽與效用判別器對隱私保護(hù)后圖片的輸出之間的交叉熵。目標(biāo)以提高效用判別器的能力，無論針對真實(shí)圖片還是隱私保護(hù)后圖片；

步驟S513：計(jì)算隱私判別器的損失，具體公式為：

公式分別由真實(shí)圖片在隱私判別器中的輸出與隱私標(biāo)簽的交叉熵和生成圖片在隱私判別器中的輸出與隱私標(biāo)簽的交叉熵組成；

步驟S514：將S511、S512、S513中的損失函數(shù)加和后得到最終判別器損失函數(shù)，具體公式如下：

其中α、β、γ均為超參數(shù)；

步驟S52：計(jì)算生成器網(wǎng)絡(luò)的損失函數(shù)，具體方法如下：

步驟S521：計(jì)算改進(jìn)生成對抗網(wǎng)絡(luò)的基礎(chǔ)生成器損失，具體公式如下：

步驟S522：計(jì)算效用損失函數(shù)與隱私損失函數(shù)，具體公式如下：

分別為生成圖片在效用判別器中的輸出與效用標(biāo)簽的交叉熵和生成圖片在隱私判別器中的輸出與隱私標(biāo)簽的交叉熵；

步驟S523：將S521與S522中的損失函數(shù)加和后得到最終生成器損失函數(shù)，具體公式如下：

其中δ、ε、∈分別為三個超參數(shù)；

步驟S53：將步驟S514與步驟S523計(jì)算所得的損失利用隨機(jī)梯度下降方法更新模型參數(shù)；

步驟S6：迭代步驟S4，S5達(dá)到指定次數(shù)，本發(fā)明迭代次數(shù)為50次。

步驟S7：使用訓(xùn)練得到的生成器對原始圖片進(jìn)行處理得到隱私保護(hù)處理后圖片。

2.根據(jù)權(quán)利要求1所述的隱私保護(hù)方法，其特征在于：α＝1，β＝1，γ＝1，δ＝1，ε＝1，∈＝1，λ＝10。