[發明專利]一種基于在線迭代生成器的對抗防御方法及系統

有效

• 申請號: 201910772642.6
• 申請日: 2019-08-21
• 公開（公告）號: CN110796608B
• 公開（公告）日: 2021-01-01
• 發明（設計）人: 李冠彬;曾怡瑞;李灝峰;林倞
• 申請（專利權）人: 中山大學
• 主分類號: G06T5/00
• 分類號: G06T5/00;G06K9/62;G06N3/08
• 代理公司: 廣州容大知識產權代理事務所(普通合伙) 44326
• 代理人: 劉新年

1.一種基于在線迭代生成器的對抗防御方法，包括如下步驟：

步驟S1，隨機初始化生成器網絡F的參數θ，并用0初始化與輸入圖像相同大小的合成圖像；

步驟S2，給定可能是對抗樣本的輸入圖像，將其定義為參考圖像I_z，將其輸入至包含所述生成器網絡F的在線迭代生成器模塊，生成合成圖像，并交替迭代更新網絡參數和合成圖像，最終獲得去除對抗噪聲且與原輸入圖像語義相同的合成圖像；

步驟S2進一步包括：

步驟S200，利用所述生成器網絡F進行內迭代，利用生成器網絡F近似能量函數，更新合成圖像來最小化能量函數，以產生與所述參考圖像I_z語義相同的、去除對抗噪聲的新圖像；

步驟S201，利用所述生成器網絡F進行外迭代，沿最大化對數似然的方向訓練生成器網絡F的參數，更新網絡參數以使合成圖像逐漸靠近參考圖像I_z；

步驟S202，多次迭代式地進行步驟S200-S201的訓練過程，直到符合停止的條件；

于步驟S2中，以步驟S1初始化的合成圖像和網絡參數作為迭代的初始化值，訓練所述對抗防御的在線生成器神經網絡；于訓練過程收斂后，利用訓練好的生成器網絡在線生成的合成圖像代替原始輸入圖像輸入到目標網絡。

2.如權利要求1所述的一種基于在線迭代生成器的對抗防御方法，其特征在于：在每次外迭代中，對合成圖像進行TI次更新，同時對生成器網絡F的參數進行一次更新，其中TI表示最大內迭代次數。

3.如權利要求1所述的一種基于在線迭代生成器的對抗防御方法，其特征在于：在每次內迭代中，對合成圖像更新一次，在更新圖像時進一步引入噪聲模型，以增加恢復細微細節的難度，從而降低擬合對抗性噪聲的機會。

4.如權利要求1所述的一種基于在線迭代生成器的對抗防御方法，其特征在于，于步驟S2后，所述方法還包括如下步驟：

步驟S3，在含有未知攻擊類型圖像的數據集上進行泛化式訓練，得到最終模型。

5.如權利要求1所述的一種基于在線迭代生成器的對抗防御方法，其特征在于，于步驟S200中，更新合成圖像I_s以使能量函數最小化：

其中I_s為當前合成圖像，I_s+1為更新圖像，α表示學習率，為生成網絡F關于圖像I_s的梯度，U為能量函數，θ表示所述生成器網絡的參數。

6.如權利要求1所述的一種基于在線迭代生成器的對抗防御方法，其特征在于，于步驟S201中，訓練生成器網絡F如下公式所示：

其中，I_s為當前合成圖像，θ_t表示當前時間步的網絡參數，θ_t+1表示下一時間步更新的參數，β表示步長。

7.如權利要求1所述的一種基于在線迭代生成器的對抗防御方法，其特征在于：所述生成器網絡F為由L層卷積網絡和非線性激活函數組成的神經網絡。

8.一種基于在線迭代生成器的對抗防御系統，包括：

初始化單元，用于隨機初始化生成器網絡F的參數θ，并用0初始化合成圖像；

對抗樣本生成單元，用于產生不同攻擊方法的對抗樣本，作為系統的輸入參考圖像I_z；

合成圖像產生單元，用于利用生成器網絡產生與原輸入圖像相同大小的合成圖像，該合成圖像由零初始化；

在線迭代生成器模塊，用于交替迭代更新生成器網絡的網絡參數和合成圖像，最終獲得去除對抗噪聲且與原輸入圖像語義相同的合成圖像，最后將合成的合成圖像代替原始輸入圖像傳入目標網絡進行分類；

目標網絡單元，利用預訓練好的目標網絡，接收產生的合成圖像作為輸入，測試合成圖像的防御效果；

在線迭代生成器模塊包括：

內迭代單元，用于利用生成器網絡F近似能量函數，更新合成圖像來最小化能量函數，以產生與參考圖像I_z語義相同的、去除對抗噪聲的新圖像；

外迭代單元，用于沿最大化對數似然的方向訓練生成器網絡F的參數，更新生成器網絡參數使合成圖像逐漸靠近參考圖像I_z；

所述外迭代單元與內迭代單元交替迭代更新網絡參數和生成圖像，直到符合停止的條件，最終獲得去除對抗噪聲且與原輸入圖像語義相同的圖像；

所述在線迭代生成器模塊中，以初始化單元中初始化的合成圖像和網絡參數作為迭代的初始化值，訓練所述對抗防御的在線生成器神經網絡；于訓練過程收斂后，利用訓練好的生成器網絡在線生成的合成圖像代替原始輸入圖像輸入到目標網絡。