[發(fā)明專利]一種為圖像分類器進行對抗樣本防御的方法

在審

• 申請?zhí)枺?/td>: 202010749009.8
• 申請日: 2020-07-30
• 公開（公告）號: CN111914928A
• 公開（公告）日: 2020-11-10
• 發(fā)明（設計）人: 諸渝;許封元;仲盛
• 申請（專利權）人: 南京大學
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/08
• 代理公司: 南京樂羽知行專利代理事務所(普通合伙) 32326
• 代理人: 李玉平

1.一種為圖像分類器進行對抗樣本防御的方法，其特征在于，包括如下步驟：

步驟1，構造模型，準備圖像訓練數(shù)據(jù)；

步驟2，將圖像訓練數(shù)據(jù)隨機劃分成多個mini-batch；

步驟3，借助一個mini-batch的圖像訓練數(shù)據(jù)實現(xiàn)模型的一次參數(shù)更新；

a)選擇一個尚未參與計算的mini-batch的圖像訓練數(shù)據(jù)，生成對應的對抗樣本；

b)將上一步生成的對抗樣本與對應的圖像訓練數(shù)據(jù)混合，并調(diào)整對抗樣本中各圖像數(shù)據(jù)的相對位置；

c)借助反向傳播算法，更新一次模型參數(shù)；

步驟4，重復步驟3，直至步驟2所劃分的mini-batch全部參與了計算；

步驟5，重復步驟2-4，直至模型完成訓練；

步驟6，輸出步驟5完成訓練的模型。

2.根據(jù)權利要求1所述的為圖像分類器進行對抗樣本防御的方法，其特征在于，將圖像訓練數(shù)據(jù)集隨機劃分成多個mini-batch的實現(xiàn)過程如下：

假設圖像訓練集中共包含D條圖像訓練數(shù)據(jù)，預設的mini-batch的大小為n。首先將D條圖像訓練數(shù)據(jù)隨機打亂，之后按照mini-batch的大小依次選取圖像訓練數(shù)據(jù)，從而圖像訓練集共被分成了m個mini-batch；

3.根據(jù)權利要求1所述的為圖像分類器進行對抗樣本防御的方法，其特征在于，選擇一個尚未參與計算的mini-batch的圖像訓練數(shù)據(jù)，生成對應的對抗樣本，實現(xiàn)過程如下：

任取一組尚未使用過的mini-batch的圖像訓練數(shù)據(jù)X＝(x₁，x₂，...，x_n)，在當前的模型下，采用某種對抗攻擊算法生成X對應的對抗樣本

4.根據(jù)權利要求1所述的為圖像分類器進行對抗樣本防御的方法，其特征在于，混合生成的對抗樣本與對應圖像訓練數(shù)據(jù)，調(diào)整對抗樣本中各圖像數(shù)據(jù)的相對位置，實現(xiàn)過程如下：

預設劃分比例λ，λ∈[0，1]，按照λ將對抗樣本劃分成兩部分和其中：

隨機調(diào)整中各圖像實例在中所處的位置，從而對實施重新排列，拼接與重排列后的得到對圖像訓練數(shù)據(jù)X的數(shù)據(jù)標簽Y采用同樣操作，得到對抗樣本對應的標簽計算同類標識T＝(t₁，t₂，...，t_n)，當x_i和同類，即y_i與相等時t_i＝1，否則t_i＝0。

5.根據(jù)權利要求1所述的為圖像分類器進行對抗樣本防御的方法，其特征在于，借助反向傳播算法，更新一次模型參數(shù)，實現(xiàn)過程如下：

假設模型的參數(shù)是W，設定學習率為a；定義損失函數(shù)如下所示：

其中α、β、γ為預設的超參數(shù)，l(·)為交叉熵損失函數(shù)，l_con(·)為對比損失函數(shù)；訓練時采用暹羅架構，X與同時作為網(wǎng)絡的輸入，采用損失函數(shù)L(·)計算W的梯度并更新

6.根據(jù)權利要求1所述的為圖像分類器進行對抗樣本防御的方法，其特征在于，重復步驟2-4，直至模型完成訓練；預設訓練輪數(shù)N，在每一輪中，將圖像訓練集隨機分割成m個mini-batch，實現(xiàn)模型的m次參數(shù)更新，完成模型訓練。

7.根據(jù)權利要求1所述的為圖像分類器進行對抗樣本防御的方法，其特征在于，所述模型超參數(shù)包括：模型學習率、mini-batch的大小、最大迭代次數(shù)、損失函數(shù)各分量的系數(shù)α、β和γ、對抗樣本劃分比例。

8.根據(jù)權利要求1所述的為圖像分類器進行對抗樣本防御的方法，其特征在于，所述圖像訓練數(shù)據(jù)為圖片格式的數(shù)據(jù)。

9.根據(jù)權利要求1所述的為圖像分類器進行對抗樣本防御的方法，其特征在于，所述某種對抗攻擊算法，包括：有目標攻擊或無目標攻擊、迭代式攻擊或單步式攻擊、不同范數(shù)攻擊，所述不同范數(shù)包括：L₀、L₁、L₂和L_∞。