[發明專利]指定標簽的對抗樣本生成方法、裝置、電子設備及介質

有效

• 申請號: 202010084790.1
• 申請日: 2020-02-10
• 公開（公告）號: CN111340180B
• 公開（公告）日: 2021-10-08
• 發明（設計）人: 喬鵬;林揚飛;竇勇;姜晶菲;李榮春;牛新;蘇華友;潘衡岳
• 申請（專利權）人: 中國人民解放軍國防科技大學
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08;G06K9/62
• 代理公司: 北京辰權知識產權代理有限公司 11619
• 代理人: 付婧

1.一種指定標簽的對抗樣本生成方法，其特征在于，包括：

將原始圖像樣本輸入預設多標簽分類網絡，得到用于對所述原始圖像樣本進行多標簽分類的各個標簽的預測分數值；

從所述各個標簽的預測分數值中抽取指定標簽對應的預測分數值；

根據所述指定標簽對應的預測分數值，采用動量快速梯度迭代MI-FGSM方法生成第一攻擊擾動；

利用梯度權值類別響應圖Grad-CAM方法對所述第一攻擊擾動進行裁剪，得到第二攻擊擾動；

將所述第二攻擊擾動疊加到所述原始圖像樣本上，生成與所述指定標簽對應的對抗樣本；

所述根據所述指定標簽對應的預測分數值，采用動量快速梯度迭代MI-FGSM方法生成第一攻擊擾動，包括：

步驟S1、設置MI-FGSM迭代參數，所述迭代參數包括動量momentum、擾動值范圍epsilon、迭代步數iter_num、迭代步長α；

步驟S2、計算出所述指定標簽對應的預測分數值關于所述原始圖像樣本的偏導數grad，以初始化梯度；

步驟S3、根據攻擊擾動的公式：noise＝momentum×noise+α×grad，更新攻擊擾動，并根據擾動值范圍epsilon對更新后攻擊擾動進行裁剪；

步驟S4、重復步驟S3，直到迭代了iter_num步為止，得到第一攻擊擾動。

2.根據權利要求1所述的方法，其特征在于，所述預設多標簽分類網絡包括：依次連接的特征提取骨干網絡、全連接層和激活函數。

3.根據權利要求1所述的方法，其特征在于，所述利用梯度權值類別響應圖Grad-CAM方法對所述第一攻擊擾動進行裁剪，得到第二攻擊擾動，包括：

通過所述指定標簽對應的損失函數對所述原始圖像樣本在所述預設多標簽分類網絡的各特征層的特征圖像求導并加權求和，得到目標特征圖像；

通過雙線性插值方法將所述目標特征圖像還原到與所述原始圖像樣本相同的尺度，得到Grad-CAM；

根據所述Grad-CAM對所述第一攻擊擾動進行噪聲裁剪，生成第二攻擊擾動。

4.一種指定標簽的對抗樣本生成裝置，其特征在于，包括：

預測模塊，用于將原始圖像樣本輸入預設多標簽分類網絡，得到用于對所述原始圖像樣本進行多標簽分類的各個標簽的預測分數值；

抽取模塊，用于從所述各個標簽的預測分數值中抽取指定標簽對應的預測分數值；

梯度迭代模塊，用于根據所述指定標簽對應的預測分數值，采用動量快速梯度迭代MI-FGSM方法生成第一攻擊擾動；

裁剪模塊，用于利用梯度權值類別響應圖Grad-CAM方法對所述第一攻擊擾動進行裁剪，得到第二攻擊擾動；

生成模塊，用于將所述第二攻擊擾動疊加到所述原始圖像樣本上，生成與所述指定標簽對應的對抗樣本；

所述梯度迭代模塊，具體用于：

S1、設置MI-FGSM迭代參數，所述迭代參數包括動量momentum、擾動值范圍epsilon、迭代步數iter_num、迭代步長α；

S2、計算出所述指定標簽對應的預測分數值關于所述原始圖像樣本的偏導數grad，以初始化梯度；

S3、根據攻擊擾動的公式：noise＝momentum×noise+α×grad，更新攻擊擾動，并根據擾動值范圍epsilon對更新后攻擊擾動進行裁剪；

S4、重復S3，直到迭代了iter_num步為止，得到第一攻擊擾動。

5.根據權利要求4所述的裝置，其特征在于，所述預設多標簽分類網絡包括：依次連接的特征提取骨干網絡、全連接層和激活函數。

6.根據權利要求4所述的裝置，其特征在于，所述裁剪模塊，具體用于：

通過所述指定標簽對應的損失函數對所述原始圖像樣本在所述預設多標簽分類網絡的各特征層的特征圖像求導并加權求和，得到目標特征圖像；

通過雙線性插值方法將所述目標特征圖像還原到與所述原始圖像樣本相同的尺度，得到Grad-CAM；

根據所述Grad-CAM對所述第一攻擊擾動進行噪聲裁剪，生成第二攻擊擾動。