[發(fā)明專(zhuān)利]一種對(duì)抗樣本生成方法及系統(tǒng)

有效

• 申請(qǐng)?zhí)枺?/td>: 202011620173.5
• 申請(qǐng)日: 2020-12-31
• 公開(kāi)（公告）號(hào): CN112633280B
• 公開(kāi)（公告）日: 2023-01-31
• 發(fā)明（設(shè)計(jì)）人: 葉貴鑫;王玉莉;車(chē)小康;田洋;瞿興;范子茜;湯戰(zhàn)勇;房鼎益
• 申請(qǐng)（專(zhuān)利權(quán)）人: 西北大學(xué)
• 主分類(lèi)號(hào): G06V10/25
• 分類(lèi)號(hào): G06V10/25;G06V10/774;G06V10/764;G06V10/77;G06V10/82;G06N3/04;G06N3/08
• 代理公司: 西安恒泰知識(shí)產(chǎn)權(quán)代理事務(wù)所 61216
• 代理人: 史玫

1.一種對(duì)抗樣本生成方法，方法用于生成原始圖像的對(duì)抗樣本，其特征在于，所述方法包括：

步驟一，獲取原始圖像的可解釋性區(qū)域圖像；

步驟二，確定合適的像素閾值threshold，根據(jù)可解釋性區(qū)域圖像生成該閾值threshold下原始圖像的擾動(dòng)添加模板Mask，根據(jù)擾動(dòng)添加模板中的0像素點(diǎn)值在原始圖像對(duì)應(yīng)的像素點(diǎn)處添加疊加擾動(dòng)ε，生成該原始圖像的對(duì)抗樣本；

其中：

L_n(x，y)表示為第n個(gè)第二CNN分類(lèi)模型訓(xùn)練時(shí)的損失函數(shù)，n＝1，2，3，...，N，N≥2；y表示原始圖像x的分類(lèi)類(lèi)別；

表示第n個(gè)第二CNN分類(lèi)模型的關(guān)于損失函數(shù)L_n(x，y)的梯度，N個(gè)第二CNN分類(lèi)模型的初始結(jié)構(gòu)或/和網(wǎng)絡(luò)參數(shù)不同，且N個(gè)第二CNN分類(lèi)模型采用相同的訓(xùn)練集訓(xùn)練獲得；

描述了loss函數(shù)的梯度方向，α為在該方向上的偏移量級(jí)；α＞0；

采用步驟1-5確定α值：

步驟1，取α_temp，采用公式(1)生成臨時(shí)對(duì)抗擾動(dòng)ε_temp，α_temp初始大于0；

步驟2，將產(chǎn)生的臨時(shí)對(duì)抗擾動(dòng)ε_temp全局添加到原始圖像x或待處理圖像上，得到臨時(shí)對(duì)抗樣本

步驟3，用臨時(shí)對(duì)抗樣本攻擊第一CNN模型，得到的攻擊成功率為

步驟4，比較與當(dāng)前rate_attack的大小，若兩者相等或差值的絕對(duì)值在允許的誤差范圍內(nèi)，則flag+1，跳轉(zhuǎn)到步驟5；否則，跳轉(zhuǎn)到步驟5；其中flag初始取0，初始rate_attack≥0；

步驟5，判斷flag的值，若小于等于flagmax，flagmax≥2，則α_temp增加至少1個(gè)單位后繼續(xù)步驟1；否則當(dāng)前α_temp為α。

2.如權(quán)利要求1所述的對(duì)抗樣本生成方法，其特征在于，所述步驟一包括將原始圖像x和第一CNN分類(lèi)模型作為模型可解釋性算法的輸入，輸出原始圖像x的可解釋性區(qū)域圖像，所述原始圖像x為第一CNN分類(lèi)模型可識(shí)別并分類(lèi)的圖像。

3.如權(quán)利要求2所述的對(duì)抗樣本生成方法，其特征在于，所述模型可解釋性算法采用Grad-CAM算法。