[發(fā)明專(zhuān)利]基于分離正負(fù)擾動(dòng)生成對(duì)抗圖像機(jī)器識(shí)別的方法

在審

• 申請(qǐng)?zhí)枺?/td>: 202010656484.0
• 申請(qǐng)日: 2020-07-09
• 公開(kāi)（公告）號(hào): CN111967592A
• 公開(kāi)（公告）日: 2020-11-20
• 發(fā)明（設(shè)計(jì)）人: 葛軼洲;嚴(yán)元杰;卜宇軒;周青;趙健;申富饒
• 申請(qǐng)（專(zhuān)利權(quán)）人: 中國(guó)電子科技集團(tuán)公司第三十六研究所;南京大學(xué)
• 主分類(lèi)號(hào): G06N3/08
• 分類(lèi)號(hào): G06N3/08;G06N3/04;G06K9/62
• 代理公司: 江蘇圣典律師事務(wù)所 32237
• 代理人: 于瀚文;胡建華

1.基于分離正負(fù)擾動(dòng)生成對(duì)抗圖像機(jī)器識(shí)別的方法，其特征在于，包括如下步驟：

步驟1，確定生成的對(duì)抗樣本所滿(mǎn)足的L_∞距離限制；

步驟2，依據(jù)L_∞距離，計(jì)算每個(gè)圖像像素值的正、負(fù)擾動(dòng)的范圍限制；

步驟3，通過(guò)變量替換，對(duì)正、負(fù)擾動(dòng)進(jìn)行替換；

步驟4，將優(yōu)化目標(biāo)函數(shù)取反，直接利用梯度下降法迭代優(yōu)化z_n和z_p；

步驟5，當(dāng)達(dá)到訓(xùn)練輪數(shù)或下降穩(wěn)定時(shí)，停止訓(xùn)練；

步驟6，總體擾動(dòng)為正負(fù)擾動(dòng)p_n和p_p的相加，對(duì)抗樣本為總體擾動(dòng)和原始圖像的相加；

步驟7，將生成的對(duì)抗樣本作為要識(shí)別的圖片驗(yàn)證碼，并返回合理選項(xiàng)作為分類(lèi)的答案。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，步驟1包括如下步驟：

步驟1-1，輸入原始圖像x，設(shè)定L_∞距離為∈，∈表示限制參數(shù)；

步驟1-2，將原始圖像放縮到指定的輸入范圍。

3.根據(jù)權(quán)利要求2所述的方法，其特征在于，步驟2包括如下步驟：

步驟2-1，根據(jù)輸入的像素值與輸入的最大最小值的范圍，確定每個(gè)像素點(diǎn)可修改的范圍；

步驟2-2，對(duì)于輸入的原始圖像x，結(jié)合L_∞＝距離限制，裁剪2-1中像素的修改范圍，得到r_n和r_p：

r_n＝min(x-l,∈)，

r_p＝min(r-x,∈)，

其中r_n為對(duì)應(yīng)的樣本的正擾動(dòng)限制，r_p為相應(yīng)的負(fù)擾動(dòng)限制，其中l(wèi)和r分別為圖像輸入的范圍左邊界與右邊界。

4.根據(jù)權(quán)利要求3所述的方法，其特征在于，步驟3包括：

設(shè)正、負(fù)擾動(dòng)分別為p_n和p_p，采取p_n＝r_n·Sigmoid(z_n)和p_p＝r_p·Sigmoid(z_p)的替換方法，將p_n和p_p分別替換為無(wú)限制的變量z_n和z_p。

5.根據(jù)權(quán)利要求4所述的方法，其特征在于，步驟4包括：將原始的分類(lèi)損失的目標(biāo)損失取反，即優(yōu)化目標(biāo)為模型的負(fù)損失函數(shù)，采取梯度下降的方法迭代計(jì)算z_n和z_p，在訓(xùn)練過(guò)程中，設(shè)網(wǎng)絡(luò)白盒模型為f_w，固定網(wǎng)絡(luò)的模型參數(shù)，網(wǎng)絡(luò)的模型參數(shù)即對(duì)應(yīng)的卷積核和連結(jié)矩陣參數(shù)，只優(yōu)化所添加的擾動(dòng)值，即只優(yōu)化兩個(gè)變量z_n和z_p。

6.根據(jù)權(quán)利要求5所述的方法，其特征在于，步驟4中，根據(jù)梯度下降法，按如下公式進(jìn)行更新：

其中α為更新的步長(zhǎng)，為f_w模型對(duì)應(yīng)的損失函數(shù)，為對(duì)應(yīng)*的梯度值，并且x′為不斷迭代更新的對(duì)抗樣本，標(biāo)記為x_adv的臨時(shí)值，按x′＝x+r_p·Sigmoid(z_p)-r_n·Sigmoid(z_n)計(jì)算。

7.根據(jù)權(quán)利要求6所述的方法，其特征在于，步驟7中，所述返回合理選項(xiàng)作為分類(lèi)的答案，包括：將對(duì)抗樣本的錯(cuò)誤分類(lèi)和原本正確的分類(lèi)標(biāo)簽以及其他任意干擾的分類(lèi)選項(xiàng)作為選項(xiàng)一起返回。