[發(fā)明專利]一種針對圖像識別過程中的小像素對抗樣本防御方法

有效

• 申請?zhí)枺?/td>: 202010637934.1
• 申請日: 2020-07-02
• 公開（公告）號: CN111783890B
• 公開（公告）日: 2022-06-03
• 發(fā)明（設(shè)計）人: 牛偉納;張小松;任仲蔚;丁康一;謝科;張瑾昀;曹蓉
• 申請（專利權(quán)）人: 電子科技大學(xué)
• 主分類號: G06V10/764
• 分類號: G06V10/764;G06K9/62;G06V10/80;G06V10/774
• 代理公司: 成都正煜知識產(chǎn)權(quán)代理事務(wù)所(普通合伙) 51312
• 代理人: 李龍

1.一種針對圖像識別過程中的小像素對抗樣本防御方法，其特征在于，包括以下步驟：

S1：使用小像素圖像訓(xùn)練數(shù)據(jù)集中的原始樣本集O進(jìn)行模型的訓(xùn)練，得到一個未經(jīng)過增強(qiáng)的小像素圖像分類模型；

S2：使用小像素對抗樣本生成算法對訓(xùn)練數(shù)據(jù)集中的每一張圖片，進(jìn)行對抗樣本生成，得到對抗樣本集合A；

S3：對對抗樣本集合A的所有樣本進(jìn)行擾動數(shù)值的統(tǒng)計，統(tǒng)計每個擾動數(shù)值所占的比重，其統(tǒng)計方法為計算出每一張對抗樣本的擾動數(shù)值分布，然后對整個對抗樣本擾動數(shù)據(jù)集求得平均擾動分布情況，得到對抗樣本的擾動分布直方圖；

S4: 使用對抗樣本的擾動分布直方圖，模擬對抗樣本生成算法擾動規(guī)律，對DUNet模型進(jìn)行訓(xùn)練，得到降噪輸入層；

S5：將降噪輸入層和未經(jīng)過增強(qiáng)的小像素圖像分類模型進(jìn)行拼接，得到增強(qiáng)的模型；

步驟S4包括：

步驟4-1，對訓(xùn)練數(shù)據(jù)集中的所有原始樣本集O，使用對抗樣本擾動特征提取得到的擾動占比數(shù)據(jù)，按照對應(yīng)的權(quán)重信息對原始樣本產(chǎn)生隨機(jī)擾動，得到具有一定噪聲分布規(guī)律的擾動樣本集；

步驟4-2，將原始樣本O與對應(yīng)的擾動樣本，組合成訓(xùn)練點(diǎn)對，其中表示原始樣本O中的第個樣本，表示第個樣本使用對抗樣本擾動分布規(guī)律模擬產(chǎn)生的擾動樣本，這兩個樣本構(gòu)成一個訓(xùn)練點(diǎn)對，其中為訓(xùn)練輸入，為目標(biāo)輸出；

步驟4-3，使用訓(xùn)練點(diǎn)對，對DUNet圖像恢復(fù)結(jié)構(gòu)進(jìn)行模型的訓(xùn)練，訓(xùn)練的輸入為，訓(xùn)練的目標(biāo)值為；得到降噪網(wǎng)絡(luò)DUNet，模型訓(xùn)練的損失函數(shù)為MAE。

2.根據(jù)權(quán)利要求1所述的一種針對圖像識別過程中的小像素對抗樣本防御方法，其特征在于：步驟S5包括：

步驟5-1，使用降噪網(wǎng)絡(luò)DUNet作為一個附加的網(wǎng)絡(luò)結(jié)構(gòu)，對未經(jīng)過增強(qiáng)的小像素圖像分類模型的輸入網(wǎng)絡(luò)層進(jìn)行修改，保證DUNet結(jié)構(gòu)能夠與識別模型相連接；

步驟5-2，將未經(jīng)過增強(qiáng)的小像素圖像分類模型的數(shù)據(jù)層與DUNet降噪層的輸出相連接。