[發(fā)明專(zhuān)利]一種對(duì)抗樣本生成方法、裝置、電子設(shè)備及存儲(chǔ)介質(zhì)

在審

• 申請(qǐng)?zhí)枺?/td>: 202210691492.8
• 申請(qǐng)日: 2022-06-17
• 公開(kāi)（公告）號(hào): CN115049843A
• 公開(kāi)（公告）日: 2022-09-13
• 發(fā)明（設(shè)計(jì)）人: 丁玨;敦婧瑜
• 申請(qǐng)（專(zhuān)利權(quán)）人: 浙江大華技術(shù)股份有限公司
• 主分類(lèi)號(hào): G06V10/42
• 分類(lèi)號(hào): G06V10/42;G06V10/764;G06V10/82;G06N3/04;G06N3/08
• 代理公司: 北京同達(dá)信恒知識(shí)產(chǎn)權(quán)代理有限公司 11291
• 代理人: 潘平

本申請(qǐng)實(shí)施例提供一種對(duì)抗樣本生成方法、裝置、電子設(shè)備及存儲(chǔ)介質(zhì)，通過(guò)對(duì)樣本生成器生成的攻擊樣本數(shù)據(jù)進(jìn)行頻域分離，并采用分離獲得的高頻樣本數(shù)據(jù)及低頻樣本數(shù)據(jù)，訓(xùn)練設(shè)計(jì)好的高頻判別器及低頻判別器，從而利用訓(xùn)練好的兩個(gè)判別器，實(shí)現(xiàn)樣本生成器的對(duì)抗訓(xùn)練，基于上述方式，本申請(qǐng)實(shí)施例保障了預(yù)先設(shè)計(jì)的樣本生成器能夠同時(shí)學(xué)習(xí)到原始樣本數(shù)據(jù)在不同頻域條件下的數(shù)據(jù)分布信息，從而使得訓(xùn)練得到的目標(biāo)生成器具有更強(qiáng)的攻擊能力，進(jìn)一步豐富了目標(biāo)生成器最終所能夠輸出的對(duì)抗樣本的數(shù)據(jù)類(lèi)別，有效提升了對(duì)抗樣本的攻擊泛化性。

技術(shù)領(lǐng)域

本發(fā)明涉及數(shù)據(jù)樣本處理技術(shù)領(lǐng)域，尤其涉及一種對(duì)抗樣本生成方法、裝置、電子設(shè)備及存儲(chǔ)介質(zhì)。

背景技術(shù)

對(duì)抗樣本(Adversarial Examples，AE)是在原始樣本圖像或原始視頻幀的數(shù)據(jù)集中添加微小噪聲而生成的數(shù)據(jù)樣本，常用來(lái)使性能優(yōu)異的網(wǎng)絡(luò)識(shí)別模型在對(duì)此類(lèi)樣本進(jìn)行圖像識(shí)別時(shí)，獲得置信度高而分類(lèi)錯(cuò)誤的識(shí)別結(jié)果。因此，對(duì)抗樣本在對(duì)網(wǎng)絡(luò)識(shí)別模型的機(jī)理研究以及結(jié)構(gòu)設(shè)計(jì)等領(lǐng)域發(fā)揮著重大作用。

相關(guān)技術(shù)中，普遍采用單一對(duì)抗的方式進(jìn)行對(duì)抗樣本的生成，具體來(lái)講，利用預(yù)先設(shè)計(jì)的樣本生成器，通過(guò)隨機(jī)產(chǎn)生的噪聲數(shù)據(jù)對(duì)輸入樣本生成器中的訓(xùn)練樣本進(jìn)行攻擊，生成對(duì)應(yīng)的攻擊樣本，并利用預(yù)先設(shè)計(jì)的樣本判別器，對(duì)生成的攻擊樣本與攻擊前的原始訓(xùn)練樣本進(jìn)行分類(lèi)判別，從而在每輪迭代訓(xùn)練的過(guò)程中，不斷調(diào)整樣本判別器的模型參數(shù)。進(jìn)一步的，在樣本判別器的模型參數(shù)相對(duì)固定時(shí)，將其作為目標(biāo)判別器以對(duì)上述設(shè)計(jì)的樣本生成器進(jìn)行對(duì)抗訓(xùn)練，基于上述方式，樣本生成器不斷學(xué)習(xí)訓(xùn)練樣本的數(shù)據(jù)分布，從而使得最終獲得的目標(biāo)生成器能夠基于學(xué)習(xí)到的數(shù)據(jù)分布，生成特定樣本類(lèi)別下的對(duì)抗樣本。

然而，由于實(shí)際狀況下，訓(xùn)練樣本的數(shù)據(jù)分布通常較為復(fù)雜，基于上述方式，往往會(huì)導(dǎo)致目標(biāo)生成器所生成的對(duì)抗樣本的攻擊泛化性不高。

例如，當(dāng)訓(xùn)練樣本所對(duì)應(yīng)的樣本類(lèi)別包含多個(gè)可辨別的子類(lèi)別時(shí)，為使生成的對(duì)抗樣本符合訓(xùn)練樣本的數(shù)據(jù)分布，需要令樣本生成器同時(shí)捕捉到多個(gè)子類(lèi)別下的多個(gè)不同的數(shù)據(jù)模式。由于相關(guān)技術(shù)中，樣本生成器的模型參數(shù)通常對(duì)應(yīng)為單一樣本判別器所給出判別結(jié)果下的局部最優(yōu)，因此，采用上述單一樣本生成器以及單一樣本判別器的訓(xùn)練方式，容易使得訓(xùn)練的樣本生成器通常僅能捕捉到單一子類(lèi)別下的數(shù)據(jù)模式，這一狀況會(huì)導(dǎo)致最終獲得的目標(biāo)生成器無(wú)法輸出更多樣性的對(duì)抗樣本類(lèi)別，使得相關(guān)技術(shù)中，對(duì)抗樣本的攻擊泛化性不高。

發(fā)明內(nèi)容

本申請(qǐng)實(shí)施例提供一種對(duì)抗樣本生成方法、裝置、電子設(shè)備及存儲(chǔ)介質(zhì)，用于提升對(duì)抗樣本的攻擊泛化性。

第一方面，本申請(qǐng)實(shí)施例提供一種對(duì)抗樣本生成方法，包括：

將原始樣本數(shù)據(jù)輸入預(yù)設(shè)的樣本生成器，生成相應(yīng)的攻擊樣本數(shù)據(jù)。

對(duì)攻擊樣本數(shù)據(jù)進(jìn)行頻域分離，獲得相應(yīng)的高頻樣本數(shù)據(jù)及低頻樣本數(shù)據(jù)。

采用高頻樣本數(shù)據(jù)，訓(xùn)練預(yù)設(shè)的高頻判別器，并采用低頻樣本數(shù)據(jù)，訓(xùn)練預(yù)設(shè)的低頻判別器。

基于訓(xùn)練的高頻判別器及低頻判別器，對(duì)樣本生成器進(jìn)行對(duì)抗訓(xùn)練，并基于獲得的目標(biāo)生成器，生成與原始樣本數(shù)據(jù)相應(yīng)的對(duì)抗樣本。

第二方面，本申請(qǐng)實(shí)施例還提供一種對(duì)抗樣本生成裝置，包括：

獲取模塊，用于將原始樣本數(shù)據(jù)輸入預(yù)設(shè)的樣本生成器，生成相應(yīng)的攻擊樣本數(shù)據(jù)。

分離模塊，用于對(duì)攻擊樣本數(shù)據(jù)進(jìn)行頻域分離，獲得相應(yīng)的高頻樣本數(shù)據(jù)及低頻樣本數(shù)據(jù)。

訓(xùn)練模塊，用于采用高頻樣本數(shù)據(jù)，訓(xùn)練預(yù)設(shè)的高頻判別器，并采用低頻樣本數(shù)據(jù)，訓(xùn)練預(yù)設(shè)的低頻判別器。

生成模塊，用于基于訓(xùn)練的高頻判別器及低頻判別器，對(duì)樣本生成器進(jìn)行對(duì)抗訓(xùn)練，并基于獲得的目標(biāo)生成器，生成與原始樣本數(shù)據(jù)相應(yīng)的對(duì)抗樣本。