[發(fā)明專利]深度學(xué)習(xí)模型對抗樣本生成方法、系統(tǒng)、設(shè)備及存儲介質(zhì)

有效

• 申請?zhí)枺?/td>: 202110049467.5
• 申請日: 2021-01-14
• 公開（公告）號: CN112949678B
• 公開（公告）日: 2023-05-02
• 發(fā)明（設(shè)計）人: 藺琛皓;朱炯?xì)v;沈超;管曉宏
• 申請（專利權(quán)）人: 西安交通大學(xué)
• 主分類號: G06F18/214
• 分類號: G06F18/214;G06F21/62;G06F17/16;G06N3/0475;G06N3/094
• 代理公司: 西安通大專利代理有限責(zé)任公司 61200
• 代理人: 崔方方

1.一種深度學(xué)習(xí)模型對抗樣本生成方法，其特征在于，包括以下步驟：

S1：獲取原始圖像基于目標(biāo)深度學(xué)習(xí)模型的敏感矩陣；

具體方法為：

獲取與目標(biāo)深度學(xué)習(xí)模型具有同一分類目標(biāo)的深度學(xué)習(xí)模型為參考模型；

逐一選取原始圖像中各像素點(diǎn)進(jìn)行如下步驟：將當(dāng)前像素點(diǎn)進(jìn)行預(yù)設(shè)大小的擾動，得到敏感圖像，將敏感圖像輸入?yún)⒖寄Ｐ停玫疆?dāng)前像素點(diǎn)擾動后相對于擾動前參考模型輸出的原始類預(yù)測概率的變化值，作為當(dāng)前像素點(diǎn)的敏感值；

將原始圖像中各像素點(diǎn)的敏感值，按照原始圖像中各像素點(diǎn)的位置排列，得到原始圖像基于目標(biāo)深度學(xué)習(xí)模型的敏感矩陣；

S2：根據(jù)預(yù)設(shè)的用于擾動的若干零范數(shù)及若干無窮范數(shù)，構(gòu)建若干范數(shù)組；根據(jù)敏感矩陣及若干范數(shù)組，得到各范數(shù)組對應(yīng)的擾動圖；

S3：將原始圖像及各范數(shù)組對應(yīng)的擾動圖均查詢目標(biāo)深度學(xué)習(xí)模型，得到并根據(jù)各范數(shù)組對應(yīng)的擾動圖相對于原始圖像的原始類預(yù)測概率的下降值，獲得對抗零范數(shù)及對抗無窮范數(shù)；

S4：根據(jù)對抗無窮范數(shù)構(gòu)建預(yù)設(shè)數(shù)量對抗擾動矩陣，將攻擊目標(biāo)類預(yù)測概率為適應(yīng)度，以適應(yīng)度最大為優(yōu)化目標(biāo)，根據(jù)原始圖像、敏感矩陣及對抗零范數(shù)，通過進(jìn)化算法迭代優(yōu)化各對抗擾動矩陣，每次迭代后均進(jìn)行S5；

S5：當(dāng)當(dāng)前迭代優(yōu)化后的對抗擾動矩陣中，至少存在一個目標(biāo)對抗擾動矩陣時，將原始圖像通過目標(biāo)對抗擾動矩陣擾動，得到對抗樣本并輸出，迭代結(jié)束；否則，返回S4。

2.根據(jù)權(quán)利要求1所述的深度學(xué)習(xí)模型對抗樣本生成方法，其特征在于，所述S2的具體方法為：

根據(jù)預(yù)設(shè)的用于擾動的若干零范數(shù)及若干無窮范數(shù)，逐一選取若干零范數(shù)中的零范數(shù)至遍歷若干零范數(shù)，將選取的零范數(shù)與若干無窮范數(shù)中的各無窮范數(shù)一一組合，得到若干范數(shù)組；

預(yù)設(shè)初始擾動矩陣，初始擾動矩陣內(nèi)參數(shù)數(shù)量與原始圖像中像素點(diǎn)個數(shù)相同，且按照原始圖像中各像素點(diǎn)的位置排列，各參數(shù)的絕對值為1，初始擾動矩陣與敏感矩陣中同一位置的參數(shù)的符號一致；逐一選取范數(shù)組，至遍歷若干范數(shù)組，將當(dāng)前范數(shù)組中的無窮范數(shù)的一半與初始擾動矩陣中的各參數(shù)相乘，得到各范數(shù)組對應(yīng)的擾動矩陣，獲取當(dāng)前范數(shù)組中的零范數(shù)，按照敏感值從大到小的順序，將敏感矩陣中前零范數(shù)個敏感值置為1，其余敏感值置為0，得到各擾動矩陣對應(yīng)的掩膜矩陣；

將原始圖像中的各像素點(diǎn)分別疊加各范數(shù)組對應(yīng)的擾動矩陣，然后與各擾動矩陣對應(yīng)的掩膜矩陣相乘，得到各范數(shù)組對應(yīng)的擾動圖。

3.根據(jù)權(quán)利要求1所述的深度學(xué)習(xí)模型對抗樣本生成方法，其特征在于，所述S3的具體方法為：

將原始圖像及各范數(shù)組對應(yīng)的擾動圖均輸入目標(biāo)深度學(xué)習(xí)模型，得到原始圖像的原始類預(yù)測概率以及各范數(shù)組對應(yīng)的擾動圖的原始類預(yù)測概率，獲取各范數(shù)組對應(yīng)的擾動圖相對于原始圖像的原始類預(yù)測概率的下降值；

將所有范數(shù)組中，同一零范數(shù)的范數(shù)組對應(yīng)的擾動圖相對于原始圖像的原始類預(yù)測概率的下降值疊加，得到若干第一疊加值，選取若干第一疊加值中斜率變化最大的第一疊加值對應(yīng)的零范數(shù)為對抗零范數(shù)；

將所有范數(shù)組中，同一無窮范數(shù)的范數(shù)組對應(yīng)的擾動圖相對于原始圖像的原始類預(yù)測概率的下降值疊加，得到若干第二疊加值，選取若干第二疊加值中斜率變化最大的第二疊加值對應(yīng)的無窮范數(shù)為對抗無窮范數(shù)。

4.根據(jù)權(quán)利要求1所述的深度學(xué)習(xí)模型對抗樣本生成方法，其特征在于，所述S4中的進(jìn)化算法為：自適應(yīng)差分進(jìn)化策略或線性張成的協(xié)方差矩陣自適應(yīng)進(jìn)化策略。