[發(fā)明專利]基于神經(jīng)元激活模式的深度學(xué)習(xí)樣本級對抗攻擊防御方法及其裝置

有效

• 申請?zhí)枺?/td>: 202110620693.4
• 申請日: 2021-06-03
• 公開（公告）號: CN113297572B
• 公開（公告）日: 2022-05-17
• 發(fā)明（設(shè)計(jì)）人: 陳晉音;金海波;鮑亮
• 申請（專利權(quán)）人: 浙江工業(yè)大學(xué);公安部第三研究所
• 主分類號: G06F21/55
• 分類號: G06F21/55;G06K9/62;G06N3/04;G06N3/08;G06V10/764;G06V10/82
• 代理公司: 杭州天勤知識產(chǎn)權(quán)代理有限公司 33224
• 代理人: 曹兆霞

1.一種基于神經(jīng)元激活模式的深度學(xué)習(xí)樣本級對抗攻擊防御方法，其特征在于，包括以下步驟：

構(gòu)建用于目標(biāo)識別的深度學(xué)習(xí)模型，深度學(xué)習(xí)模型包括卷積層、池化層以及分類層；

從深度學(xué)習(xí)模型的網(wǎng)絡(luò)層中提取特征圖構(gòu)建神經(jīng)元激活模式，神經(jīng)元激活模式和交叉熵函數(shù)組成損失函數(shù)；

利用正常圖像樣本對深度學(xué)習(xí)模型進(jìn)行訓(xùn)練時，采用構(gòu)建的損失函數(shù)優(yōu)化深度學(xué)習(xí)模型的參數(shù)；

根據(jù)損失函數(shù)的梯度得到像素增量作為防御對抗攻擊的擾動；

利用參數(shù)優(yōu)化的深度學(xué)習(xí)模型進(jìn)行目標(biāo)識別時，將待識別的圖像添加擾動后輸入至深度學(xué)習(xí)模型，經(jīng)計(jì)算得到目標(biāo)識別結(jié)果；

所述神經(jīng)元激活模式包括顯著神經(jīng)元激活模式SFP和非顯著神經(jīng)元激活模式TFP；

其中，顯著神經(jīng)元激活模式SFP表示為：

非顯著神經(jīng)元激活模式TFP表示為：

表示神經(jīng)元被用于分類到c類的重要性，其為反向傳播的梯度，表示為：

A^k表示深度學(xué)習(xí)模型的最后一層池化層的第k張激活的特征圖，y^c表示類標(biāo)為c的正常圖像樣本x對應(yīng)的輸入分類層的特征圖，i表示特征圖的寬度，j表示特征圖的長度，Z表示特征圖中的像素特征，Relu(·)表示激活函數(shù)，Index(·)表示取神經(jīng)元的序號，t表示選取尾部神經(jīng)元的個數(shù)，max_t(·)表示為激活值的排序從大到小。

2.如權(quán)利要求1所述的基于神經(jīng)元激活模式的深度學(xué)習(xí)樣本級對抗攻擊防御方法，其特征在于，構(gòu)建的損失函數(shù)loss為：

其中，H_i(y_i,y'_i)表示第i個正常圖像樣本的標(biāo)簽y_i與預(yù)測置信度y'_i的交叉熵函數(shù)，n表示正常圖像樣本個數(shù)，λ₁和λ₂表示平衡超參數(shù)。

3.如權(quán)利要求1所述的基于神經(jīng)元激活模式的深度學(xué)習(xí)樣本級對抗攻擊防御方法，其特征在于，將擾動添加到圖像之后，還需要對圖像的像素進(jìn)行約束處理。

4.如權(quán)利要求3所述的基于神經(jīng)元激活模式的深度學(xué)習(xí)樣本級對抗攻擊防御方法，其特征在于，約束處理過程為：

其中，x'表示添加有擾動的圖像，L(x')表示圖像x'的像素值，min(·)和max(·)分別表示取最小值和最大值。

5.如權(quán)利要求1所述的基于神經(jīng)元激活模式的深度學(xué)習(xí)樣本級對抗攻擊防御方法，其特征在于，還包括：基于正常圖像樣本構(gòu)建擾動圖像樣本，利用擾動圖像樣本評估參數(shù)優(yōu)化的深度學(xué)習(xí)模型的防御能力；

在構(gòu)建擾動圖像樣本時，采用FGSM攻擊、MI-FGSM攻擊、CW攻擊、DeepFool攻擊、JSMA攻擊以及UAP攻擊，攻擊正常圖像樣本得到擾動圖像樣本。

6.如權(quán)利要求5所述的基于神經(jīng)元激活模式的深度學(xué)習(xí)樣本級對抗攻擊防御方法，其特征在于，評估評估參數(shù)優(yōu)化的深度學(xué)習(xí)模型的防御能力時，采用以下三種指標(biāo)：

評估擾動圖像樣本的攻擊成功率ASR；

評估正常圖像樣本疊加擾動后，分類錯誤的假陽性率FPR；

評估擾動圖像樣本疊加擾動后，分類正確的防御成功率DSR。

7.一種基于神經(jīng)元激活模式的深度學(xué)習(xí)樣本級對抗攻擊防御裝置，包括存儲器、處理器以及存儲在存儲器中并可在處理器上執(zhí)行的計(jì)算機(jī)程序，其特征在于，所述處理器執(zhí)行計(jì)算機(jī)程序時實(shí)現(xiàn)權(quán)利要求1～6任一項(xiàng)所述的基于神經(jīng)元激活模式的深度學(xué)習(xí)樣本級對抗攻擊防御方法。