[發(fā)明專利]基于EM的圖像分類深度神經(jīng)網(wǎng)絡(luò)模型魯棒性評(píng)估方法

在審

• 申請(qǐng)?zhí)枺?/td>: 202010798226.6
• 申請(qǐng)日: 2020-08-10
• 公開（公告）號(hào): CN111950626A
• 公開（公告）日: 2020-11-17
• 發(fā)明（設(shè)計(jì)）人: 易平;謝禹翀;喻佳天;曹于勤;王玉潔
• 申請(qǐng)（專利權(quán)）人: 上海交通大學(xué)
• 主分類號(hào): G06K9/62
• 分類號(hào): G06K9/62;G06N3/04;G06N3/08
• 代理公司: 上海交達(dá)專利事務(wù)所 31201
• 代理人: 王毓理;王錫麟

1.一種基于EM距離的圖像分類深度神經(jīng)網(wǎng)絡(luò)模型魯棒性評(píng)估方法，其特征在于，通過對(duì)普通樣本及其對(duì)應(yīng)生成的對(duì)抗樣本進(jìn)行逼近EM距離的方法實(shí)現(xiàn)EM距離計(jì)算，將結(jié)果作為魯棒性評(píng)估指標(biāo)以評(píng)價(jià)模型的安全性能；

所述的逼近EM距離的方法，通過插值生成神經(jīng)網(wǎng)絡(luò)逼近找到一個(gè)使得最大化的一個(gè)最優(yōu)的f(x)，該插值生成神經(jīng)網(wǎng)絡(luò)訓(xùn)練過程中需要滿足利普希茲常數(shù)的限制條件。

2.根據(jù)權(quán)利要求1所述的圖像分類深度神經(jīng)網(wǎng)絡(luò)模型魯棒性評(píng)估方法，其特征是，所述的神經(jīng)網(wǎng)絡(luò)逼近，是用攻擊算法構(gòu)造所需要的對(duì)抗樣本作為神經(jīng)網(wǎng)絡(luò)的輸入的一部分，然后使用梯度懲罰方法使得損失函數(shù)得輸出不會(huì)產(chǎn)生非常劇烈的變化，從而滿足利普希茲常數(shù)的約束。

3.根據(jù)權(quán)利要求2所述的圖像分類深度神經(jīng)網(wǎng)絡(luò)模型魯棒性評(píng)估方法，其特征是，所述的攻擊算法為梯度下降攻擊算法(PGD)以較好的體現(xiàn)樣本點(diǎn)附近的梯度特征信息。

4.根據(jù)權(quán)利要求1所述的圖像分類深度神經(jīng)網(wǎng)絡(luò)模型魯棒性評(píng)估方法，其特征是，所述的插值生成神經(jīng)網(wǎng)絡(luò)包括：卷積層和全連接層，其中：作為激勵(lì)層的Leaky Relu激活函數(shù)連接卷積層和全連接層。

5.根據(jù)權(quán)利要求1所述的圖像分類深度神經(jīng)網(wǎng)絡(luò)模型魯棒性評(píng)估方法，其特征是，所述的梯度懲罰方法，是在正常樣本和對(duì)抗樣本之間生成一批插值樣本，然后使用計(jì)算公式計(jì)算需要添加的梯度懲罰，然后將梯度懲罰添加到神經(jīng)網(wǎng)絡(luò)損失函數(shù)中。

6.根據(jù)權(quán)利要求1所述的圖像分類深度神經(jīng)網(wǎng)絡(luò)模型魯棒性評(píng)估方法，其特征是，所述的對(duì)抗樣本，通過多種對(duì)抗樣本生成方式生成后等比例混合得到，其生成方法包括迭代的快速梯度下降算法(iter-FGSM)、基于優(yōu)化的對(duì)抗樣本距離計(jì)算方法(CW)、迷惑深度學(xué)習(xí)方法(DeepFool)、基于雅各比矩陣的貪婪匹配算法(JSMA)。

7.根據(jù)權(quán)利要求4所述的圖像分類深度神經(jīng)網(wǎng)絡(luò)模型魯棒性評(píng)估方法，其特征是，所述的插值生成神經(jīng)網(wǎng)絡(luò)，包括：針對(duì)MNIST數(shù)據(jù)集構(gòu)造的插值生成神經(jīng)網(wǎng)絡(luò)和針對(duì)CIFAR10數(shù)據(jù)集構(gòu)造的插值生成神經(jīng)網(wǎng)絡(luò)，其中：

針對(duì)MNIST數(shù)據(jù)集構(gòu)造的插值生成神經(jīng)網(wǎng)絡(luò)包括：三個(gè)卷積層和一個(gè)全連接層，其中：作為激勵(lì)層的Leaky Relu激活函數(shù)連接卷積層和全連接層；該三個(gè)卷積層中：第一層卷積層輸入通道數(shù)為1，輸出通道數(shù)為64，卷積核大小為5，步長為2，邊緣填充像素為2，第二層卷積層輸入通道數(shù)為64，輸出通道數(shù)為128，卷積核大小為5，步長為2，邊緣填充像素為2，第三層卷積層輸入通道數(shù)為128，輸出通道數(shù)為256，卷積核大小為5，步長為2，邊緣填充像素為2；其全連接層的輸入樣本大小為4096，輸出樣本大小為1；

針對(duì)CIFAR10數(shù)據(jù)集構(gòu)造的插值生成神經(jīng)網(wǎng)絡(luò)，包括：三個(gè)卷積層和一個(gè)全連接層，其中：作為激勵(lì)層的Leaky Relu激活函數(shù)連接卷積層和全連接層；該三個(gè)卷積層中：第一層卷積層輸入通道數(shù)為3，輸出通道數(shù)為64，卷積核大小為3，步長為2，邊緣填充像素為1，第二層卷積層輸入通道數(shù)為64，輸出通道數(shù)為128，卷積核大小為3，步長為2，邊緣填充像素為1，第三層卷積層輸入通道數(shù)為128，輸出通道數(shù)為256，卷積核大小為3，步長為2，邊緣填充像素為1；其全連接層的輸入樣本大小為4096，輸出樣本大小為1；

所述的Leaky Relu激活函數(shù)在x0時(shí)斜率為0.2。