[發(fā)明專利]攻擊樣本的獲取方法、裝置、設(shè)備及介質(zhì)

在審

• 申請?zhí)枺?/td>: 202010610570.8
• 申請日: 2020-06-30
• 公開（公告）號: CN111783982A
• 公開（公告）日: 2020-10-16
• 發(fā)明（設(shè)計(jì)）人: 劉彥宏
• 申請（專利權(quán)）人: 平安國際智慧城市科技股份有限公司
• 主分類號: G06N3/08
• 分類號: G06N3/08;G06N3/04;G06K9/62
• 代理公司: 深圳市沃德知識產(chǎn)權(quán)代理事務(wù)所(普通合伙) 44347
• 代理人: 高杰;于志光

本發(fā)明涉及數(shù)據(jù)處理技術(shù)，揭露了一種攻擊樣本的獲取方法，包括：獲取分類模型及分類模型的訓(xùn)練數(shù)據(jù)及訓(xùn)練數(shù)據(jù)對應(yīng)的數(shù)據(jù)標(biāo)簽；利用攻擊算法生成與訓(xùn)練數(shù)據(jù)對應(yīng)的擾動數(shù)據(jù)；利用分類模型對擾動數(shù)據(jù)進(jìn)行預(yù)測，得到預(yù)測標(biāo)簽；當(dāng)預(yù)測標(biāo)簽與訓(xùn)練數(shù)據(jù)對應(yīng)的數(shù)據(jù)標(biāo)簽不一致時，確定擾動數(shù)據(jù)為初始攻擊樣本；利用梯度下降算法對初始攻擊樣本進(jìn)行預(yù)設(shè)次數(shù)的迭代計(jì)算，并且計(jì)算迭代產(chǎn)生的所有初始更新攻擊樣本與訓(xùn)練數(shù)據(jù)的距離值，獲取最小距離值對應(yīng)的初始更新攻擊樣本為標(biāo)準(zhǔn)攻擊樣本。此外，本發(fā)明還涉及區(qū)塊鏈技術(shù)，訓(xùn)練數(shù)據(jù)可存儲于區(qū)塊鏈節(jié)點(diǎn)中。本發(fā)明可以提高獲取到的攻擊數(shù)據(jù)的質(zhì)量。

技術(shù)領(lǐng)域

本發(fā)明涉及大數(shù)據(jù)處理技術(shù)領(lǐng)域，尤其涉及一種攻擊樣本的獲取方法、裝置、電子設(shè)備及計(jì)算機(jī)可讀存儲介質(zhì)。

背景技術(shù)

隨著深度神經(jīng)網(wǎng)絡(luò)的出現(xiàn)，智能識別技術(shù)得到了飛速的發(fā)展，然而，深度神經(jīng)網(wǎng)絡(luò)面臨抵抗攻擊的性能不高。例如，具有圖像分類功能的深度神經(jīng)網(wǎng)絡(luò)在圖像分類的過程中，圖像中微小像素的改變都會導(dǎo)致圖像分類結(jié)果的不同。

目前對于提高深度神經(jīng)網(wǎng)絡(luò)攻擊性的方法多為在深度神經(jīng)網(wǎng)絡(luò)訓(xùn)練的過程中加入攻擊數(shù)據(jù)，從而提高深度神經(jīng)網(wǎng)絡(luò)的魯棒性和準(zhǔn)確性。但若是攻擊數(shù)據(jù)的質(zhì)量不高，無法達(dá)到提高深度神經(jīng)網(wǎng)絡(luò)的魯棒性和準(zhǔn)確性的目的。因此，如何獲取高質(zhì)量的攻擊數(shù)據(jù)成為了亟待解決的問題。

發(fā)明內(nèi)容

本發(fā)明提供一種攻擊樣本的獲取方法、裝置、電子設(shè)備及計(jì)算機(jī)可讀存儲介質(zhì)，其主要目的在于提供一種提高獲取到的攻擊數(shù)據(jù)的質(zhì)量的方法。

為實(shí)現(xiàn)上述目的，本發(fā)明提供的一種攻擊樣本的獲取方法，包括：

獲取分類模型及獲取所述分類模型的訓(xùn)練數(shù)據(jù)及所述訓(xùn)練數(shù)據(jù)對應(yīng)的數(shù)據(jù)標(biāo)簽；

利用攻擊算法生成與所述訓(xùn)練數(shù)據(jù)對應(yīng)的擾動數(shù)據(jù)；

利用所述分類模型對所述擾動數(shù)據(jù)進(jìn)行預(yù)測，得到預(yù)測標(biāo)簽；

當(dāng)所述預(yù)測標(biāo)簽與所述訓(xùn)練數(shù)據(jù)對應(yīng)的數(shù)據(jù)標(biāo)簽不一致時，確定所述擾動數(shù)據(jù)為初始攻擊樣本；

利用梯度下降算法對所述初始攻擊樣本進(jìn)行預(yù)設(shè)次數(shù)的迭代計(jì)算，并且計(jì)算迭代產(chǎn)生的所有初始更新攻擊樣本與所述訓(xùn)練數(shù)據(jù)的距離值，獲取最小距離值對應(yīng)的初始更新攻擊樣本為標(biāo)準(zhǔn)攻擊樣本。

可選地，所述利用攻擊算法生成與所述訓(xùn)練數(shù)據(jù)對應(yīng)的擾動數(shù)據(jù)，包括：

利用攻擊算法對所述訓(xùn)練數(shù)據(jù)加入擾動因子，得到所述擾動數(shù)據(jù)。

可選地，所述訓(xùn)練數(shù)據(jù)為訓(xùn)練圖像，所述攻擊算法為：

Trans＝(δ_R+x_R)+(δ_G+x_G)+(δ_B+x_B)

其中，Trans為擾動數(shù)據(jù)，x_R、x_G、x_B為所述訓(xùn)練圖像中任一像素點(diǎn)的三分量，δ_R、δ_G、δ_B為擾動因子中任一像素點(diǎn)的三分量，所述擾動因子是與所述訓(xùn)練圖像大小相同的圖像。

可選地，所述利用梯度下降算法對所述初始攻擊樣本進(jìn)行預(yù)設(shè)次數(shù)的迭代計(jì)算，包括：

設(shè)置迭代參數(shù)，其中，所述迭代參數(shù)包括但不限于迭代次數(shù)，學(xué)習(xí)率，范數(shù)更新因子，擾動圖像的范數(shù)；

初始化迭代參數(shù)，將所述分類模型自帶的權(quán)重參數(shù)固定，對所述分類模型中的損失函數(shù)求梯度；

利用所述梯度對所述初始攻擊樣本進(jìn)行更新，得到多個初始更新攻擊樣本；

將所述多個初始攻擊樣本投影到預(yù)設(shè)半徑的范數(shù)球的球面上；