[發(fā)明專(zhuān)利]一種對(duì)抗樣本的檢測(cè)方法及裝置

在審

• 申請(qǐng)?zhí)枺?/td>: 202010413738.6
• 申請(qǐng)日: 2020-05-15
• 公開(kāi)（公告）號(hào): CN111652290A
• 公開(kāi)（公告）日: 2020-09-11
• 發(fā)明（設(shè)計(jì)）人: 張泉;袁敏;馮慶磊;賈永香;郭旭陽(yáng);趙越;姜宇;顧明;孫家廣
• 申請(qǐng)（專(zhuān)利權(quán)）人: 深圳前海微眾銀行股份有限公司;清華大學(xué)
• 主分類(lèi)號(hào): G06K9/62
• 分類(lèi)號(hào): G06K9/62;G06N3/04;G06N3/08;G06Q40/02
• 代理公司: 北京同達(dá)信恒知識(shí)產(chǎn)權(quán)代理有限公司 11291
• 代理人: 彭燕

本發(fā)明公開(kāi)了一種對(duì)抗樣本的檢測(cè)方法及裝置，其中方法為：根據(jù)待測(cè)圖片的像素信息，按照預(yù)設(shè)格式，生成所述待測(cè)圖片的像素特征數(shù)據(jù)，作為待測(cè)樣本；將待測(cè)樣本輸入至特定樣本重構(gòu)模型，獲得所述待測(cè)樣本的重構(gòu)樣本；將所述待測(cè)樣本的重構(gòu)樣本輸入至所述特定預(yù)估模型，獲得所述待測(cè)樣本的重構(gòu)樣本的中間層輸出值；將所述待測(cè)樣本的重構(gòu)樣本的中間層輸出值輸入至特定分類(lèi)模型，確定所述待測(cè)樣本是否為對(duì)抗樣本。上述方法應(yīng)用于金融科技(Fintech)時(shí)，正常樣本和對(duì)抗樣本經(jīng)特定樣本重構(gòu)模型轉(zhuǎn)換后，正常樣本和對(duì)抗樣本的區(qū)分度會(huì)更大，確定所述待測(cè)樣本是否為對(duì)抗樣本的結(jié)果更加明顯，更準(zhǔn)確地發(fā)現(xiàn)所述待測(cè)樣本是否為對(duì)抗樣本。

技術(shù)領(lǐng)域

本發(fā)明涉及金融科技(Fintech)領(lǐng)域中的信息安全領(lǐng)域，尤其涉及一種對(duì)抗樣本的檢測(cè)方法及裝置。

背景技術(shù)

隨著計(jì)算機(jī)技術(shù)的發(fā)展，越來(lái)越多的技術(shù)應(yīng)用在金融領(lǐng)域，傳統(tǒng)金融業(yè)正在逐步向金融科技(Fintech)轉(zhuǎn)變，但由于金融行業(yè)的安全性、實(shí)時(shí)性要求，也對(duì)技術(shù)提出的更高的要求。金融機(jī)構(gòu)常遇到各種識(shí)別或預(yù)測(cè)的場(chǎng)景，這些場(chǎng)景一般依賴(lài)于深度神經(jīng)網(wǎng)絡(luò)。然而，深度神經(jīng)網(wǎng)絡(luò)在訓(xùn)練過(guò)程中可能因?yàn)閷?duì)抗樣本的攻擊導(dǎo)致預(yù)測(cè)或識(shí)別效果不佳。對(duì)抗樣本是給訓(xùn)練樣本加上人類(lèi)無(wú)法察覺(jué)的對(duì)抗擾動(dòng)生成的異常訓(xùn)練樣本，當(dāng)給訓(xùn)練樣本加上固定模式的擾動(dòng)(即后門(mén)攻擊)，并篡改為指定標(biāo)簽值后，如給一張圖片(一個(gè)訓(xùn)練樣本)每個(gè)像素點(diǎn)加上細(xì)微的噪聲，并篡改圖片對(duì)應(yīng)的標(biāo)簽值后，人類(lèi)的肉眼難以看出區(qū)別，但對(duì)于機(jī)器而言，卻差異巨大。那么這種對(duì)抗樣本積累多了之后，機(jī)器會(huì)將對(duì)抗樣本識(shí)別為指定標(biāo)簽值。由此可見(jiàn)，對(duì)抗樣本可以“蒙混過(guò)關(guān)”，這種漏洞對(duì)金融機(jī)構(gòu)而言是致命的。

因此，如何有效檢測(cè)出對(duì)抗樣本對(duì)于金融機(jī)構(gòu)的識(shí)別或預(yù)測(cè)有重要意義。目前常采用對(duì)抗樣本的檢測(cè)方法是基于數(shù)據(jù)集的檢測(cè)，這類(lèi)方法通常借助帶有對(duì)抗樣本的數(shù)據(jù)集進(jìn)行檢測(cè)，通過(guò)激活聚類(lèi)(Activation Clustering)檢測(cè)，在檢測(cè)過(guò)程中，模型預(yù)測(cè)每張圖片時(shí)收集模型內(nèi)部輸出層之前的全連接層激活值，根據(jù)收集到的激活值是否存在異常激活值來(lái)檢測(cè)是否存在對(duì)抗樣本。然而，由于對(duì)抗樣本能夠混淆模型的預(yù)測(cè)結(jié)果，同時(shí)也會(huì)造成在模型訓(xùn)練中對(duì)抗樣本區(qū)分度的下降，如對(duì)異常激活值的判斷，從而導(dǎo)致對(duì)抗樣本的檢測(cè)也不夠準(zhǔn)確。這是一個(gè)亟待解決的問(wèn)題。

發(fā)明內(nèi)容

本發(fā)明提供一種對(duì)抗樣本的檢測(cè)方法及裝置，解決了現(xiàn)有技術(shù)中對(duì)抗樣本的檢測(cè)也不夠準(zhǔn)確的問(wèn)題。

第一方面，本發(fā)明提供一種對(duì)抗樣本的檢測(cè)方法，包括：根據(jù)待測(cè)圖片的像素信息，按照預(yù)設(shè)格式，生成所述待測(cè)圖片的像素特征數(shù)據(jù)，作為待測(cè)樣本；將所述待測(cè)樣本輸入至特定樣本重構(gòu)模型，獲得所述待測(cè)樣本的重構(gòu)樣本；所述特定樣本重構(gòu)模型是根據(jù)特定預(yù)估模型和正常數(shù)據(jù)集訓(xùn)練得到的；所述正常數(shù)據(jù)集為正常樣本的數(shù)據(jù)集；所述特定預(yù)估模型用于預(yù)測(cè)樣本的標(biāo)簽值；所述特定預(yù)估模型是根據(jù)檢測(cè)數(shù)據(jù)集訓(xùn)練得到的；所述檢測(cè)數(shù)據(jù)集為正常樣本和對(duì)抗樣本的數(shù)據(jù)集；將所述待測(cè)樣本的重構(gòu)樣本輸入至所述特定預(yù)估模型，獲得所述待測(cè)樣本的重構(gòu)樣本的中間層輸出值；所述待測(cè)樣本的重構(gòu)樣本的中間層輸出值為所述待測(cè)樣本的重構(gòu)樣本輸入至所述特定預(yù)估模型后，所述特定預(yù)估模型的中間層計(jì)算得到的輸出值；將所述待測(cè)樣本的重構(gòu)樣本的中間層輸出值輸入至特定分類(lèi)模型，確定所述待測(cè)樣本是否為對(duì)抗樣本；所述特定分類(lèi)模型是根據(jù)中間層數(shù)據(jù)集訓(xùn)練得到的；所述中間層數(shù)據(jù)集是重構(gòu)數(shù)據(jù)集輸入至所述特定預(yù)估模型得到的中間層輸出值的數(shù)據(jù)集；所述重構(gòu)數(shù)據(jù)集是所述特定樣本重構(gòu)模型在訓(xùn)練過(guò)程中根據(jù)所述正常數(shù)據(jù)集得到的輸出數(shù)據(jù)集。