[發(fā)明專(zhuān)利]面向特征嵌入中毒攻擊的檢測(cè)方法、裝置和系統(tǒng)

有效

• 申請(qǐng)?zhí)枺?/td>: 202110184570.0
• 申請(qǐng)日: 2021-02-08
• 公開(kāi)（公告）號(hào): CN113032776B
• 公開(kāi)（公告）日: 2022-08-05
• 發(fā)明（設(shè)計(jì)）人: 陳晉音;鄒健飛;熊暉
• 申請(qǐng)（專(zhuān)利權(quán)）人: 浙江工業(yè)大學(xué)
• 主分類(lèi)號(hào): G06F21/55
• 分類(lèi)號(hào): G06F21/55;G06K9/62;G06N3/04;G06N3/08
• 代理公司: 杭州天勤知識(shí)產(chǎn)權(quán)代理有限公司 33224
• 代理人: 曹兆霞

1.一種面向特征嵌入中毒攻擊的檢測(cè)方法，其特征在于，包括以下步驟：

(1)獲取數(shù)據(jù)集以及待檢測(cè)模型，構(gòu)建與待檢測(cè)模型結(jié)構(gòu)相同的良性模型，并利用數(shù)據(jù)優(yōu)化良性模型的參數(shù)；

(2)將數(shù)據(jù)集中的測(cè)試樣本分別輸入至參數(shù)優(yōu)化的良性模型和待檢測(cè)模型，獲得每個(gè)網(wǎng)絡(luò)層輸出的特征圖，并計(jì)算用于提取明顯特征位置的模板與每個(gè)特征圖之間的互信息，獲取測(cè)試樣本分別在良性模型和待檢測(cè)模型中每個(gè)網(wǎng)絡(luò)層的互信息；

(3)統(tǒng)計(jì)所有測(cè)試樣本分別在良性模型和待檢測(cè)模型中每個(gè)網(wǎng)絡(luò)層的互信息，針對(duì)某一網(wǎng)絡(luò)層，當(dāng)超過(guò)個(gè)數(shù)閾值的測(cè)試樣本在良性模型中該網(wǎng)絡(luò)層的互信息與在待檢測(cè)模型中該網(wǎng)絡(luò)層的互信息之差均大于差距閾值時(shí)，則認(rèn)為待檢測(cè)模型被攻擊，且對(duì)應(yīng)的網(wǎng)絡(luò)層為特征嵌入中毒攻擊層；

在計(jì)算互信息時(shí)，針對(duì)每個(gè)尺寸為H*W的特征圖，均會(huì)存在H*W+1個(gè)模板每個(gè)模板通過(guò)遍歷操作找到特征圖中特征明顯的位置；

互信息的計(jì)算公式為：

其中，表示模板T與特征圖集合X的互信息，p(T)表示模板T的先驗(yàn)概率，即μ＝1,2,…,W*H，α為一個(gè)恒定的先驗(yàn)似然，α＝(H*W)/(1+H*W)，p(T^-)＝1-α，p(x|T)表示條件似然概率，用于測(cè)量特征圖x和模板T之間的適應(yīng)度，表示為：

其中，Z_T＝∑_x∈Xexp[tr(x·T)]，x·T表示x和T之間的乘法，tr(·)表示矩陣跡，tr(x·T)＝∑_ijx_ijt_ij，i∈(1,...,H),j∈(1,...,W)，p(x)＝∑_Tp(T)p(x|T)；

對(duì)于模板T∈{T^-，T₁,...,T_H*W}，負(fù)模板其中τ是正常數(shù)，τ＝0.5/H*W，對(duì)應(yīng)于序號(hào)為μ的正模板被給出為|| ||₁表示L1范數(shù)距離，β是一個(gè)常數(shù)參數(shù)。

2.根據(jù)權(quán)利要求1所述的面向特征嵌入中毒攻擊的檢測(cè)方法，其特征在于，還包括在確定待檢測(cè)模型被攻擊中毒后，依據(jù)測(cè)試樣本在模型中的特征通道確定模型的中毒目標(biāo)類(lèi)，并生成中毒樣本。

3.根據(jù)權(quán)利要求2所述的面向特征嵌入中毒攻擊的檢測(cè)方法，其特征在于，確定模型的中毒目標(biāo)類(lèi)和生成中毒樣本的過(guò)程為：

將測(cè)試樣本輸入至待檢測(cè)模型中，計(jì)算每一類(lèi)別測(cè)試樣本在模型中的特征通道，并在測(cè)試樣本中添加擾動(dòng)，以使測(cè)試樣本激活非所屬類(lèi)別的所有其他類(lèi)別的特征通路，并最終預(yù)測(cè)為所有其他類(lèi)別，生成候選中毒樣本；

依據(jù)候選中毒樣本和測(cè)試樣本確定添加擾動(dòng)形成的擾動(dòng)圖；

統(tǒng)計(jì)所有擾動(dòng)圖，當(dāng)每個(gè)測(cè)試樣本對(duì)應(yīng)的最小擾動(dòng)圖屬于同一類(lèi)別的個(gè)數(shù)大于設(shè)定閾值時(shí)，將該類(lèi)別作為模型的中毒目標(biāo)類(lèi)，最小擾動(dòng)圖對(duì)應(yīng)的候選中毒樣本為最終中毒樣本。

4.根據(jù)權(quán)利要求3所述的面向特征嵌入中毒攻擊的檢測(cè)方法，其特征在于，依據(jù)擾動(dòng)圖確定中毒目標(biāo)類(lèi)時(shí)，當(dāng)每個(gè)測(cè)試樣本對(duì)應(yīng)的最小擾動(dòng)圖均為同一類(lèi)別時(shí)，將該類(lèi)別作為模型的中毒目標(biāo)類(lèi)，最小擾動(dòng)圖對(duì)應(yīng)的候選中毒樣本為最終中毒樣本。

5.根據(jù)權(quán)利要求3所述的面向特征嵌入中毒攻擊的檢測(cè)方法，其特征在于，在構(gòu)建每一類(lèi)別測(cè)試樣本在模型中的特征通道時(shí)，對(duì)每一類(lèi)別的所有測(cè)試樣本在待檢測(cè)模型中的特征通道求交集得到每一類(lèi)別測(cè)試樣本在模型中的特征通道fp_i∈[1,n]，即：

針對(duì)每個(gè)類(lèi)別具有m張測(cè)試樣本，表示屬于第i類(lèi)別的第1個(gè)測(cè)試樣本的神經(jīng)通路，n為類(lèi)別總個(gè)數(shù)。