[發明專利]面向圖像分類系統攻擊的對抗樣本檢測方法

有效

• 申請號: 202110592135.1
• 申請日: 2021-05-28
• 公開（公告）號: CN113222056B
• 公開（公告）日: 2022-11-08
• 發明（設計）人: 羅森林;于浩淼;潘麗敏;李玉
• 申請（專利權）人: 北京理工大學
• 主分類號: G06V10/762
• 分類號: G06V10/762;G06V10/764;G06V10/774;G06V10/82;G06N3/04;G06N3/08;G06T5/00
• 代理公司: 暫無信息
• 代理人: 暫無信息

1.基于深度神經網絡隱藏層代表性特征最近鄰搜索的圖像分類系統對抗樣本檢測方法，其特征在于所述方法包括如下步驟：

步驟1，將訓練集輸入到被攻擊系統中，按順序組合系統所有隱藏層神經元的輸出，構建深度神經網絡隱藏層特征：假定系統是一個N層的深度神經網絡模型，將每個隱藏層的s_p(2≤p≤N-1)個神經元的輸出y_pq(1≤q≤s_p)順序組合得到訓練樣本特征

步驟2，使用所有訓練樣本的深度神經網絡隱藏層特征及其標簽構建隱藏層特征池；

步驟3，首先按標簽分類隱藏層特征池中的特征，然后使用K-means算法對每類的特征進行聚類，通過余弦相似度計算特征向量之間的距離，得到的每個簇的中心即為該類的代表性特征；

步驟4，使用每個類別的代表性特征及其標簽構建代表性特征池；

步驟5，使用3*3的滑動窗口對測試樣本進行中值濾波以去除圖像噪聲；

步驟6，將去除噪聲后的測試樣本，輸入到被攻擊系統中，按照與步驟1同樣的方式，將所有隱藏層神經元的輸出按順序組合，構建特征；

步驟7，使用K近鄰算法，計算測試樣本特征在代表性特征池中最近的K個特征，將這K個特征所對應的標簽中出現頻率最高的作為測試樣本的標簽1；

步驟8，將原始的測試樣本輸入到被攻擊系統中，得到系統的輸出為標簽2；

步驟9，如果標簽1等于標簽2，則判斷為良性樣本，如果不等，則判斷為對抗樣本。