[發明專利]一種基于博弈交互的對抗樣本檢測方法及系統有效

申請號：	202210352808.0	申請日：	2022-04-01
公開（公告）號：	CN114663730B	公開（公告）日：	2023-04-18
發明（設計）人：	劉小壘;胥迤瀟;胡騰;丁康一	申請（專利權）人：	中國工程物理研究院計算機應用研究所
主分類號：	G06V10/774	分類號：	G06V10/774;G06V10/764;G06V10/82;G06N3/094;G06N3/088;G06N3/045;G06N3/0442;G06N3/0464
代理公司：	成都正煜知識產權代理事務所(普通合伙) 51312	代理人：	徐金瓊
地址：	621054***	國省代碼：	四川;51
權利要求書：	查看更多	說明書：	查看更多
摘要：
搜索關鍵詞：	一種基于博弈交互對抗樣本檢測方法系統
鉆瓜網技術展會專利詞庫專利權人專利榜在售專利公布日期熱門專利

【說明書】：

本發明公開了一種基于博弈交互的對抗樣本檢測方法及系統，屬于對抗樣本識別技術領域，解決現有技術采用對抗訓練會降低深度學習模型在正常樣本數據集上的性能。本發明包括將圖像或視頻在空間域上劃分為N個區域；對N個區域依次進行編號，得到所有編號組成的集合φ，同時定義Θ為集合φ所有子集構成的超集；根據超集Θ計算超集Θ中每個元素對應的沙普利中間值，并基于所有沙普利中間值得到沙普利矩陣；基于沙普利矩陣中各沙普利中間值計算相鄰兩個區域的組合沙普利值，最終得到N?1個組合沙普利值；基于N?1個組合沙普利值計算沙普利均值，若沙普利值均值大于給定的邊界閾值，則判定圖像或視頻為對抗樣本，否則判斷為正常樣本。本發明用于對抗樣本檢測方法。

技術領域

一種基于博弈交互的對抗樣本檢測方法及系統，用于對抗樣本檢測方法，屬于對抗樣本識別技術領域。

背景技術

基于深度神經網絡的深度學習模型在多種應用場景得到了越來越廣泛的使用，與此同時深度模型的自身安全性風險也引發了持續關注。深度學習模型受到的一種主要威脅是對抗樣本攻擊，即攻擊者通過對輸入樣本進行微小的修改，使得修改后的樣本與原樣本在人類視覺上無法察覺差異，卻能使深度學習模型以較高的概率輸出錯誤的結果。因此提高深度學習模型對對抗樣本的魯棒性是進一步擴大深度學習模型應用范圍的保障。現有方法通常采用對抗訓練的方式提高深度學習模型對對抗樣本的魯棒性，然而這種方法通常對深度學習模型在正常樣本的性能上有較大的影響，同時不能檢測到攻擊的發生，不利于在實際應用環境中檢測對抗樣本攻擊并預警。

綜上所述，采用現有的對抗訓練進行對抗樣本檢測存在如下技術問題：

1.采用對抗訓練會降低深度學習模型在正常樣本數據集上的性能，如針對圖片分類模型，性能是指圖片分類的準確率，針對圖片生成模型，性能是指圖片生成的質量；

2.采用現有技術不能檢測到攻擊的發生，不利于在實際應用環境中檢測對抗樣本攻擊并預警。發明內容

針對上述研究的問題，本發明的目的在于提供一種基于博弈交互的對抗樣本檢測方法及系統，解決現有技術采用對抗訓練會降低深度學習模型在正常樣本數據集上的性能。

為了達到上述目的，本發明采用如下技術方案：

一種基于博弈交互的對抗樣本檢測方法，包括如下步驟：

步驟1、將圖像或視頻在空間域上劃分為N個區域；

步驟2、對N個區域依次進行編號，得到所有編號組成的集合φ，同時定義Θ為集合φ所有子集構成的超集；

步驟3、根據超集Θ計算超集Θ中每個元素對應的沙普利中間值，并基于所有沙普利中間值得到沙普利矩陣；

步驟4、基于沙普利矩陣中各沙普利中間值計算相鄰兩個區域的組合沙普利值，最終得到N-1個組合沙普利值；

步驟5、基于N-1個組合沙普利值計算沙普利均值，若沙普利值均值大于給定的邊界閾值，則判定圖像或視頻為對抗樣本，否則判斷為正常樣本。

進一步，所述步驟1的具體步驟為：將圖像或視頻在空間域上按照長和高進行劃分，其中，視頻的不同幀的相同位置屬于同一區域，其中，視頻在空間域上劃分，視頻中所有的視頻幀視為一個整體，且和圖像一樣具有長寬，而在時間域上，則視為一系列視頻幀。