[發明專利]一種面向目標分類系統的通用目標攻擊方法及裝置

有效

• 申請號: 202110232607.2
• 申請日: 2021-03-02
• 公開（公告）號: CN112836764B
• 公開（公告）日: 2023-07-28
• 發明（設計）人: 高成英;吳星
• 申請（專利權）人: 中山大學
• 主分類號: G06V10/774
• 分類號: G06V10/774;G06V10/764;G06F17/16;G06V10/82;G06N3/0464;G06N3/084
• 代理公司: 廣州三環專利商標代理有限公司 44202
• 代理人: 郭浩輝;顏希文

1.一種面向目標分類系統的通用目標攻擊方法，其特征在于，包括步驟：

S1、對隨機生成的噪音矩陣進行初始化，得到初始噪音矩陣；

S2、將所述初始噪音矩陣疊加至自然圖像，得到偽裝圖像，并通過標簽誤導方法和特征誤導方法誤導所述目標分類系統，得到誤導后的目標分類系統，以獲取所述誤導后的目標分類系統對所述偽裝圖像的分類結果；所述標簽誤導方法的優化公式為：

其中，I為可視化圖像；C為目標分類系統，C(t*)為目標分類系統對自然圖像t*的分類結果，C((t+z)*)為目標分類網絡對偽裝圖像I^t＝(t+z)*的分類結果；

所述特征誤導方法的公式如下：

其中，I為可視化圖像；f為目標分類系統的卷積層，f((t+z)*)為目標分類系統對偽裝圖像I^t＝(t+z)*的特征提取結果，f(I)為目標分類系統對可視化圖像I的特征提取結果；

S3、對所述初始噪音矩陣進行更新得到更新噪音矩陣，并將所述初始噪音矩陣更新為所述更新噪音矩陣；

S4、迭代執行步驟S2～S3直至滿足預設停止條件，獲取當前所述初始噪音矩陣和/或當前所述偽裝圖像。

2.如權利要求1所述的面向目標分類系統的通用目標攻擊方法，其特征在于，所述步驟S1，還包括：

獲取目標類別的可視化圖像。

3.如權利要求2所述的面向目標分類系統的通用目標攻擊方法，其特征在于，所述通過標簽誤導方法和特征誤導方法誤導所述目標分類系統，得到誤導后的目標分類系統，具體為：

通過標簽誤導方法使所述目標分類系統將所述偽裝圖像分類為所述目標類別的概率達到最大概率，并通過特征誤導方法使所述目標分類系統所提取的所述偽裝圖像的特征與所述可視化圖像的特征的相似度達到最大相似度，得到所述誤導后的目標分類系統。

4.如權利要求1所述的面向目標分類系統的通用目標攻擊方法，其特征在于，所述對所述初始噪音矩陣進行更新得到更新噪音矩陣，具體為：

通過梯度下降方法更新所述初始噪音矩陣，得到中間噪音矩陣，并通過語義約束方法約束所述中間噪音矩陣的取值范圍，得到所述更新噪音矩陣。

5.如權利要求1所述的面向目標分類系統的通用目標攻擊方法，其特征在于，所述迭代執行步驟S2～S3直至滿足預設停止條件，獲取當前所述初始噪音矩陣和/或當前所述偽裝圖像，具體包括：

在當前迭代執行次數等于第一預設閾值時，統計當前所有所述分類結果得到第一攻擊成功率，并在當前迭代執行次數等于第二預設閾值時，統計當前所有所述分類結果得到第二攻擊成功率；其中，所述第二預設閾值大于所述第一預設閾值；

比較所述第一攻擊成功率和所述第二攻擊成功率，在所述第二攻擊成功率小于所述第一攻擊成功率時判定滿足所述預設停止條件，停止迭代執行步驟S2～S3，并獲取當前所述初始噪音矩陣和/或當前所述偽裝圖像。