[發明專利]對抗攻擊的方法、裝置、可讀介質和電子設備

有效

• 申請號: 202011340315.2
• 申請日: 2020-11-25
• 公開（公告）號: CN112488172B
• 公開（公告）日: 2022-06-21
• 發明（設計）人: 郭怡文;李奇璋;陳浩
• 申請（專利權）人: 北京有竹居網絡技術有限公司
• 主分類號: G06V10/774
• 分類號: G06V10/774;G06V10/82;G06K9/62;G06N3/08
• 代理公司: 北京英創嘉友知識產權代理事務所(普通合伙) 11447
• 代理人: 張巖龍

1.一種對抗攻擊的方法，其特征在于，所述方法包括：

將屬于第一類別的第一樣本圖像作為編碼前圖像；

將所述編碼前圖像輸入自編碼模型，以根據所述自編碼模型輸出的編碼后圖像和所述第一樣本圖像，確定對抗圖像，所述自編碼模型為預先根據預設的訓練集訓練得到的，且與待攻擊模型不相關的模型，所述訓練集中包括所述第一樣本圖像；

將所述對抗圖像輸入所述待攻擊模型，以使所述待攻擊模型將所述對抗圖像識別為第二類別，所述第二類別與所述第一類別不相同；

所述將所述編碼前圖像輸入自編碼模型，以根據所述自編碼模型輸出的編碼后圖像和所述第一樣本圖像，確定對抗圖像，包括：

將所述編碼前圖像輸入所述自編碼模型，以得到所述自編碼模型輸出的所述編碼后圖像；

根據所述自編碼模型的對抗損失，確定第一更新向量，所述對抗損失根據所述編碼后圖像與所述第一樣本圖像的差確定；

根據所述第一更新向量更新所述編碼前圖像；

重復執行所述將所述編碼前圖像輸入預先訓練的自編碼模型，至所述根據所述第一更新向量更新所述編碼前圖像的步驟，直至所述對抗損失滿足第一預設條件，將所述編碼前圖像作為對抗圖像。

2.根據權利要求1所述的方法，其特征在于，所述根據所述自編碼模型的對抗損失，確定第一更新向量，包括：

根據所述編碼后圖像與所述第一樣本圖像的差，和所述編碼后圖像與每個第二樣本圖像的差，確定所述對抗損失，所述第二樣本圖像為所述訓練集中除所述第一樣本圖像之外的樣本圖像；

以增大所述對抗損失為目標，利用反向傳播算法確定所述第一更新向量。

3.根據權利要求1所述的方法，其特征在于，在所述將所述對抗圖像輸入所述待攻擊模型之前，所述方法還包括：

將所述對抗圖像輸入所述自編碼模型，以得到所述自編碼模型中的指定層輸出的中間圖像，所述指定層不為所述自編碼模型中的輸入層和輸出層；

根據所述自編碼模型的擾動損失，確定第二更新向量，所述擾動損失根據所述中間圖像與所述第一樣本圖像確定；

根據所述第二更新向量更新所述對抗圖像；

重復執行所述將所述對抗圖像輸入所述自編碼模型，至所述根據所述第二更新向量更新所述對抗圖像的步驟，直至所述擾動損失滿足第二預設條件。

4.根據權利要求3所述的方法，其特征在于，所述根據所述自編碼模型的擾動損失，確定第二更新向量包括：

根據所述對抗圖像與所述第一樣本圖像，和所述中間圖像與所述第一樣本圖像，確定所述擾動損失；

以增大所述擾動損失為目標，利用反向傳播算法確定所述第二更新向量。

5.根據權利要求1-4中任一項所述的方法，其特征在于，所述自編碼模型是通過以下步驟訓練得到的：

獲取所述訓練集，所述訓練集包括第一樣本圖像和預設數量個第二樣本圖像；

將所述訓練集作為所述自編碼模型的輸入，將所述訓練集作為所述自編碼模型的輸出，訓練所述自編碼模型，以使所述自編碼模型的編碼損失滿足第三預設條件。

6.根據權利要求5所述的方法，其特征在于，所述預設數量個所述第二樣本中，存在至少一個所述第二樣本圖像屬于所述第一類別，且存在至少一個所述第二樣本圖像屬于第三類別，所述第三類別與所述第一類別不相同。

7.根據權利要求5所述的方法，其特征在于，所述將所述訓練集作為所述自編碼模型的輸入，將所述訓練集作為所述自編碼模型的輸出，訓練所述自編碼模型，包括：

按照預設規則調整第三樣本圖像中的像素的位置，以得到預處理圖像，所述第三樣本圖像為所述第一樣本圖像或所述第二樣本圖像；

將所述預處理圖像輸入所述自編碼模型；

根據所述自編碼模型的輸出與所述第三樣本圖像的差，確定所述編碼損失；

以減小所述編碼損失為目標，利用反向傳播算法訓練所述自編碼模型。