[發(fā)明專利]對抗攻擊的方法、裝置、可讀介質(zhì)和電子設(shè)備

有效

• 申請?zhí)枺?/td>: 202011345853.0
• 申請日: 2020-11-25
• 公開（公告）號: CN112487931B
• 公開（公告）日: 2022-08-02
• 發(fā)明（設(shè)計）人: 郭怡文;李奇璋;陳浩
• 申請（專利權(quán)）人: 北京有竹居網(wǎng)絡(luò)技術(shù)有限公司
• 主分類號: G06V40/16
• 分類號: G06V40/16;G06V10/774;G06V10/82;G06K9/62;G06N3/04;G06N3/08
• 代理公司: 北京英創(chuàng)嘉友知識產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11447
• 代理人: 張巖龍

1.一種對抗攻擊的方法，其特征在于，所述方法包括：

將屬于第一類別的第一樣本圖像作為編碼前圖像；

將所述編碼前圖像輸入自編碼模型，以根據(jù)所述自編碼模型輸出的編碼后圖像和第一模板圖像，確定對抗圖像，所述自編碼模型為預(yù)先根據(jù)預(yù)設(shè)的訓(xùn)練集訓(xùn)練得到的，且與待攻擊模型不相關(guān)的模型，所述訓(xùn)練集中包括所述第一樣本圖像、至少一個屬于所述第一類別的第二樣本圖像，和多個屬于第二類別的第三樣本圖像，所述第二類別和所述第一類別不相同，所述第一模板圖像為所述訓(xùn)練集中指定的，屬于所述第一類別的圖像；

將所述對抗圖像輸入所述待攻擊模型，以使所述待攻擊模型將所述對抗圖像識別為第三類別，所述第三類別與所述第一類別不相同；

所述將所述編碼前圖像輸入自編碼模型，以根據(jù)所述自編碼模型輸出的編碼后圖像和第一模板圖像，確定對抗圖像，包括：

將所述編碼前圖像輸入所述自編碼模型，以得到所述自編碼模型輸出的所述編碼后圖像；

根據(jù)所述自編碼模型的對抗損失，確定第一更新向量，所述對抗損失根據(jù)所述編碼后圖像與所述第一模板圖像的差確定；

根據(jù)所述第一更新向量更新所述編碼前圖像；

重復(fù)執(zhí)行所述將所述編碼前圖像輸入預(yù)先訓(xùn)練的自編碼模型，至所述根據(jù)所述第一更新向量更新所述編碼前圖像的步驟，直至所述對抗損失滿足第一預(yù)設(shè)條件，將所述編碼前圖像作為對抗圖像，所述第一預(yù)設(shè)條件為所述對抗損失大于預(yù)設(shè)的對抗損失閾值。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述根據(jù)所述自編碼模型的對抗損失，確定第一更新向量，包括：

根據(jù)所述編碼后圖像與所述第一模板圖像的差，和所述編碼后圖像與第二模板圖像的差，確定所述對抗損失，所述第二模板圖像為所述訓(xùn)練集中指定的，屬于所述第二類別的圖像；

以增大所述對抗損失為目標(biāo)，利用反向傳播算法確定所述第一更新向量。

3.根據(jù)權(quán)利要求1所述的方法，其特征在于，在所述將所述對抗圖像輸入所述待攻擊模型之前，所述方法還包括：

將所述對抗圖像輸入所述自編碼模型，以得到所述自編碼模型中的指定層輸出的中間圖像，所述指定層不為所述自編碼模型中的輸入層和輸出層；

根據(jù)所述自編碼模型的擾動損失，確定第二更新向量，所述擾動損失根據(jù)所述中間圖像與所述第一樣本圖像確定；

根據(jù)所述第二更新向量更新所述對抗圖像；

重復(fù)執(zhí)行所述將所述對抗圖像輸入所述自編碼模型，至所述根據(jù)所述第二更新向量更新所述對抗圖像的步驟，直至所述擾動損失滿足第二預(yù)設(shè)條件。

4.根據(jù)權(quán)利要求3所述的方法，其特征在于，所述根據(jù)所述自編碼模型的擾動損失，確定第二更新向量包括：

根據(jù)所述對抗圖像與所述第一樣本圖像，和所述中間圖像與所述第一樣本圖像，確定所述擾動損失；

以增大所述擾動損失為目標(biāo)，利用反向傳播算法確定所述第二更新向量。

5.根據(jù)權(quán)利要求1-4中任一項所述的方法，其特征在于，所述自編碼模型是通過以下步驟訓(xùn)練得到的：

獲取所述訓(xùn)練集和模板圖像集，所述模板圖像集中包括所述第一模板圖像和第二模板圖像，所述第二模板圖像為所述訓(xùn)練集中指定的，屬于所述第二類別的圖像；

將所述訓(xùn)練集作為所述自編碼模型的輸入，將所述模板圖像集作為所述自編碼模型的輸出，訓(xùn)練所述自編碼模型，以使所述自編碼模型的編碼損失滿足第三預(yù)設(shè)條件。

6.根據(jù)權(quán)利要求5所述的方法，其特征在于，所述將所述訓(xùn)練集作為所述自編碼模型的輸入，將所述模板圖像集作為所述自編碼模型的輸出，訓(xùn)練所述自編碼模型，包括：

若將所述第一樣本圖像或所述第二樣本圖像輸入所述自編碼模型，根據(jù)所述自編碼模型的輸出與所述第一模板圖像的差，確定所述編碼損失；

若將所述第三樣本圖像輸入所述自編碼模型，根據(jù)所述自編碼模型的輸出與所述第二模板圖像的差，確定所述編碼損失；

以減小所述編碼損失為目標(biāo)，利用反向傳播算法訓(xùn)練所述自編碼模型。