[發明專利]對抗樣本生成方法、裝置、設備以及介質

在審

• 申請號: 202211026433.5
• 申請日: 2022-08-25
• 公開（公告）號: CN116152625A
• 公開（公告）日: 2023-05-23
• 發明（設計）人: 劉彥宏;馮月;蔣寧;吳海英
• 申請（專利權）人: 馬上消費金融股份有限公司
• 主分類號: G06V10/82
• 分類號: G06V10/82;G06V10/774;G06N3/0464;G06V40/16
• 代理公司: 北京同立鈞成知識產權代理有限公司 11205
• 代理人: 張娜;劉芳

本申請提供一種對抗樣本生成方法、裝置、設備以及介質，涉及人工智能領域，該方法包括：獲取隱變量和目標變量，根據預設第一生成器和隱變量，生成第一圖像，根據預設第二生成器、隱變量和目標變量，生成第二圖像，根據第一圖像和第二圖像，生成初始的對抗樣本，將初始的對抗樣本與預設的待識別圖像進行疊加處理，生成訓練圖像；根據預設的樣本圖像、訓練圖像和預設的圖像識別模型，更新目標變量，基于更新的目標變量，對初始的對抗樣本進行更新，得到中間對抗樣本；轉至根據預設第二生成器、隱變量和目標變量的步驟，直至最終生成的中間對抗樣本滿足預設條件，并以此作為目標對抗樣本。該技術方案可提高對抗樣本的獲取效率。

技術領域

本申請涉及人工智能技術領域，尤其涉及一種對抗樣本生成方法、裝置、設備以及介質。

背景技術

對抗樣本是指干擾深度神經網絡模型的特定樣本圖像，對抗樣本容易造成深度神經網絡模型的誤識別。為此，為了能夠提高深度神經網絡模型的識別效果，避免產生誤識別，需要獲取大量對抗樣本對其進行訓練。

現有技術中，在獲取對抗樣本時，通常需要事先構建一個圖像數據集，并基于該圖像數據集訓練一個生成對抗網絡，然后基于訓練好的生成對抗網絡來獲取對抗樣本。

但是，現有技術的這種方式由于需要事先采集大量圖像數據，形成數據集，并且需要對生成對抗網絡進行精細化的調參，整個過程非常費時費力，獲取對抗樣本的效率很低。

發明內容

本申請提供一種對抗樣本生成方法、裝置、設備以及介質，用于解決現有對抗樣本獲取效率低的問題。

第一方面，本申請實施例提供一種對抗樣本生成方法，包括：

獲取隱變量和目標變量，所述隱變量用于生成第一圖像，所述目標變量用于在第一圖像中增添目標信息或消除第一圖像中的目標信息；

根據預設第一生成器和隱變量，生成第一圖像；

生成中間對抗樣本，包括：

根據預設第二生成器、所述隱變量和目標變量，生成第二圖像；

根據所述第一圖像和第二圖像，生成初始的對抗樣本；

將所述初始的對抗樣本與預設的待識別圖像進行疊加處理，生成訓練圖像；

根據預設的樣本圖像、所述訓練圖像和預設的圖像識別模型，更新所述目標變量；

基于更新的目標變量對所述第二圖像進行更新，得到更新后的第二圖像，基于更新后的第二圖像對所述初始的對抗樣本進行更新，得到中間對抗樣本，所述更新的目標變量為下一次用于生成第二圖像的目標變量；

重復執行所述生成中間對抗樣本的步驟，直至所述中間對抗樣本滿足預設條件，將滿足所述預設條件的中間對抗樣本作為目標對抗樣本。

在第一方面的一種可能設計中，獲取目標變量，包括：

獲取用于進行對抗的目標對抗物體的圖像信息；根據所述目標對抗物體的圖像信息，確定目標方向向量，所述目標方向向量用于在所述第一圖像中增添所述目標對抗物體的圖像信息或消除所述第一圖像中的所述目標對抗物體的圖像信息；根據所述目標方向向量與預設初始標量，計算得到所述目標變量。

在第一方面的另一種可能設計中，所述根據所述第一圖像和第二圖像，生成初始的對抗樣本，包括：

將所述第一圖像和所述第二圖像對比，確定所述第一圖像和所述第二圖像的差異區域；提取所述第一圖像或所述第二圖像中的所述差異區域，得到所述初始的對抗樣本。

在第一方面的再一種可能設計中，所述根據預設的樣本圖像、所述訓練圖像和預設的圖像識別模型，更新所述目標變量，包括：