[發明專利]對抗樣本的生成、模型訓練、圖像識別方法和裝置

有效

• 申請號: 202210503749.2
• 申請日: 2022-05-10
• 公開（公告）號: CN114818958B
• 公開（公告）日: 2023-07-18
• 發明（設計）人: 劉彥宏;曾定衡;王洪斌;吳海英
• 申請（專利權）人: 馬上消費金融股份有限公司
• 主分類號: G06V10/774
• 分類號: G06V10/774;G06V10/764
• 代理公司: 北京國昊天誠知識產權代理有限公司 11315
• 代理人: 許振新

1.一種對抗樣本的生成方法，其特征在于，包括：

獲取第一圖像和第二圖像，所述第一圖像為待攻擊的原始圖像，所述第二圖像為所述第一圖像對應的誤識別圖像；

迭代攻擊生成中間對抗樣本，具體步驟包括：

對所述第一圖像的部分區域進行屏蔽處理，得到屏蔽圖像，每次迭代攻擊時屏蔽處理的對應部分區域不同；

基于所述屏蔽圖像和所述第二圖像生成中間對抗樣本，所述中間對抗樣本為下一次迭代攻擊的第一圖像；

重復執行迭代攻擊生成中間對抗樣本的步驟，直至所述迭代攻擊的次數滿足預設次數，將最后一次生成的所述中間對抗樣本確定為目標對抗樣本。

2.如權利要求1所述的方法，其特征在于，所述對所述第一圖像的部分區域進行屏蔽處理，得到屏蔽圖像，包括：

獲取屏蔽網格，所述屏蔽網格中包括多個網格單元；

在每個所述網格單元中選取矩形區域，并將選取的所述矩形區域的像素值置0，以及將所述網格單元中除所述矩形區域以外的其他區域的像素值置1，得到所述屏蔽網格對應的掩碼圖像；

基于所述掩碼圖像對所述第一圖像進行掩碼處理，得到所述屏蔽圖像；

其中，在每個所述網格單元中選取的所述矩形區域的面積小于所述網格單元的面積，每次迭代攻擊時，在所述網格單元中選取的所述矩形區域的位置和/或大小不同。

3.如權利要求1所述的方法，其特征在于，所述基于所述屏蔽圖像和所述第二圖像生成中間對抗樣本，包括：

基于待攻擊模型對所述屏蔽圖像進行特征提取得到第一特征，以及基于所述待攻擊模型對所述第二圖像進行特征提取得到第二特征；

基于所述第一特征、所述第二特征以及上次迭代攻擊時生成的中間對抗樣本，生成當前次迭代攻擊的中間對抗樣本。

4.如權利要求3所述的方法，其特征在于，所述基于所述第一特征、所述第二特征以及上次迭代攻擊時生成的中間對抗樣本，生成當前次迭代攻擊的中間對抗樣本，包括：

根據所述第一特征和所述第二特征的損失函數，確定所述上次迭代攻擊時生成的中間對抗樣本的梯度；

基于所述梯度和所述上次迭代攻擊時生成的中間對抗樣本，生成所述當前次迭代攻擊的中間對抗樣本。

5.如權利要求1所述的方法，其特征在于，

所述第一圖像和所述第二圖像為人臉圖像，所述第一圖像中包含的人臉與所述第二圖像中包含的人臉對象不同。

6.一種模型訓練方法，其特征在于，包括：

獲取樣本圖像，所述樣本圖像中包括目標對抗樣本，所述目標對抗樣本是基于權利要求1至5中任一項所述的對抗樣本的生成方法得到的；

將所述樣本圖像輸入初始圖像識別模型進行模型訓練，得到圖像識別模型。

7.一種圖像識別方法，其特征在于，包括：

獲取待識別圖像；

將所述待識別圖像輸入圖像識別模型進行識別，得到識別結果，所述圖像識別模型是基于權利要求6所述的模型訓練方法訓練得到的。

8.一種對抗樣本的生成裝置，其特征在于，包括：

獲取模塊，用于獲取第一圖像和第二圖像，所述第一圖像為待攻擊的原始圖像，所述第二圖像為所述第一圖像對應的誤識別圖像；

對抗樣本生成模塊，用于迭代攻擊生成中間對抗樣本，具體包括：

用于對所述第一圖像的部分區域進行屏蔽處理，得到屏蔽圖像，每次迭代攻擊時屏蔽處理的對應部分區域不同；

用于基于所述屏蔽圖像和所述第二圖像生成中間對抗樣本，所述中間對抗樣本為下一次迭代攻擊的第一圖像；

所述對抗樣本生成模塊，用于重復執行迭代攻擊生成中間對抗樣本，直至所述迭代攻擊的次數滿足預設次數，將最后一次生成的所述中間對抗樣本確定為目標對抗樣本。