[發(fā)明專利]對抗樣本生成方法、抗攻擊檢測方法、裝置及電子設(shè)備

在審

• 申請?zhí)枺?/td>: 202310271058.9
• 申請日: 2023-03-16
• 公開（公告）號: CN116167912A
• 公開（公告）日: 2023-05-26
• 發(fā)明（設(shè)計）人: 崔愷旭;王洋;包沉浮;呂中厚;田偉娟;張華正;黃英仁;周光照;王國秋
• 申請（專利權(quán)）人: 北京百度網(wǎng)訊科技有限公司
• 主分類號: G06T3/00
• 分類號: G06T3/00;G06N3/094
• 代理公司: 北京銀龍知識產(chǎn)權(quán)代理有限公司 11243
• 代理人: 湯明明

1.一種對抗樣本生成方法，包括：

獲取初始化補丁，所述初始化補丁為用于對目標(biāo)圖像進行處理的補丁；

識別所述初始化補丁包括的像素點的像素均值；

根據(jù)所述像素均值對所述初始化補丁進行修正，得到對抗補丁；

將所述對抗補丁與所述目標(biāo)圖像合成，得到對抗樣本。

2.根據(jù)權(quán)利要求1所述的方法，其中，所述根據(jù)所述像素均值對所述初始化補丁進行修正，得到對抗補丁，包括：

識別所述初始化補丁包括的第一區(qū)域和第二區(qū)域，所述第二區(qū)域為所述初始化補丁中除所述第一區(qū)域外的區(qū)域；

將所述第一區(qū)域內(nèi)的像素點的像素值替換為預(yù)設(shè)像素值，并將所述第二區(qū)域內(nèi)的像素點的像素值替換為所述像素均值，得到所述對抗補丁，所述預(yù)設(shè)像素值與所述像素均值不同。

3.根據(jù)權(quán)利要求2所述的方法，其中，所述識別所述初始化補丁包括的第一區(qū)域和第二區(qū)域，包括：

隨機確定所述初始化補丁包括的第一區(qū)域；

根據(jù)所述第一區(qū)域確定所述第二區(qū)域。

4.根據(jù)權(quán)利要求1所述的方法，其中，所述根據(jù)所述像素均值對所述初始化補丁進行修正，得到對抗補丁，包括：

預(yù)測對所述初始化補丁進行修正的概率；

在對所述初始化補丁進行修正的概率大于預(yù)設(shè)概率的情況下，根據(jù)所述像素均值對所述初始化補丁進行修正，得到對抗補丁。

5.根據(jù)權(quán)利要求1所述的方法，其中，所述獲取初始化補丁，包括：

獲取第一補丁；

對所述第一補丁進行初始化處理，得到第二補丁；

對所述第二補丁的第一目標(biāo)區(qū)域的目標(biāo)參數(shù)進行調(diào)節(jié)，得到所述初始化補丁；

其中，所述目標(biāo)參數(shù)為顯示參數(shù)，且所述顯示參數(shù)包括如下參數(shù)中的至少一項：顯示尺寸、比例參數(shù)、亮度、對比度、噪音、位置、角度。

6.根據(jù)權(quán)利要求5所述的方法，其中，所述對所述第二補丁的第一目標(biāo)區(qū)域的目標(biāo)參數(shù)進行調(diào)節(jié)，得到所述初始化補丁，包括：

對所述第二補丁的第一目標(biāo)區(qū)域的目標(biāo)參數(shù)進行調(diào)節(jié)，得到第三補丁；

對所述第三補丁的第二目標(biāo)區(qū)域進行仿射變換，得到所述初始化補丁，所述仿射變換包括如下至少一項：縮放、旋轉(zhuǎn)、平移。

7.一種抗攻擊檢測方法，包括：

將對抗樣本輸入至待檢測模型中進行樣本識別，并輸出識別結(jié)果，所述識別結(jié)果用于表示所述對抗樣本的圖像分類，所述待檢測模型為用于對圖像進行分類的檢測模型；

根據(jù)所述識別結(jié)果和預(yù)先獲取的目標(biāo)圖像的預(yù)設(shè)分類信息，確定所述待檢測模型對所述對抗樣本的抗攻擊結(jié)果；

其中，所述對抗樣本為根據(jù)權(quán)利要求1至6中任一項方法生成的樣本。

8.一種對抗樣本生成裝置，包括：

獲取模塊，用于獲取初始化補丁，所述初始化補丁為用于對目標(biāo)圖像進行處理的補丁；

識別模塊，用于識別所述初始化補丁包括的像素點的像素均值；

修正模塊，用于根據(jù)所述像素均值對所述初始化補丁進行修正，得到對抗補丁；

合成模塊，用于將所述對抗補丁與所述目標(biāo)圖像合成，得到對抗樣本。

9.根據(jù)權(quán)利要求8所述的裝置，其中，所述修正模塊，包括：

識別子模塊，用于識別所述初始化補丁包括的第一區(qū)域和第二區(qū)域，所述第二區(qū)域為所述初始化補丁中除所述第一區(qū)域外的區(qū)域；

替換子模塊，用于將所述第一區(qū)域內(nèi)的像素點的像素值替換為預(yù)設(shè)像素值，并將所述第二區(qū)域內(nèi)的像素點的像素值替換為所述像素均值，得到所述對抗補丁，所述預(yù)設(shè)像素值與所述像素均值不同。

10.根據(jù)權(quán)利要求9所述的裝置，其中，所述識別子模塊，包括：

第一確定單元，用于隨機確定所述初始化補丁包括的第一區(qū)域；

第二確定單元，用于根據(jù)所述第一區(qū)域確定所述第二區(qū)域。