[發明專利]對抗樣本生成方法、抗攻擊檢測方法、裝置及電子設備

在審

• 申請號: 202310271058.9
• 申請日: 2023-03-16
• 公開（公告）號: CN116167912A
• 公開（公告）日: 2023-05-26
• 發明（設計）人: 崔愷旭;王洋;包沉浮;呂中厚;田偉娟;張華正;黃英仁;周光照;王國秋
• 申請（專利權）人: 北京百度網訊科技有限公司
• 主分類號: G06T3/00
• 分類號: G06T3/00;G06N3/094
• 代理公司: 北京銀龍知識產權代理有限公司 11243
• 代理人: 湯明明

本公開提供了一種對抗樣本生成方法、抗攻擊檢測方法、裝置及電子設備，涉及人工智能技術領域，尤其涉及人工智能中的深度學習、云計算、計算機視覺和自動駕駛技術領域，對抗樣本生成方法，包括：獲取初始化補丁，所述初始化補丁為用于對目標圖像進行處理的補丁；識別所述初始化補丁包括的像素點的像素均值；根據所述像素均值對所述初始化補丁進行修正，得到對抗補丁；將所述對抗補丁與所述目標圖像合成，得到對抗樣本。

技術領域

本公開涉及人工智能技術領域，尤其涉及人工智能中的深度學習、云計算、計算機視覺和自動駕駛技術領域，具體涉及一種對抗樣本生成方法、抗攻擊檢測方法、裝置及電子設備。

背景技術

隨著深度學習模型的不斷發展，深度學習模型在許多領域被廣泛的應用并取得了出色的性能，與此同時深度學習模型的安全性和健壯性問題也引起了人們的關注。當前可以采用對抗樣本來檢測深度學習模型的抗攻擊性能，而對抗樣本容易被遮擋。

發明內容

本公開提供了一種對抗樣本生成方法、抗攻擊檢測方法、裝置及電子設備。

根據本公開的第一方面，提供了一種對抗樣本生成方法，包括：

獲取初始化補丁，所述初始化補丁為用于對目標圖像進行處理的補丁；

識別所述初始化補丁包括的像素點的像素均值；

根據所述像素均值對所述初始化補丁進行修正，得到對抗補丁；

將所述對抗補丁與所述目標圖像合成，得到對抗樣本。

根據本公開的第二方面，提供了一種抗攻擊檢測方法，包括：

將對抗樣本輸入至待檢測模型中進行樣本識別，并輸出識別結果，所述識別結果用于表示所述對抗樣本的圖像分類，所述待檢測模型為用于對圖像進行分類的檢測模型；

根據所述識別結果和預先獲取的目標圖像的預設分類信息，確定所述待檢測模型對所述對抗樣本的抗攻擊結果；

其中，所述對抗樣本為根據第一方面提供的方法生成的樣本。

根據本公開的第三方面，提供了一種對抗樣本生成裝置，包括：

獲取模塊，用于獲取初始化補丁，所述初始化補丁為用于對目標圖像進行處理的補丁；

識別模塊，用于識別所述初始化補丁包括的像素點的像素均值；

修正模塊，用于根據所述像素均值對所述初始化補丁進行修正，得到對抗補丁；

合成模塊，用于將所述對抗補丁與所述目標圖像合成，得到對抗樣本。

根據本公開的第四方面，提供了一種抗攻擊檢測裝置，包括：

樣本識別模塊，用于將對抗樣本輸入至待檢測模型中進行樣本識別，并輸出識別結果，所述識別結果用于表示所述對抗樣本的圖像分類，所述待檢測模型為用于對圖像進行分類的檢測模型；

確定模塊，用于根據所述識別結果和預先獲取的目標圖像的預設分類信息，確定所述待檢測模型對所述對抗樣本的抗攻擊結果；

其中，所述對抗樣本為根據第二方面提供的裝置生成的樣本。

根據本公開的第五方面，提供了一種電子設備，包括：

至少一個處理器；以及

與至少一個處理器通信連接的存儲器；其中，

存儲器存儲有可被至少一個處理器執行的指令，該指令被至少一個處理器執行，以使至少一個處理器能夠執行第一方面中的任一項方法。