[發(fā)明專利]基于貝葉斯優(yōu)化的查詢高效的黑盒對抗攻擊

在審

• 申請?zhí)枺?/td>: 202011007795.0
• 申請日: 2020-09-23
• 公開（公告）號: CN112633309A
• 公開（公告）日: 2021-04-09
• 發(fā)明（設(shè)計）人: S·N·舒克拉;A·K·薩胡;D·維爾莫特;J·Z·柯爾特
• 申請（專利權(quán)）人: 羅伯特·博世有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04
• 代理公司: 中國專利代理(香港)有限公司 72001
• 代理人: 周學(xué)斌;劉春元

1.一種對神經(jīng)網(wǎng)絡(luò)分類器實行對抗攻擊的方法，包括：

構(gòu)造輸入輸出對的數(shù)據(jù)集，輸入輸出對的每個輸入元素是從搜索空間中隨機挑選的，輸入輸出對的每個輸出元素指示針對對應(yīng)輸入元素的神經(jīng)網(wǎng)絡(luò)分類器的預(yù)測輸出；

在輸入輸出對的數(shù)據(jù)集上利用高斯過程來優(yōu)化獲取函數(shù)，以從數(shù)據(jù)集中找到最佳擾動輸入元素；

對最佳擾動輸入元素進行上采樣以生成經(jīng)上采樣的最佳輸入元素；

將經(jīng)上采樣的最佳輸入元素添加到原始輸入以生成候選輸入；

查詢神經(jīng)網(wǎng)絡(luò)分類器，以確定針對候選輸入的分類器預(yù)測；

計算分類器預(yù)測的分數(shù)；以及

響應(yīng)于分類器預(yù)測為不正確的，接受候選輸入作為成功的對抗攻擊。

2.根據(jù)權(quán)利要求1所述的方法，進一步包括：響應(yīng)于分類器預(yù)測為正確的，拒絕候選輸入。

3.根據(jù)權(quán)利要求2所述的方法，進一步包括：響應(yīng)于拒絕候選輸入：

將候選輸入和分類器輸出添加到數(shù)據(jù)集；以及

繼續(xù)循環(huán)訪問數(shù)據(jù)集以生成候選輸入，直到經(jīng)過了預(yù)定義數(shù)量的數(shù)據(jù)集查詢?yōu)橹埂?/p>

4.根據(jù)權(quán)利要求1所述的方法，其中，神經(jīng)網(wǎng)絡(luò)分類器是圖像分類器，原始輸入是圖像輸入，擾動是圖像擾動，并且候選輸入是圖像輸入和圖像擾動的逐像素總和，其中，圖像擾動的每個像素小于預(yù)定義的大小。

5.根據(jù)權(quán)利要求4所述的方法，其中，擾動輸入元素的維度小于原始圖像的維度。

6.根據(jù)權(quán)利要求4所述的方法，其中，圖像擾動的預(yù)定義的大小不大于L₂規(guī)范或規(guī)范中的特定值。

7.根據(jù)權(quán)利要求1所述的方法，其中，神經(jīng)網(wǎng)絡(luò)分類器是音頻分類器，原始輸入是音頻輸入，擾動是音頻擾動，候選輸入是音頻輸入和音頻擾動的總和，以及分類器的規(guī)范測量人類的聽覺感知。

8.根據(jù)權(quán)利要求1所述的方法，其中，使用最近鄰上采樣來實行所述上采樣。

9.根據(jù)權(quán)利要求1所述的方法，其中，針對到分類器的輸入，分類器輸出針對多個可能的類別標(biāo)簽中的每一個的預(yù)測。

10.根據(jù)權(quán)利要求1所述的方法，其中，針對到分類器的輸入，分類器僅輸出多個可能的類別標(biāo)簽中的最可能的預(yù)測類別。

11.一種用于對神經(jīng)網(wǎng)絡(luò)分類器實行對抗攻擊的計算系統(tǒng)，所述系統(tǒng)包括：

存儲器，其存儲軟件程序的貝葉斯優(yōu)化和降維算法的指令；以及

處理器，其被編程成執(zhí)行指令以實行操作，包括

構(gòu)造輸入輸出對的數(shù)據(jù)集，輸入輸出對的每個輸入元素是從搜索空間中隨機挑選的，輸入輸出對的每個輸出元素指示針對對應(yīng)輸入元素的神經(jīng)網(wǎng)絡(luò)分類器的預(yù)測輸出；

在輸入輸出對的數(shù)據(jù)集上利用高斯過程來優(yōu)化獲取函數(shù)，以從數(shù)據(jù)集中找到最佳擾動輸入元素；

對最佳擾動輸入元素進行上采樣以生成經(jīng)上采樣的最佳輸入元素；

將經(jīng)上采樣的最佳輸入元素添加到原始輸入以生成候選輸入；

查詢神經(jīng)網(wǎng)絡(luò)分類器，以確定針對候選輸入的分類器預(yù)測；

計算分類器預(yù)測的分數(shù)；

響應(yīng)于分類器預(yù)測為不正確的，接受候選輸入作為成功的對抗攻擊；以及

響應(yīng)于分類器預(yù)測為正確的，拒絕候選輸入，將候選輸入和分類器輸出添加到數(shù)據(jù)集；以及繼續(xù)循環(huán)訪問數(shù)據(jù)集以生成候選輸入，直到經(jīng)過了預(yù)定義數(shù)量的數(shù)據(jù)集查詢?yōu)橹埂?/p>

12.根據(jù)權(quán)利要求11所述的計算系統(tǒng)，其中，神經(jīng)網(wǎng)絡(luò)分類器是圖像分類器，原始輸入是圖像輸入，擾動是圖像擾動，并且候選輸入是圖像輸入和圖像擾動的逐像素總和，其中，圖像擾動的每個像素小于預(yù)定義的大小。

13.根據(jù)權(quán)利要求12所述的計算系統(tǒng)，其中，擾動輸入元素的維度小于原始圖像的維度。