[發(fā)明專利]對(duì)抗樣本圖像的獲取方法、裝置和電子設(shè)備

在審

• 申請(qǐng)?zhí)枺?/td>: 202111217626.4
• 申請(qǐng)日: 2021-10-19
• 公開（公告）號(hào): CN113887651A
• 公開（公告）日: 2022-01-04
• 發(fā)明（設(shè)計(jì)）人: 熊俊峰;王洋
• 申請(qǐng)（專利權(quán)）人: 百度在線網(wǎng)絡(luò)技術(shù)（北京）有限公司
• 主分類號(hào): G06K9/62
• 分類號(hào): G06K9/62;G06N20/00
• 代理公司: 北京同立鈞成知識(shí)產(chǎn)權(quán)代理有限公司 11205
• 代理人: 孫靜;臧建明

本公開提供了一種對(duì)抗樣本圖像的獲取方法、裝置和電子設(shè)備，涉及圖像分類等人工智能技術(shù)領(lǐng)域。具體實(shí)現(xiàn)方案為：在獲取對(duì)抗樣本圖像時(shí)，先分別獲取多個(gè)樣本圖像和多個(gè)對(duì)抗算子各自的比例和對(duì)抗參數(shù)；并根據(jù)多個(gè)對(duì)抗算子各自的比例，從多個(gè)樣本圖像中確定待對(duì)抗處理的多個(gè)待處理樣本圖像；再基于多個(gè)待處理樣本圖像各自對(duì)應(yīng)的對(duì)抗算子的對(duì)抗參數(shù)，對(duì)多個(gè)待處理樣本圖像進(jìn)行處理，得到對(duì)抗樣本圖像，從而獲取到對(duì)抗樣本圖像。采用多個(gè)對(duì)抗算子的對(duì)抗參數(shù)，對(duì)樣本圖像進(jìn)行對(duì)抗處理，能夠提升對(duì)抗樣本圖像擾動(dòng)范數(shù)大小的統(tǒng)一性。

技術(shù)領(lǐng)域

本公開涉及圖像處理技術(shù)領(lǐng)域，尤其涉及圖像分類等人工智能技術(shù)領(lǐng)域，具體涉及一種對(duì)抗樣本圖像的獲取方法、裝置和電子設(shè)備。

背景技術(shù)

對(duì)抗攻擊是一種根據(jù)深度學(xué)習(xí)模型權(quán)重生成的微小擾動(dòng)，這種微小擾動(dòng)會(huì)使得深度學(xué)習(xí)模型輸出結(jié)果明顯偏離正常輸出結(jié)果，從而導(dǎo)致深度學(xué)習(xí)模型的輸出結(jié)果出現(xiàn)錯(cuò)誤。

為了使得深度學(xué)習(xí)模型具有應(yīng)對(duì)這種對(duì)抗攻擊的能力，通常是對(duì)該深度學(xué)習(xí)模型進(jìn)行對(duì)抗訓(xùn)練，這就需要獲取用于進(jìn)行對(duì)抗訓(xùn)練的對(duì)抗樣本圖像，因此，如何獲取用于進(jìn)行對(duì)抗訓(xùn)練的對(duì)抗樣本圖像是至關(guān)重要的。

發(fā)明內(nèi)容

本公開提供了一種對(duì)抗樣本圖像的獲取方法、裝置和電子設(shè)備，可以準(zhǔn)確地獲取對(duì)抗樣本圖像，且能夠提升對(duì)抗樣本圖像擾動(dòng)范數(shù)大小的統(tǒng)一性。

根據(jù)本公開的第一方面，提供了一種對(duì)抗樣本圖像的獲取方法，該對(duì)抗樣本圖像的獲取方法可以包括：

獲取多個(gè)樣本圖像、以及多個(gè)對(duì)抗算子各自的比例和對(duì)抗參數(shù)。

根據(jù)所述多個(gè)對(duì)抗算子各自的比例，從多個(gè)樣本圖像中確定待對(duì)抗處理的多個(gè)待處理樣本圖像；其中，所述多個(gè)待處理樣本圖像對(duì)應(yīng)有各自的對(duì)抗算子。

基于所述多個(gè)待處理樣本圖像各自對(duì)應(yīng)的對(duì)抗算子的對(duì)抗參數(shù)，對(duì)所述多個(gè)待處理樣本圖像進(jìn)行處理，得到對(duì)抗樣本圖像。

根據(jù)本公開的第二方面，提供了一種對(duì)抗樣本圖像的獲取裝置，該對(duì)抗樣本圖像的獲取裝置可以包括：

第一獲取單元，用于獲取多個(gè)樣本圖像、以及多個(gè)對(duì)抗算子各自的比例和對(duì)抗參數(shù)。

第一處理單元，用于根據(jù)所述多個(gè)對(duì)抗算子各自的比例，從多個(gè)樣本圖像中確定待對(duì)抗處理的多個(gè)待處理樣本圖像；其中，所述多個(gè)待處理樣本圖像對(duì)應(yīng)有各自的對(duì)抗算子。

第二處理單元，用于基于所述多個(gè)待處理樣本圖像各自對(duì)應(yīng)的對(duì)抗算子的對(duì)抗參數(shù)，對(duì)所述多個(gè)待處理樣本圖像進(jìn)行處理，得到對(duì)抗樣本圖像。

根據(jù)本公開的第三方面，提供了一種電子設(shè)備，該電子設(shè)備可以包括：

至少一個(gè)處理器；以及

與所述至少一個(gè)處理器通信連接的存儲(chǔ)器；其中，

所述存儲(chǔ)器存儲(chǔ)有可被所述至少一個(gè)處理器執(zhí)行的指令，所述指令被所述至少一個(gè)處理器執(zhí)行，以使所述至少一個(gè)處理器能夠執(zhí)行上述第一方面所述的對(duì)抗樣本圖像的獲取方法。

根據(jù)本公開的第四方面，提供了存儲(chǔ)有計(jì)算機(jī)指令的非瞬時(shí)計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，其中，所述計(jì)算機(jī)指令用于使所述計(jì)算機(jī)執(zhí)行上述第一方面所述的對(duì)抗樣本圖像的獲取方法。

根據(jù)本公開的第五方面，提供了一種計(jì)算機(jī)程序產(chǎn)品，所述計(jì)算機(jī)程序產(chǎn)品包括：計(jì)算機(jī)程序，所述計(jì)算機(jī)程序存儲(chǔ)在可讀存儲(chǔ)介質(zhì)中，電子設(shè)備的至少一個(gè)處理器可以從所述可讀存儲(chǔ)介質(zhì)讀取所述計(jì)算機(jī)程序，所述至少一個(gè)處理器執(zhí)行所述計(jì)算機(jī)程序使得電子設(shè)備執(zhí)行第一方面所述的對(duì)抗樣本圖像的獲取方法。

根據(jù)本公開的技術(shù)方案，可以準(zhǔn)確地獲取對(duì)抗樣本圖像，且能夠提升對(duì)抗樣本圖像擾動(dòng)范數(shù)大小的統(tǒng)一性。