[發(fā)明專利]基于黑盒通用人臉檢測(cè)對(duì)抗攻擊的方法、裝置及存儲(chǔ)介質(zhì)

有效

• 申請(qǐng)?zhí)枺?/td>: 202110026619.X
• 申請(qǐng)日: 2021-01-08
• 公開（公告）號(hào): CN112766430B
• 公開（公告）日: 2022-01-28
• 發(fā)明（設(shè)計(jì)）人: 顧友良;雷金鐸;蘇鵬;趙乾;張磊;林偉
• 申請(qǐng)（專利權(quán)）人: 廣州紫為云科技有限公司
• 主分類號(hào): G06V40/16
• 分類號(hào): G06V40/16;G06V10/82;G06F21/60;G06N3/08
• 代理公司: 廣州名揚(yáng)高玥專利代理事務(wù)所(普通合伙) 44738
• 代理人: 郭琳

1.一種基于黑盒的通用人臉檢測(cè)對(duì)抗攻擊的方法，其特征在于，所述對(duì)抗攻擊的方法包括如下步驟：

步驟1，人臉檢測(cè)并提取最大分類分?jǐn)?shù)，其中，將圖片進(jìn)行預(yù)處理之后送入人臉檢測(cè)器，得到模型預(yù)測(cè)的分類分?jǐn)?shù)，其中，所述分類分?jǐn)?shù)是一個(gè)三維的向量，其中第一個(gè)維度是圖片的數(shù)量；第二個(gè)維度為N個(gè)預(yù)測(cè)可能存在的人臉；第三個(gè)維度為2，是非人臉和人臉的概率分?jǐn)?shù)，在第三個(gè)維度進(jìn)行排序，提取為人臉的概率最大的向量作為攻擊對(duì)象并送入下一步；

步驟2，使用所述步驟1提取的人臉概率向量循環(huán)攻擊，其中，采用代理模式在每一次迭代中，使用多個(gè)人臉檢測(cè)器，將圖片依次送入這些模型提取人臉概率向量，把所述人臉概率向量進(jìn)行求和作為損失函數(shù)并反向傳播來訪問攻擊圖像的梯度，通過圖像的梯度求得模型在圖像的哪些位置響應(yīng)最大，在所述響應(yīng)最大的位置添加噪聲，直到人臉檢測(cè)器無法檢測(cè)到人臉，停止迭代。

2.如權(quán)利要求1所述的一種基于黑盒的通用人臉檢測(cè)對(duì)抗攻擊的方法，其特征在于，所述多個(gè)人臉檢測(cè)器可以選擇相同檢測(cè)器，也可以選擇不同的檢測(cè)器，當(dāng)選擇不同人臉檢測(cè)模型組合時(shí)，所述多個(gè)人臉檢測(cè)器獲取更好效果。

3.如權(quán)利要求2所述的一種基于黑盒的通用人臉檢測(cè)對(duì)抗攻擊的方法，其特征在于，所述添加噪聲進(jìn)一步的計(jì)算形式為：利用圖像的梯度值除以圖像梯度值的范數(shù)，再設(shè)置一個(gè)較小的步長(zhǎng)與其相乘后作為噪聲添加到圖像中。

4.如權(quán)利要求3所述的一種基于黑盒的通用人臉檢測(cè)對(duì)抗攻擊的方法，其特征在于，所述代理模式進(jìn)一步包括：綜合多個(gè)模型的結(jié)果，由于不同模型對(duì)同一張圖片的響應(yīng)位置都不相同，綜合多個(gè)模型的輸出，把它們的輸出向量經(jīng)softmax函數(shù)后逐一求和，再反向傳播，就能得到多樣性的梯度響應(yīng)，從而使大多數(shù)人臉檢測(cè)模型失效，所述softmax函數(shù)為：

其中，Z_i和Z_j表示分類器前級(jí)輸出單元的輸出，i標(biāo)示類別索引，總的類別個(gè)數(shù)為C。

5.如權(quán)利要求4所述的一種基于黑盒的通用人臉檢測(cè)對(duì)抗攻擊的方法，其特征在于，對(duì)于損失函數(shù)直接采用人臉和非人臉通過softmax后的概率向量進(jìn)行相加。

6.一種電子設(shè)備，其特征在于，包括：

處理器；以及，

存儲(chǔ)器，用于存儲(chǔ)所述處理器的可執(zhí)行指令；

其中，所述處理器配置為經(jīng)由執(zhí)行所述可執(zhí)行指令來執(zhí)行權(quán)利要求1-5任一項(xiàng)所述的基于黑盒的通用人臉檢測(cè)對(duì)抗攻擊的方法。

7.一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，其上存儲(chǔ)有計(jì)算機(jī)程序，其特征在于，所述計(jì)算機(jī)程序被處理器執(zhí)行時(shí)實(shí)現(xiàn)權(quán)利要求1-5任一項(xiàng)所述的基于黑盒的通用人臉檢測(cè)對(duì)抗攻擊的方法。