[發明專利]一種有目標的攻擊樣本生成方法、裝置、設備及存儲介質

有效

• 申請號: 201910272129.0
• 申請日: 2019-04-04
• 公開（公告）號: CN110046622B
• 公開（公告）日: 2021-09-03
• 發明（設計）人: 顧釗銓;謝禹舜;胡衛雄;方濱興;王樂
• 申請（專利權）人: 廣州大學
• 主分類號: G06K9/34
• 分類號: G06K9/34;G06K9/62;G06N3/04;G06N3/08
• 代理公司: 廣州三環專利商標代理有限公司 44202
• 代理人: 顏希文;麥小嬋

1.一種有目標的攻擊樣本生成方法，其特征在于，包括以下步驟：

獲取待識別圖像X和特定數字j，遍歷所述待識別圖像X的每個像素點，在每個像素點采樣K個像素值，并分別計算每一個所述像素點的K個像素值在預設的神經網絡N中的識別概率，得到將所述待識別圖像X，識別為所述特定數字j的識別結果中最大識別概率的像素點的位置P；其中，255≥K≥1；

遍歷所述像素點的位置P的每個像素值，并分別計算每個數值在所述預設的神經網絡N中的識別概率，得到將所述待識別圖像X，識別為所述特定數字j的最大識別概率時的像素值V’；

將所述待識別圖像X中像素位置P的像素值修改為V’，得到對抗樣本X’。

2.如權利要求1所述的有目標的攻擊樣本生成方法，其特征在于，所述預設的神經網絡N是通過輸入多個數字樣本圖像進行識別訓練，直到正確識別每一個數字時構建而成；

所述預設的神經網絡N，用于對輸入的數字樣本圖片進行識別，并輸出識別結果。

3.如權利要求2所述的有目標的攻擊樣本生成方法，其特征在于，所述識別結果為bj；其中，bj為將所述待識別圖像X，識別為所述特定數字j時的最大識別概率，0≤j≤9。

4.如權利要求3所述的有目標的攻擊樣本生成方法，其特征在于，所述識別結果bj的概率滿足：b0+b1+b2+b3+b4+b5+b6+b7+b8+b9＝1。

5.如權利要求4所述的有目標的攻擊樣本生成方法，其特征在于，所述分別計算每個數值在預設的神經網絡N中的識別概率，得到將所述待識別圖像X，識別為所述特定數字j的識別結果中最大識別概率的像素點的位置P，具體為：

所述待識別圖像X的像素為M*N個，遍歷所述M*N個像素點，并在每個像素點采樣K個值，得到M*N*K個數值；

分別將所述M*N*K個數值輸入至所述預設的神經網絡N中進行識別，得到M*N*K個輸出的識別結果；

獲取所述M*N*K個輸出的識別結果中將所述待識別圖像X，識別為所述特定數字j的識別結果中最大識別概率bj，并根據所述識別結果bj，得到對應像素點的位置P。

6.如權利要求5所述的有目標的攻擊樣本生成方法，其特征在于，所述K＝10。

7.一種單像素有目標的攻擊樣本生成裝置，其特征在于，包括位置確認模塊、像素值確認模塊以及對抗樣本生成模塊；

所述位置確認模塊，用于獲取待識別圖像X和特定數字j，遍歷所述待識別圖像X的每個像素點，在每個像素點采樣K個像素值，并分別計算每一個所述像素點的K個像素值在預設的神經網絡N中的識別概率，得到將所述待識別圖像X，識別為所述特定數字j的識別結果中最大識別概率的像素點的位置P；其中，255≥K≥1；

所述像素值確認模塊，用于遍歷所述像素點的位置P的每個像素值，并分別計算每個數值在所述預設的神經網絡N中的識別概率，得到將所述待識別圖像X，識別為所述特定數字j的最大識別概率時的像素值V’；

所述對抗樣本生成模塊，用于將所述待識別圖像X中像素位置P的像素值修改為V’，得到對抗樣本X’。

8.如權利要求7所述的單像素有目標的攻擊樣本生成裝置，其特征在于，所述位置確認模塊包括像素個數確認單元、識別單元以及位置識別單元；

所述像素個數確認單元，用于所述待識別圖像X的像素為M*N個，遍歷所述M*N個像素點，并在每個像素點采樣K個值，得到M*N*K個數值；

所述識別單元，用于分別將所述M*N*K個數值輸入至所述預設的神經網絡N中進行識別，得到M*N*K個輸出的識別結果；

所述位置識別單元，用于獲取所述M*N*K個輸出的識別結果中將所述待識別圖像X，識別為所述特定數字j的識別結果中最大識別概率bj，并根據所述識別結果bj，得到對應像素點的位置P。