[發明專利]一種基于陷阱結構的圖像識別防御方法

在審

• 申請號: 202010884874.3
• 申請日: 2020-08-28
• 公開（公告）號: CN112052452A
• 公開（公告）日: 2020-12-08
• 發明（設計）人: 陳晉音;朱偉鵬;鄭海斌
• 申請（專利權）人: 浙江工業大學
• 主分類號: G06F21/56
• 分類號: G06F21/56;G06K9/62;G06N3/04
• 代理公司: 杭州天勤知識產權代理有限公司 33224
• 代理人: 曹兆霞

1.一種基于陷阱結構的圖像識別防御方法，其特征在于，包括以下步驟：

在基于神經網絡構建的圖像識別網絡中，在圖像識別網絡的隱藏層和/或輸出層增加用于引導惡性圖像連接傳輸方向的陷阱結構；

抑制陷阱結構活動，利用正常圖像對添加有陷阱結構的圖像識別網絡進行圖像識別任務的訓練；

針對不同類型的防御任務，設置抑制陷阱為激活態，選擇與防御任務對應的惡性圖像對添加有陷阱結構的圖像識別網絡進行防御任務的訓練；

應用時，將待測圖像輸入至經過圖像識別任務和防御任務訓練的圖像識別網絡中，當陷阱結構的激活狀態值大于閾值時，則待測圖像為惡性圖像，刪除該惡性圖像，實現對圖像識別的防御效果。

2.如權利要求1所述的基于陷阱結構的圖像識別防御方法，其特征在于，所述陷阱結構為設置在圖像識別網絡的隱藏層和/或輸出層的至少一個陷阱神經元；

當陷阱神經元設置在輸出層時，該陷阱神經元相當于用于限制置信度的輸出值，通過全連接操作得到陷阱神經元值；

當陷阱神經元設置在隱藏層時，該陷阱神經元用于特征提取，通過卷積操作、池化操作、全連接操作中的至少一種操作得到陷阱神經元值。

3.如權利要求2所述的基于陷阱結構的圖像識別防御方法，其特征在于，當圖像識別網絡中同一層的所有神經元采用相同的單結構，即采用相同的卷積操作、全連接操作或池化操作計算得到神經元值時；

陷阱神經元采用與其所在層的其他神經元相同的單結構或單結構的逆結構，即采用相同的卷積操作、全連接操作或池化操作得到單結構對應的陷阱神經元值，或采用反卷積操作、反全連接操作或反池化操作得到單結構的逆結構對應的陷阱神經元值。

4.如權利要求2所述的基于陷阱結構的圖像識別防御方法，其特征在于，當圖像識別網絡中隱藏層的神經元采用多種單結構組成多結構，即采用卷積操作、全連接操作以及池化操作中的一種操作得到每種單結構對應的神經元值時；

添加到隱藏層的陷阱神經元采用由卷積操作、池化操作、全連接操作中的任意一種操作組成的單結構或單結構的逆結構，即采用卷積操作、池化操作、全連接操作中的任意一種操作計算單結構對應的陷阱神經元值，或采用反卷積操作、反全連接操作或反池化操作中的任意一種種操作計算單結構的逆結構對應的陷阱神經元值。

5.如權利要求1所述的基于陷阱結構的圖像識別防御方法，其特征在于，對添加有陷阱結構的圖像識別網絡進行圖像識別任務訓練時，設置陷阱結構的激活狀態值為0以避免陷阱結構影響正常圖像的分類識別；

以正常圖像作為輸入，以正常圖像的理想類標和激活狀態值0組成的真值標簽、輸出層輸出的理想類標對應的預測置信度與激活狀態值對應的失效值0組成的預測輸出值的交叉熵為損失函數，對圖像識別網絡進行圖像識別任務的訓練，以優化的圖像識別網絡的網絡參數。

6.如權利要求1所述的基于陷阱結構的圖像識別防御方法，其特征在于，當陷阱結構添加到隱藏層，對添加有陷阱結構的圖像識別網絡進行防御任務的訓練時，設置陷阱結構的激活狀態值為1以引導惡性圖像的連接傳輸流向陷阱結構；

選擇與防御任務對應的惡性圖像作為輸入，陷阱結構所在隱藏層的預測輸出值和理想輸出值的交叉熵為損失函數，對圖像識別網絡進行防御任務的訓練，以優化的圖像識別網絡的網絡參數，其中，理想輸出值包括陷阱結構的激活狀態值1、正常圖像作為輸入時隱藏層除陷阱結構的其他神經元值。

7.如權利要求1所述的基于陷阱結構的圖像識別防御方法，其特征在于，當陷阱結構添加到輸出層，對添加有陷阱結構的圖像識別網絡進行防御任務的訓練時，設置陷阱結構的激活狀態值為1以引導惡性圖像的連接傳輸流向陷阱結構；

選擇與防御任務對應的惡性圖像作為輸入，以惡性圖像的理想類標和激活狀態值1組成的真值標簽、陷阱結構所在輸出層的預測輸出值的交叉熵為損失函數，對圖像識別網絡進行防御任務的訓練，以優化的圖像識別網絡的網絡參數。