[發明專利]對抗樣本的生成方法及裝置、電子設備和可讀存儲介質

有效

• 申請號: 202011106873.2
• 申請日: 2020-10-16
• 公開（公告）號: CN111931932B
• 公開（公告）日: 2021-01-29
• 發明（設計）人: 鄧磊;吳郁杰;李國齊;何偉;施路平
• 申請（專利權）人: 北京靈汐科技有限公司
• 主分類號: G06N3/08
• 分類號: G06N3/08
• 代理公司: 北京銀龍知識產權代理有限公司 11243
• 代理人: 許靜;黃燦

本申請提供一種對抗樣本的生成方法及裝置、電子設備和可讀存儲介質，涉及計算機領域；其中，該方法包括：對第一樣本進行梯度下降處理，得到第一樣本的第一梯度，其中，第一樣本中的樣本數據為二值數據，第一梯度中的數據為連續數值；將第一梯度轉換為第二梯度，其中，第二梯度中的數據為三值數據；將第一樣本中的樣本數據與第二梯度中的數據結合，以生成目標對抗樣本；其中，目標對抗樣本中的樣本數據的為二值數據。通過本申請，解決了現有技術中采用隨機翻轉輸入樣本的部分脈沖信號，再對隨機翻轉結果進行搜索，但該搜索空間大會導致脈沖神經網絡的攻擊成功率較低的問題。

技術領域

本申請涉及計算機領域，具體涉及一種對抗樣本的生成方法及裝置、電子設備和可讀存儲介質。

背景技術

目前，對于脈沖神經網絡產生對抗樣本的方式，由于脈沖神經網絡的輸入是二值脈沖信號，所以采用的是隨機翻轉輸入樣本的部分脈沖信號，通過試錯的方式達到對抗攻擊的目的。但是，通過試錯法產生脈沖對抗樣本的方法，由于搜索空間巨大，難以找到準確的對抗樣本，使得攻擊成功率較低。

發明內容

本申請實施例提供了一種對抗樣本的生成方法及裝置、電子設備和可讀存儲介質，以解決現有技術中采用隨機翻轉輸入樣本的部分脈沖信號，再對隨機翻轉結果進行搜索，但該搜索空間大會導致脈沖神經網絡的攻擊成功率較低的問題。

為了解決上述技術問題，本申請是這樣實現的：

第一方面，本申請實施例提供了一種對抗樣本的生成方法，包括：對第一樣本進行梯度下降處理，得到所述第一樣本的第一梯度，其中，所述第一樣本中的樣本數據為二值數據，所述第一梯度中的數據為連續數值；將所述第一梯度轉換為第二梯度，其中，所述第二梯度中的數據為三值數據；將所述第一樣本中的樣本數據與所述第二梯度中的數據結合，以生成目標對抗樣本；其中，所述目標對抗樣本中的樣本數據的為二值數據。

第二方面，本申請實施例還提供了一種對抗樣本的生成裝置，包括：處理模塊，用于對第一樣本進行梯度下降處理，得到所述第一樣本的第一梯度，其中，所述第一樣本中的樣本數據為二值數據，所述第一梯度中的數據為連續數值；轉換模塊，用于將所述第一梯度轉換為第二梯度，其中，所述第二梯度中的數據為三值數據；生成模塊，用于將所述第一樣本中的樣本數據與所述第二梯度中的數據結合，以生成目標對抗樣本；其中，所述目標對抗樣本中的樣本數據的為二值數據。

第三方面，本申請實施例還提供了一種電子設備，其特征在于，包括處理器，存儲器及存儲在所述存儲器上并可在所述處理器上運行的程序或指令，所述程序或指令被所述處理器執行時實現如第一方面所述的方法的步驟。

第四方面，本申請實施例還提供了一種可讀存儲介質，所述可讀存儲介質上存儲程序或指令，所述程序或指令被處理器執行時實現如第一方面所述的方法的步驟。

通過本申請實施例，可以將數據類型為二值數據的第一樣本通過梯度下降處理后得到對應的數據為連續數值的第一梯度，進而將連續數值的第一梯度轉換為數據為三值數據的第二梯度，最后將第一樣本中的樣本數據與第二梯度中的數據結合以生成目標對抗樣本，從而使得生成的目標對抗樣本與第一樣本的數據類型是匹配的，都是二值數據。如果第一樣本為脈沖神經網絡的原始樣本，則通過本申請實施例得到的對抗樣本，則是與原始樣本的數據類型一致的樣本，也就是說，利用梯度下降的方式產生了含有準確梯度信息、與原始樣本數據類型一致且改變量較小的易偽裝的對抗樣本，避免了現有技術中采用隨機翻轉輸入樣本的部分脈沖信號，再對隨機翻轉結果進行搜索，但該搜索空間大會導致脈沖神經網絡的攻擊成功率較低的問題，達到了提高脈沖神經網絡攻擊成功率的效果。

附圖說明

圖1是本申請實施例的對抗樣本的生成方法流程圖；

圖2是本申請實施例的樣本示意圖一；

圖3是本申請實施例的樣本示意圖二；