[發明專利]對抗樣本的生成方法及裝置、電子設備和可讀存儲介質

有效

• 申請號: 202011106873.2
• 申請日: 2020-10-16
• 公開（公告）號: CN111931932B
• 公開（公告）日: 2021-01-29
• 發明（設計）人: 鄧磊;吳郁杰;李國齊;何偉;施路平
• 申請（專利權）人: 北京靈汐科技有限公司
• 主分類號: G06N3/08
• 分類號: G06N3/08
• 代理公司: 北京銀龍知識產權代理有限公司 11243
• 代理人: 許靜;黃燦

1.一種對抗樣本的生成方法，其特征在于，包括：

對第一樣本進行梯度下降處理，得到所述第一樣本的第一梯度，其中，所述第一樣本中的樣本數據為二值數據，所述第一梯度中的數據為連續數值；

將所述第一梯度轉換為第二梯度，其中，所述第二梯度中的數據為三值數據；

將所述第一樣本中的樣本數據與所述第二梯度中的數據結合，以生成目標對抗樣本；其中，所述目標對抗樣本中的樣本數據的為二值數據；

其中，所述將所述第一梯度轉換為第二梯度，包括：對所述第一梯度中的數據的絕對值進行歸一化處理，得到第三梯度；其中，所述第三梯度中的數據為大于或等于零的連續數值；對所述第三梯度中的數據進行二值化處理，得到第四梯度，其中，所述第四梯度中的數據為二值數據；提取所述第一梯度中目標位置的數據的目標符號，并將所述目標符號添加到所述第四梯度中與所述目標位置對應的數據上；其中，添加符號后的第四梯度為所述第二梯度；

所述第一樣本為以下至少一項轉換得到：圖像樣本、語音樣本、文字樣本。

2.根據權利要求1所述的方法，其特征在于，所述二值化處理的方式包括二值采樣；所述對所述第三梯度中的數據進行二值采樣，得到第四梯度，包括：

確定所述第三梯度中的數據為所述二值采樣的采樣概率；

基于所述采樣概率對所述第三梯度中的數據進行二值采樣，得到所述第四梯度。

3.根據權利要求2所述的方法，其特征在于，所述確定所述第三梯度中的數據為所述二值采樣的采樣概率中，所述采樣概率為采樣過程中得到二值數據中其中之一的概率。

4.根據權利要求1所述的方法，其特征在于，所述將所述第一樣本中的樣本數據與所述第二梯度中的數據結合，以生成所述對抗樣本，包括：

將所述第一樣本與所述第二梯度中相同位置的數據進行累加得到第一對抗樣本；

對第一對抗樣本進行限幅轉換以生成所述對抗樣本。

5.根據權利要求4所述的方法，其特征在于，所述對第一對抗樣本進行限幅轉換以生成目標對抗樣本，包括：

從所述第一對抗樣本中確定出與所述二值數據不匹配的數據；

將所述第一對抗樣本中與所述二值數據不匹配的數據轉換為二值數據，生成所述目標對抗樣本。

6.根據權利要求4所述的方法，其特征在于，所述限幅轉換中的限幅是根據第一樣本中的二值數據確定的。

7.根據權利要求1至6中任一所述的方法，其特征在于，所述第一樣本為脈沖神經網絡的輸入樣本。

8.根據權利要求1至6中任一所述的方法，其特征在于，所述第一樣本為以下至少之一所采集的數據：動態視覺傳感器、腦機接口。

9.一種對抗樣本的生成裝置，其特征在于，包括：

處理模塊，用于對第一樣本進行梯度下降處理，得到所述第一樣本的第一梯度，其中，所述第一樣本中的樣本數據為二值數據，所述第一梯度中的數據為連續數值；

轉換模塊，用于將所述第一梯度轉換為第二梯度，其中，所述第二梯度中的數據為三值數據；

生成模塊，用于將所述第一樣本中的樣本數據與所述第二梯度中的數據結合，以生成目標對抗樣本；其中，所述目標對抗樣本中的樣本數據的為二值數據；

其中，所述轉換模塊包括：歸一化單元，用于對所述第一梯度中的數據的絕對值進行歸一化處理，得到第三梯度；其中，所述第三梯度中的數據為大于或等于零的連續數值；采樣單元，用于對所述第三梯度中的數據進行二值化處理，得到第四梯度，其中，所述第四梯度中的數據為二值數據；轉換單元，用于提取所述第一梯度中目標位置的數據的目標符號，并將所述目標符號添加到所述第四梯度中與所述目標位置對應的數據上；其中，添加符號后的第四梯度為所述第二梯度；

所述第一樣本為以下至少一項轉換得到：圖像樣本、語音樣本、文字樣本。