[發(fā)明專利]對抗樣本生成方法、裝置、電子設(shè)備及存儲介質(zhì)

在審

• 申請?zhí)枺?/td>: 202211085668.1
• 申請日: 2022-09-06
• 公開（公告）號: CN115688915A
• 公開（公告）日: 2023-02-03
• 發(fā)明（設(shè)計）人: 張華;李文敏;涂騰飛;王小萌;楊興國;高浩然;王稼慧
• 申請（專利權(quán)）人: 北京郵電大學
• 主分類號: G06N3/094
• 分類號: G06N3/094;G06F16/35;G06F40/30;G06F40/289;G06N3/04
• 代理公司: 北京風雅頌專利代理有限公司 11403
• 代理人: 王剛

1.一種對抗樣本生成方法，其特征在于，包括：

獲取樣本數(shù)據(jù)，將所述樣本數(shù)據(jù)作為初始數(shù)據(jù)，基于語義分類器計算所述初始數(shù)據(jù)中的每個單詞的重要性得分，基于所述重要性得分對所述單詞進行排序；

利用基于轉(zhuǎn)換器的雙向編碼表征算法計算每個所述單詞的同義詞集合及每個同義詞的語義得分；

基于排序順序選取一個所述單詞為待替換單詞，基于所述待替換單詞的所述同義詞集合及所述每個同義詞的語義得分，計算所述待替換單詞的每個同義詞的攻擊性得分；

選取所述攻擊性得分最高的同義詞，在所述初始數(shù)據(jù)中替換所述待替換單詞，生成待測試數(shù)據(jù)；

判斷所述待測試數(shù)據(jù)能否完成對所述樣本數(shù)據(jù)的攻擊行為，若是，則將所述待測試數(shù)據(jù)作為所述樣本數(shù)據(jù)的對抗樣本。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述判斷所述待測試數(shù)據(jù)能否完成對所述樣本數(shù)據(jù)的攻擊行為，還包括：

若否，基于排序順序選取當前待替換單詞的下一個所述單詞替換所述待替換單詞，將所述待測試數(shù)據(jù)替換所述初始數(shù)據(jù)；

重新生成所述待測試數(shù)據(jù)，基于新生成的所述待測試數(shù)據(jù)，再次判斷所述待測試數(shù)據(jù)能否完成對所述樣本數(shù)據(jù)的攻擊行為。

3.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述判斷所述待測試數(shù)據(jù)能否完成對所述樣本數(shù)據(jù)的攻擊行為，還包括：

統(tǒng)計重新生成所述待測試數(shù)據(jù)的次數(shù)，若所述次數(shù)大于預設(shè)閾值，則認為所述待測試數(shù)據(jù)完成對所述樣本數(shù)據(jù)的攻擊行為。

4.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述基于語義分類器計算所述初始數(shù)據(jù)中的每個單詞的重要性得分，具體為：

Cw_i＝F(w₁，...，w_i-1，w_i，w_i+1，...，w_N)-F(w₁，....，w_i-1，w_i+1，...，w_N)

其中，w_i表示第i個單詞，N為初始數(shù)據(jù)中單詞的總個數(shù)，Cw_i表示第i個單詞的重要性得分，F(xiàn)(w₁，...，w_i-1，w_i，w_i+1，...，w_N)表示基于語義分類器F輸出的初始數(shù)據(jù)的分數(shù)，F(xiàn)(w₁，....，w_i-1，w_i+1，...，w_N)表示基于語義分類器F輸出的初始數(shù)據(jù)去除第i個單詞w_i后的分數(shù)。

5.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述計算所述待替換單詞的每個同義詞的攻擊性得分，具體為：

其中，表示第i個單詞w_i的一個同義詞w_i′的攻擊性得分，表示第i個單詞w_i的一個同義詞w_i′的語義得分，β為預設(shè)的超參數(shù)，表示第i個單詞w_i的一個同義詞w_i′的初始得分，F(xiàn)(w₁，...，w_i-1，w_i，w_i+1，...，w_N)表示基于語義分類器F輸出的初始數(shù)據(jù)的分數(shù)，F(xiàn)(w₁，....，w_i-1，w_i′，w_i+1，...，w_N)表示基于語義分類器F輸出的初始數(shù)據(jù)將第i個單詞w_i替換為同義詞w_i′后的分數(shù)。