[發明專利]一種基于后門攻擊的數據集保護和驗證方法

在審

• 申請號: 202011279636.6
• 申請日: 2020-11-16
• 公開（公告）號: CN112364310A
• 公開（公告）日: 2021-02-12
• 發明（設計）人: 潘曉光;王小華;焦璐璐;樊思佳;馬彩霞
• 申請（專利權）人: 山西三友和智慧信息技術股份有限公司
• 主分類號: G06F21/16
• 分類號: G06F21/16;G06T1/00;G06N3/08
• 代理公司: 太原榮信德知識產權代理事務所(特殊普通合伙) 14119
• 代理人: 楊凱;連慧敏

1.一種基于后門攻擊的數據集保護和驗證方法，其特征在于：包括下列步驟：

S1、根據實際需求設置水印γ的比例；

所述γ越小，則代表包含水印的數據所占比重越小，水印設置的越隱蔽，所述D_attack為攻擊樣本數據集，所述D_train為原始數據集；

S2、根據S1所得的γ劃分原始數據集為良性樣本數據集D_benign和攻擊樣本數據集D_attack；

所述x_i為輸入，y_i為輸出標簽，且x_i∈{0,…,255}^C×W×H，y_i＝{1,…,K}；

S3、為S2中劃分后所得的攻擊樣本數據集D_attack添加水印，得到處理后的攻擊樣本數據集D_modified；

S4、將處理后的攻擊樣本數據集D_modified與良性樣本數據集D_benign混合，得到水印數據集D_watermarked；

所述D_watermarked＝D_benign∪D_modified。

2.根據權利要求1所述的一種基于后門攻擊的數據集保護和驗證方法，其特征在于：所述S3中攻擊樣本數據集D_attack添加水印的方法為：

S3.1、設置y_t＝{1,…,K}和t∈{0,…,255}^C×W×H分別為目標標簽和指定的觸發器；

S3.2、根據S3.1設置的目標標簽和指定的觸發器確定對攻擊樣本添加水印；

S3.3、根據S3.2的方法對D_attack中包含的數據進行處理，生成處理后的攻擊樣本數據集D_modified。

3.根據權利要求2所述的一種基于后門攻擊的數據集保護和驗證方法，其特征在于：所述根據設置的目標標簽與指定的觸發器為樣本數據添加水印的方法為：

所述x_watermarked為添加水印后的輸入數據，λ∈[0,1]^C×W×H是相關參數，λ參數越小，觸發器越不可見，水印越隱蔽，所述是矩陣乘法Element-wise Product。

4.根據權利要求2所述的一種基于后門攻擊的數據集保護和驗證方法，其特征在于：所述生成處理后的攻擊樣本數據集D_modified的方法為：

所述D_modified＝{(x',y_target)∣x'＝w(x；t),(x,y)∈D_train\D_benign},x為輸入數據，y為輸出標簽，w為權利要求3所述的水印添加方法，y_target為添加的目標后門標簽。

5.根據權利要求1所述的一種基于后門攻擊的數據集保護和驗證方法，其特征在于：還包括若p_watermarkedp_benign，則判斷此第三方模型使用了包含水印測試樣本的數據集；若p_watermarked≤p_benign，則判斷此第三方模型未使用包含水印測試樣本的數據集；所述p_watermarked為測試目標類水印測試樣本在第三方訓練模型中的后驗概率，所述p_benign為良性測試樣本在第三方訓練模型中的后驗概率。