[發明專利]一種面向后門攻擊的防御方法

在審

• 申請號: 202110656133.4
• 申請日: 2021-06-11
• 公開（公告）號: CN113283590A
• 公開（公告）日: 2021-08-20
• 發明（設計）人: 陳晉音;熊海洋;黃國瀚
• 申請（專利權）人: 浙江工業大學
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08;G06K9/62;G06F21/55
• 代理公司: 杭州天勤知識產權代理有限公司 33224
• 代理人: 何秋霞;胡紅娟

1.一種面向后門攻擊的防御方法，其特征在于，包括如下步驟：

步驟1，獲取圖神經網絡模型M_oracle及其訓練數據集Data_oracle；

步驟2，對訓練數據集Data_oracle進行預處理：取出部分數據組成干凈樣本數據集Data_clean，連邊操作后獲得新的訓練數據集Data_deal，將新的訓練數據集Data_deal劃分為訓練集Data_train，驗證集Data_val和測試集Data_test；

步驟3，構建生成器網絡G，將所述訓練集Data_train中樣本數據輸入到生成器網絡G中，得到重要性數值e_ij；將所述重要性數值e_ij輸入softmax層得到相應的節點嵌入h'，將節點嵌入h'經解碼器解碼得到預測圖Y_pred；

步驟4，構建鑒別器網絡D，將所述干凈樣本數據集Data_clean和預測圖Y_pred輸入鑒別器，經鑒別器網絡D特征提取得到相應的節點嵌入Z_train，將節點嵌入Z_train輸入全連接層FC和softmax層，輸出圖數據二分類的結果；

步驟5，防御模型的訓練：對生成器網絡G和判別器進行優化訓練，得到訓練后的生成器網絡G作為后續防御網絡；將所述數據訓練集Data_train和生成器網絡G的優化函數輸入到后續防御網絡中降低模型的損失函數值，完成后門攻擊的防御網絡模型搭建；

步驟6，防御模型中生成器網絡的應用：將刪減連邊處理后的任務數據D_real輸入到生成器網絡G中進行數據重建，得到最終數據D_{real_defense}，再將該數據送入執行下有任務的模型M_oracle中，得到任務結果。

2.根據權利要求1所述的面向后門攻擊的防御方法，其特征在于，所述圖神經網絡模型M_oracle的下游任務為圖分類任務；圖神經網絡模型M_oracle為已經訓練完成的圖分類器f:E→{0,1,...,y_i}；其中E為相應的輸入樣本，{0,1,...,y_i}為所對應的分類器預測標簽。

3.根據權利要求1所述的面向后門攻擊的防御方法，其特征在于，所述訓練數據集Data_oracle為COLLAB數據集，Twitter數據集或Bitcoin數據集。

4.根據權利要求1所述的面向后門攻擊的防御方法，其特征在于，步驟3中，生成器網絡G包括編碼器和解碼器，所述編碼器為GAT網絡，所述解碼器為全連接層FC網絡；

得到重要性數值e_ij的過程具體包括：將所述訓練集Data_train中每一樣本數據轉換成相應的鄰接矩陣A_train和特征矩陣X_train～U(0,1)，輸入到生成器網絡G中，其中特征矩陣X_train作為噪聲輸入，通過GAT網絡得到節點的嵌入，從輸入數據得到的節點特征的集合表示為：

其中，為節點i的特征向量,N為節點的數量，F節點的特征維度；e_ij代表節點j對節點i的重要性程度，a為映射函數，W為權重參數矩陣。