[發明專利]面向圖神經網絡模型后門攻擊的檢測方法和裝置

有效

• 申請號: 202110598321.6
• 申請日: 2021-05-31
• 公開（公告）號: CN113297571B
• 公開（公告）日: 2022-06-07
• 發明（設計）人: 陳晉音;熊海洋;張敦杰;黃國瀚
• 申請（專利權）人: 浙江工業大學
• 主分類號: G06F21/55
• 分類號: G06F21/55;G06K9/62;G06N3/08
• 代理公司: 杭州天勤知識產權代理有限公司 33224
• 代理人: 曹兆霞

1.一種面向圖神經網絡模型后門攻擊的檢測方法，其特征在于，包括以下步驟：

利用圖數據對圖神經網絡模型進行訓練，以優化圖神經網絡模型的參數；

將圖數據輸入至參數優化的圖神經網絡模型中，計算圖數據對應的損失函數，并對損失函數相對于圖數據的鄰接矩陣的反向求導以得到各連邊對損失函數的重要程度值；

依據重要程度值提取不同連邊數的子圖結構，并依據分類標簽，將子圖結構換分成與分類標簽對應的多個子圖庫；

針對每個子圖庫，依據子圖結構之間的相似性計算子圖結構的分布圖；

分析每個子圖庫對應的分布圖中相似度值，依據相似度值的大小確定圖神經網絡模型是否被攻擊。

2.如權利要求1所述的面向圖神經網絡模型后門攻擊的檢測方法，其特征在于，所述依據重要程度值提取不同連邊數的子圖結構包括：

對重要程度值進行降序排序得到連邊重要性數據集；依據預設的不同連邊數，從連邊重要性數據集中提取相應連邊數的最高重要程度值形成不同連邊數的子圖結構。

3.如權利要求1所述的面向圖神經網絡模型后門攻擊的檢測方法，其特征在于，所述依據子圖結構之間的相似性計算子圖結構的分布圖包括：

將子圖結構輸入到圖神經網絡模型，得到子圖結構的向量表示；依據向量表示計算屬于同一分類標簽的各子圖結構之間的相似度；依據相似度值構建每個子圖庫對應的分布圖。

4.如權利要求3所述的面向圖神經網絡模型后門攻擊的檢測方法，其特征在于，依據表示計算屬于同一分類標簽的各子圖結構之間的余弦相似度，依據余弦相似度值構建每個子圖庫對應的分布圖。

5.如權利要求1所述的面向圖神經網絡模型后門攻擊的檢測方法，其特征在于，所述分析每個子圖庫對應的分布圖中相似度值，依據相似度值的大小確定圖神經網絡模型是否被攻擊包括：

分析每個子圖庫對應的分布圖中相似度值，若存在某個子圖結構對應的相似度值與其他子圖結構對應的相似度值差距大于第一閾值，且對這一分類標簽對應的相似度值均大于第二閾值，則表明差距很大的這個子圖結構為被設計的觸發器，圖神經網絡模型已經被攻擊。

6.如權利要求1所述的面向圖神經網絡模型后門攻擊的檢測方法，其特征在于，所述分析每個子圖庫對應的分布圖中相似度值，依據相似度值的大小確定圖神經網絡模型是否被攻擊包括：

分析每個子圖庫對應的分布圖中相似度值，所有子圖結構對應的相似度值之間的差距小于第三閾值，且沒有突出的相似度值，且表明圖神經網絡模型良好，未被攻擊。

7.一種面向圖神經網絡模型后門攻擊的檢測裝置，包括存儲器、處理器以及存儲在存儲器中并可在處理器上執行的計算機程序，其特征在于，所述處理器執行計算機程序時實現權利要求1～6任一項所述的面向圖神經網絡模型后門攻擊的檢測 方法。