[發明專利]一種防御算法的推薦方法及裝置

有效

• 申請號: 202010566935.1
• 申請日: 2020-06-19
• 公開（公告）號: CN111783083B
• 公開（公告）日: 2023-08-22
• 發明（設計）人: 李卓蓉;封超;吳明暉;顏暉;金蒼宏
• 申請（專利權）人: 浙大城市學院
• 主分類號: G06F21/55
• 分類號: G06F21/55;G06N20/00
• 代理公司: 杭州求是專利事務所有限公司 33200
• 代理人: 應孔月

1.一種防御算法的推薦方法，其特征在于，包括：

獲取待處理的原始圖像數據；

根據所述原始圖像數據和實際應用需求，選擇圖像識別模型；

對所述原始圖像數據進行預處理，用預處理后的圖像數據訓練圖像識別模型；

針對圖像識別模型生成多種對抗樣本；

利用多種對抗樣本對圖像識別模型實施攻擊，并記錄攻擊結果；

構建基于對抗訓練的防御算法庫；

逐一應用對抗訓練算法對圖像識別模型進行防御訓練；

評估防御效果，并推薦防御算法；

其中，構建基于對抗訓練的防御算法庫，包括：

構建模型識別原始樣本的分類損失函數；

構建模型識別對抗樣本的分類損失函數；

構建原始樣本與對抗樣本的抽象表征匹配損失函數；

構建模型正則項；

通過不同組合方式形成不同的基于對抗訓練的防御算法：

，其中，，和分別是各個損失項的權重系數；

通過集成多種基于對抗訓練的防御算法，構建基于對抗訓練的防御算法庫；

其中，構建原始樣本與對抗樣本的抽象表征匹配損失函數，包括：

將原始樣本在分類模型預設層的表征與對抗樣本在分類模型預設層的表征進行匹配，將二種表征之間的距離作為抽象表征匹配損失函數，形式化表示如下：

,

其中，表示均方誤差，g(x)表示分類模型對圖像數據的表征。

2.如權利要求1所述的方法，其特征在于，對所述原始圖像數據進行預處理，包括：

獲取所述原始圖像數據的特征表示；

利用隨機信號對所述原始圖像數據進行翻轉；

根據所述圖像識別模型的數據輸入要求，對翻轉后的圖像數據進行縮放；

利用隨機信號對縮放后的圖像數據進行截取；

利用隨機信號對截取后的圖像數據進行填充；

對填充后的圖像數據進行歸一化處理。

3.如權利要求1所述的方法，其特征在于，生成多種對抗樣本，包括：

構建對抗攻擊方法庫，該方法庫包括如下攻擊方法：L-BFGS算法、快速梯度符號法、DeepFool和投影梯度下降法；

根據所述預處理后的原始圖像數據和所述圖像識別模型，逐一選取攻擊方法庫中的攻擊方法產生對應的對抗擾動，，其中，是識別模型的參數化表示，R表示攻擊方法；

生成對應的對抗樣本，。

4.如權利要求1所述的方法，其特征在于，利用多種對抗樣本對圖像識別模型實施攻擊，并記錄攻擊結果，包括：

將對抗樣本輸入圖像識別模型，并輸出分類結果，其中，表示識別模型的分類結果；

在所述攻擊為非定向攻擊時，若滿足，對抗樣本是有效的攻擊樣本，該攻擊是成功的攻擊，記錄攻擊結果；

在所述攻擊為定向攻擊時，若滿足，該對抗樣本是有效的攻擊樣本，該攻擊是成功的攻擊，記錄攻擊結果，其中，表示目標類別。

5.如權利要求1所述的方法，所述防御算法庫包括：樸素對抗訓練算法、基于邏輯向量匹配的對抗訓練算法、基于激活特征圖匹配的對抗訓練算法，以及基于梯度匹配的對抗訓練算法。

6.如權利要求1所述的方法，其特征在于，進行防御訓練，包括：

將所述的有效攻擊樣本與原始樣本一起作為圖像識別模型的防御訓練數據集；

根據防御訓練數據集，逐一應用防御算法庫中的對抗訓練算法對識別模型進行訓練。