[發明專利]一種基于支持向量機的深度學習模型魯棒邊界評估方法、裝置和應用

在審

• 申請號: 202110272000.7
• 申請日: 2021-03-12
• 公開（公告）號: CN112884065A
• 公開（公告）日: 2021-06-01
• 發明（設計）人: 陳晉音;陳若曦;鄭海斌
• 申請（專利權）人: 浙江工業大學
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08;G06N20/10
• 代理公司: 杭州天勤知識產權代理有限公司 33224
• 代理人: 曹兆霞

1.一種基于支持向量機的深度學習模型魯棒邊界評估方法，其特征在于，包括以下步驟：

為用于分類任務的深度學習模型的每個分類類別分配一個支持向量機；

將樣本數據分別輸入至深度學習模型和每個支持向量機，得到樣本數據在深度學習模型和每個支持向量機的特征空間分布；

針對每個支持向量機，以樣本數據在支持向量機的特征空間分布與在深度學習模型的特征空間分布的散度指標作為損失函數優化支持向量機的參數；

優化結束后，每個支持向量機的決策邊界即為深度學習模型對與支持向量機對應的分類類別的決策邊界，依據該決策邊界實現對深度學習模型魯棒邊界評估。

2.如權利要求1所述的基于支持向量機的深度學習模型魯棒邊界評估方法，其特征在于，在對支持向量機的參數優化時，損失函數為：

其中，表示基于KL散度的特征分布與決策邊界相似度，log(·)表示對數函數，∫表示積分符號，表示SVM分類器對目標類j的預測置信度，也即是特征空間分布，表示深度學習模型對目標類的預測置信度，μ(x)為采樣密度；

依據該損失函數優化支持向量機的參數時，當損失函數值小于設定閾值時，優化結束。

3.如權利要求1所述的基于支持向量機的深度學習模型魯棒邊界評估方法，其特征在于，在優化支持向量機的參數時，對每一個樣本數據采用定向重采樣方式確定搜索方向，當特征分布接近時，即損失函數值變小，則繼續按照上一次重采樣方向移動，反之則向反方向移動。

4.如權利要求1所述的基于支持向量機的深度學習模型魯棒邊界評估方法，其特征在于，所述深度學習模型用于圖像分類，信號分類，所述樣本數據為圖像數據和信號數據。

5.一種基于支持向量機的深度學習模型魯棒邊界評估裝置，包括計算機存儲器、計算機處理器以及存儲在計算機存儲器中并可在所述計算機處理器上執行的計算機程序，其特征在于，計算機處理器執行計算機程序時實現權利要求1～4所述的基于支持向量機的深度學習模型魯棒邊界評估方法。

6.一種用戶分類任務的深度學習模型的選擇方法，包括以下步驟：

針對候選的每個深度學習模型，利用權利要求1～4任一項所述的基于支持向量機的深度學習模型魯棒邊界評估方法確定每個深度學習模型的決策邊界；

根據決策邊界判定深度學習模型對每個目標類的分類情況，以篩選深度學習模型。

7.一種用戶分類任務的深度學習模型的選擇裝置，包括計算機存儲器、計算機處理器以及存儲在計算機存儲器中并可在所述計算機處理器上執行的計算機程序，其特征在于，計算機處理器執行計算機程序時實現權利要求6所述的用戶分類任務的深度學習模型的選擇方法。

8.一種用戶分類任務的深度學習模型的防御方法，包括以下步驟：

對于深度學習模型，利用權利要求1～4任一項所述的基于支持向量機的深度學習模型魯棒邊界評估方法確定深度學習模型針對每個目標類的決策邊界；

根據每個目標類的決策邊界，確定容易被攻擊的目標類；

在容易被攻擊的目標類對應的樣本數據中添加擾動，得到增強樣本數據，并利用增強樣本數據對深度學習模型進行參數優化，以實現深度學習模型對容易被攻擊的目標類的防御。

9.一種用戶分類任務的深度學習模型的防御裝置，包括計算機存儲器、計算機處理器以及存儲在計算機存儲器中并可在所述計算機處理器上執行的計算機程序，其特征在于，計算機處理器執行計算機程序時實現權利要求8所述的用戶分類任務的深度學習模型的防御方法。