[發明專利]基于粒子群算法的深度學習系統魯棒性增強方法及裝置

在審

• 申請號: 202110762593.5
• 申請日: 2021-07-06
• 公開（公告）號: CN113378988A
• 公開（公告）日: 2021-09-10
• 發明（設計）人: 陳晉音;金海波;陳若曦
• 申請（專利權）人: 浙江工業大學
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/00;G06N3/04;G06N3/08
• 代理公司: 杭州天勤知識產權代理有限公司 33224
• 代理人: 胡紅娟

本發明公開了一種基于粒子群算法的深度學習系統魯棒性增強方法及裝置，其中公開的方法的步驟為：獲取圖像數據集并整理分類為訓練集和測試集；利用訓練集進行對抗攻擊預訓練干凈深度學習模型；構建魯棒評估指標評估訓練好的深度學習模型；構建零階和一階損失函數度量用于評估測試集與訓練好的深度學習模型之間的關系；將一階魯棒性度量指標作為優化目標函數，從測試集中采集部分良性圖像作為初始粒子并初始化粒子的位置和速度，以優化目標函數為最大目標采用粒子群優化算法對初始粒子的位置和速度進行迭代更新以生成測試樣本；利用生成的測試樣本與測試數據集重新訓練深度學習模型獲得魯棒防御模型；對防御后模型受攻擊的敏感性進行評估。

技術領域

本發明涉及深度學習安全領域，特別涉及一種基于粒子群算法的深度學習系統魯棒性增強方法及裝置。

背景技術

隨著深度學習的快速發展，許多現實世界問題達到前所未有的突破的背后都是深度學習作為核心驅動力。

深度學習盡管已經取得了巨大的發展，但是深度學習系統易受到對抗性攻擊的影響，對抗性攻擊的對抗樣本是在原始樣本的基礎上增加輕微擾動，與人類觀察者的正常輸入有著輕微的不同，但很容易欺騙深度學習系統做出錯誤的決策。對抗性攻擊的存在不僅損害了深度學習系統的可靠性和魯棒性，還導致了在人臉識別、惡意軟件檢測、醫療診斷、自動駕駛等安全等應用中不數深度學習系統的安全性問題。

在軟件工程社區中已經做出了顯著的努力來減輕對抗攻擊的威脅，并在對抗樣本存在的情況下提高深度學習系統的魯棒性?，F有的測試方法分為形式化的魯棒性驗證和系統測試兩個方向，旨在及時發現深度學習模型的潛在缺陷以便進行理想的缺陷修復。

形式驗證旨在證明在給定輸入的鄰域內不存在敵對的攻擊樣本，使用抽象解釋、決策邊界魯棒性分析和可達性分析等方法已經取得了實質性進展。然而，形式驗證技術通常是昂貴的，并且僅適用于有限的模型結構和屬性。

系統測試旨在生成可以暴露深度學習模型漏洞的測試樣本，然后，測試樣本可以通過重新訓練模型來提高模型的魯棒性；但是，最近的研究結果表明，即使是基于現有的測試度量生成的測試樣本與模型的魯棒性并無直接的關系，這將導致重訓練后的深度學習模型的魯棒性提升度將受限。

對于以上問題，一方面，需要構建具有代表性的測試指標與模型的魯棒性直接相關聯，實現細粒度的深度學習模型詳盡測試；另一方面，對于重訓練來說，需要生成與魯棒性提升直接相關的具有代表性的測試樣本。

發明內容

為解決現有技術中存在的問題，本發明提供一種基于粒子群算法的深度學習系統魯棒性增強方法及裝置，該方法具有良好的適用性，能夠有效的評估模型的安全性，獲得的樣本能夠良好的修復模型潛在缺陷，并且不影響正常樣本的正確率。

一種基于粒子群算法的深度學習系統魯棒性增強方法，所述方法包括如下步驟：

獲取圖像數據集，并將圖像數據集進行整理分類為訓練集和測試集；并利用訓練集進行對抗攻擊，預訓練干凈深度學習模型；

構建魯棒評估指標對訓練好的深度學習模型的魯棒性進行評估；

構建零階和一階損失函數度量用于評估圖像測試集與訓練好的深度學習模型之間的關系；

將一階魯棒性度量指標作為優化目標函數，

從圖像測試集中采集部分良性圖像作為初始粒子，并初始化粒子的位置和速度，以優化目標函數為最大目標，采用粒子群優化算法對初始粒子的位置和速度進行迭代更新以生成測試樣本；

利用生成的測試樣本與測試數據集一起重新訓練深度學習模型，獲得魯棒防御模型；

對防御后模型受攻擊的敏感性進行評估。