[發明專利]一種基于生成機制的高分辨率對抗樣本的合成方法

在審

• 申請號: 202110621340.6
• 申請日: 2021-06-03
• 公開（公告）號: CN113344814A
• 公開（公告）日: 2021-09-03
• 發明（設計）人: 李志偉;方賢進;楊高明
• 申請（專利權）人: 安徽理工大學
• 主分類號: G06T5/00
• 分類號: G06T5/00;G06K9/46;G06K9/62;G06N3/04;G06N3/08
• 代理公司: 北京同輝知識產權代理事務所(普通合伙) 11357
• 代理人: 苗苗

本發明涉及深度學習計算機視覺領域，具體的是一種基于生成機制的高分辨率對抗樣本的合成方法，包括以下步驟：首先使用數據增強技術對高分辨率的數據集進行預處理，來獲得復雜的數據分布以減少生成對抗網絡在訓練時出現過擬合現象；接著使用特征提取模型來提取輸入的深層特征；然后結合主成分分析(PCA)和基于核函數的主成分分析(KPCA)方法，在保持原始輸入96％以上的特征的同時將輸入映射到噪聲矢量；最后將上述特征和噪聲矢量作為生成對抗網絡生成器的輸入進行訓練，進而合成具有高分辨率的對抗樣本。本發明實現了在高分辨率圖像上產生更自然的擾動；提升了在復雜深度學習模型上的攻擊成功率；合成了具有較好遷移性的強語義關聯對抗樣本。

技術領域

本發明涉及深度學習計算機視覺領域，具體的是一種基于生成機制的高分辨率對抗樣本的合成方法。

背景技術

深度神經網絡的最新成就使得計算機視覺、語音識別、自然語言處理、和Web挖掘等領域取得了重大突破。然而Szegedy等人提出對抗樣本的概念，通過在原始良性輸入圖片的像素上添加人類難以感知的微小擾動，可以誘導深度學習模型將輸入示例錯誤分類為其他類別，從而導致性能顯著降低。Nguyen等人提出，深度學習模型可以高置信度地對人類無法識別的某些實例進行分類，這意味著深度學習模型非常脆弱。隨著對抗樣本這一概念的提出，圍繞生成對抗樣本的算法開始大量涌現，并且出現了各種各樣的流派。這種現象對于深度學習的攻擊和防御方面都具有重大的實際意義。其中攻擊策略可分為以下幾類：

1、基于敏感度分析，對抗攻擊使用敏感度分析(一種用于確定每個輸入特征對輸出的貢獻的算法)來發現敏感特征并對其進行干擾。在這一類別中具有代表性的算法，例如FGSM，JSMA和PGD。通常，這些攻擊比基于優化的攻擊要快也更直接，因此，它們更適合被整合到深度學習模型的訓練過程中并提高其魯棒性；

2、基于優化，攻擊者使用優化算法來搜索解決方案，替代形式或約束。一些有代表性的算法是L-BFGS，DeepFool，CW等。盡管基于靈敏度分析的攻擊更為普遍，但這些都需要對受攻擊系統有全面的了解。與基于靈敏度分析的方法相比，基于優化的攻擊在黑盒方案中使用更多；

3、基于生成機制，使用生成模型學習對抗擾動的概率分布，并將其用于采樣新的對抗樣本。一個有代表性的生成模型是生成對抗網絡(GAN)，它不同于上面基于優化和基于敏感性分析的方法。一旦生成器學習了輸入示例的分布，就可以在短時間內產生大量的對抗擾動。一些典型的算法是AdvGAN，Natural GAN，Rob-GAN等。

值得注意的是，由于數據量大，所需的計算資源高，之前基于生成機制算法合成對抗樣本是使用小型和簡單的數據集(例如MNIST，CIFAR-10和Tiny-ImageNet(64像素))進行訓練的。這導致生成的對抗樣本可視化效果不佳。此外通過增加迭代次數或調整相關的超參數，會使得訓練模型在小規模數據集上出現過擬合。這會導致生成的對抗樣本在白盒攻擊下會表現出良好的性能，但當對抗樣本被轉移到其他模型進行測試時，性能表現就會較差。因此一種基于生成機制的高分辨率對抗樣本的合成方法來解決上述問題，并且通過高分辨率對抗樣本來發現深度學習模型中的盲點來提升整個模型的魯棒性尤其重要。

發明內容

為解決上述背景技術中提到的不足，本發明的目的在于提供一種基于生成機制的高分辨率對抗樣本的合成方法。

本發明的目的可以通過以下技術方案實現：

一種基于生成機制的高分辨率對抗樣本的合成方法，所述合成方法包括以下步驟：

步驟1、選取大規模高分辨率數據集，并且對選取的數據集X進行圖片增強，生成增強數據X′；

步驟2、使用VGG19作為特征提取函數F_x()對輸入x′(x′∈X′)進行特征提取；

步驟3、使用主成分分析(PCA)的線性降維方法將x′映射到相應的噪聲矢量z；