[發明專利]一種基于對抗攻擊的圖像語義信息敏感像素域的篩選方法及應用方法與系統

在審

• 申請號: 202111555905.1
• 申請日: 2021-12-17
• 公開（公告）號: CN114220097A
• 公開（公告）日: 2022-03-22
• 發明（設計）人: 彭大天;楊君剛;張明江;王程遠;江磊;王天琦
• 申請（專利權）人: 中國人民解放軍國防科技大學
• 主分類號: G06V20/70
• 分類號: G06V20/70;G06V10/72;G06V10/764;G06V10/82;G06K9/62;G06N3/04;G06N3/08
• 代理公司: 長沙市融智專利事務所(普通合伙) 43114
• 代理人: 姚瑤

本發明公開了一種基于對抗攻擊的圖像語義信息敏感像素域的篩選方法及應用方法與系統，所述方法包括：1)獲取待分析的目標圖像，并將其作為輸入圖像；2)將輸入圖像輸入至若干對抗攻擊算法，并分別作用于若干類神經網絡執行無特定目標攻擊模式，進而生成若干個對抗樣本；3)計算每個對抗樣本與所述輸入圖像的差值得到對抗擾動；4)統計每個對抗擾動中被篡改的像素位置得到若干個擾動位置集；5)對擾動位置集中的像素點位置進行精選得到圖像語義信息敏感像素域。本發明所述方法將對抗攻擊算法和神經網絡模型相結合，融合了多個擾動所定位的圖像像素位置集，最終提高了圖像語義信息敏感像素域的篩選效率和識別精度。

技術領域

本發明屬于圖像語義信息分析技術，具體涉及一種基于對抗攻擊的圖像語義信息敏感像素域的篩選方法及應用方法與系統。

背景技術

隨著海量數據的不斷積累、計算能力的快速發展、機器學習方法的持續創新，包括深度卷積神經網絡在內的人工智能技術在圖像識別、目標檢測、人臉識別等領域得到普遍部署和廣泛應用，深刻影響著人們生活方式。然而，深度學習模型的“黑盒”屬性帶來了安全可信問題，呈現易受對抗樣本欺騙的脆弱性，而且模型決策過程可解釋性差，使得人工智能系統可用性和數據完整性受到嚴重挑戰。研究圖像語義信息敏感像素域的篩選方法，有助于定位圖像中的特定目標和可視化圖像哪一部分像素域最大化激活了深度卷積神經網絡并在一定程度上可解釋正確分類的決策過程。利用圖像語義信息敏感像素域的可視化結果可以驗證深度卷積神經網絡“黑盒”決策的可信性，特別是在分類出現錯誤的情況下，是確保人工智能系統安全可信決策的重要途徑。

為了標識用于表征圖像類別的語義信息，現有研究往往利用多通道特征圖加權融合而成的類激活圖及其變體，或者采用梯度后向傳播構建類別可區分的顯著圖。然而，一旦出現模型訓練過擬合問題所引起的分類泛化能力不足或者模型遭受對抗攻擊所誘發的誤分類情形，這兩類方法將失效，他們僅適用于深度卷積神經網絡決策過程中沒有遭受任何惡意攻擊且具有高置信度的正確分類場景。另一類工作假設深度卷積神經網絡具有強泛化性和高分類精度情況下，利用多種隨機擾動圖像像素點方法，如灰度框遮擋、摳圖、變形等，用以標識哪一部分像素域對于最終分類得分的變化更加敏感和關鍵。這類工作試圖采用逆向思維方法篩選圖像語義信息敏感像素域，但普遍存在篩選效率較低、敏感像素域識別不準等缺點，進而亟需提出相關技術予以克服。

發明內容

本發明的目的是針對上述現有技術存在的至少部分問題/缺陷，提出一種基于對抗攻擊的圖像語義信息敏感像素域的篩選方法及應用方法與系統。所述方法面向多類深度神經網絡的多種對抗攻擊算法所構造的攻擊擾動，融合多個擾動所定位的圖像像素位置集，進而提高圖像語義信息敏感像素域的篩選效率和識別精度，此外以執行無特定目標攻擊模式來獲取對抗樣本，促使得到基于最優對抗擾動下的對抗樣本，最終提高了圖像語義信息敏感像素域的篩選精度。

一方面，本發明提供的一種基于對抗攻擊的圖像語義信息敏感像素域的篩選方法，其包括以下步驟：

步驟1：獲取待分析的目標圖像，并將其作為輸入圖像；

步驟2：將所述輸入圖像輸入至若干對抗攻擊算法，并分別作用于若干類神經網絡執行無特定目標攻擊模式，進而生成若干個對抗樣本；其中，一類對抗攻擊算法和一類神經網絡至少對應一個對抗樣本；

步驟3：計算每個對抗樣本與所述輸入圖像的差值得到對抗擾動；

步驟4：統計每個對抗擾動中被篡改的像素位置得到若干個擾動位置集；

步驟5：對所述若干個擾動位置集中的像素點位置進行精選，篩選出圖像語義信息敏感像素域，其中，在所有擾動位置集中各個像素點位置的出現頻率/次數越高，落入圖像語義信息敏感像素域的概率越大；或者擾動位置集中重疊區域越大時，其區域內的像素點落入圖像語義信息敏感像素域的概率越大。

可選地，步驟5中篩選圖像語義信息敏感像素域的過程為：

統計每個像素點位置在所有擾動位置集中的出現總次數；