[發明專利]基于圖像高階引導編碼重組的對抗樣本恢復方法及系統

有效

• 申請號: 202110668108.8
• 申請日: 2021-06-16
• 公開（公告）號: CN113392906B
• 公開（公告）日: 2022-04-22
• 發明（設計）人: 劉興偉;朱珂;廖明陽;王波;羅旭日
• 申請（專利權）人: 西華大學
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08;G06V10/764;G06V10/82
• 代理公司: 北京市領專知識產權代理有限公司 11590
• 代理人: 張玲

本發明涉及一種基于圖像高階引導編碼重組的對抗樣本恢復方法及系統，該方法包括以下步驟：對抗樣本輸入預先訓練好的編碼器中，由該編碼器將對抗樣本編碼為特征向量，并在該特征向量中引入高斯噪聲；將引入高斯噪聲的特征向量歸一化后輸入預先訓練好的解碼器中，輸出得到恢復后的圖像樣本；所述編碼器和解碼器同時訓練，編碼器的輸出作為解碼器的輸入，并在訓練過程中引入圖像分類器對解碼器輸出的圖像樣本進行分類，解碼器輸出的圖像樣本的損失為類別損失與圖像損失之和，所述圖像損失為輸入圖像和輸出圖像的回歸損失；訓練所采用的樣本為正常樣本。本發明不僅可以提高恢復效果，而且方法還特別簡單，適于應用推廣。

技術領域

本發明涉及深度學習的技術領域，特別涉及一種基于圖像高階引導編碼重組的對抗樣本恢復方法及系統。

背景技術

深度學習是學習樣本數據的內在規律和表示層次，這些學習過程中獲得的信息對諸如文字、圖像和聲音等數據的解釋有很大的幫助。它的最終目標是讓機器能夠像人一樣具有分析學習能力，能夠識別文字、圖像和聲音等數據。深度學習是一個復雜的機器學習算法，在語音和圖像識別方面取得的效果，遠遠超過先前相關技術。

深度學習能夠學習各種復雜的高維特征以及擬合各種復雜的樣本空間，使得它擁有非常強大的表達能力，因此在許多領域都獲得了巨大的成功。但是在深度學習的使用過程中，也存在很多的安全隱患問題，比如，它的算法缺陷、訓練模型的魯棒性以及用于模型訓練的數據完整性等；其中，對抗樣本攻擊就是其安全隱患之一。

對抗樣本較為通俗的理解就是在干凈的數據中添加一些經過人為精心構造的擾動形成的對抗樣本，這種擾動或者說噪音非常的小，人們肉眼不能輕易分辨出來是否有對抗樣本，但在深度學習進行分類時，這些對抗樣本可以“蒙騙”神經網絡模型使得分類器分類錯誤，這樣的話，若將對抗樣本應用到自然語言處理、人臉識別、自動駕駛等領域將會有極大的可能對人們的生命財產造成嚴重威脅。

對抗樣本防御中完全防御的思路一般有兩種，一是通過更改模型以提高魯棒性，二是對數據本身進行處理，將對抗因子視為噪聲，從圖像去噪的方向考慮恢復對抗樣本為干凈樣本。自編碼器是以重構自身為目標的，但是在重構的過程中，如果壓縮量太大則會導致部分重要特征丟失，從而無法實現重構或者重構之后的目標與原始目標相差甚遠，其次一般自編碼器在重構的過程中，只是簡單的拷貝原始特征，并且將這些特征完全恢復出來，容易形成學習恒等函數的現狀。因此對于含有對抗因子的對抗樣本而言，一般的自編碼器會連同對抗因子一起重構，導致重構后的樣本依然具有很高的攻擊性。

發明內容

本發明的目的在于提供一種基于圖像高階引導編碼重組的對抗樣本恢復方法及系統，基于去噪自編碼器的原理，可以降低甚至消除恢復后的對抗樣本的攻擊性，而且方法簡單，恢復效果更好。

為了實現上述發明目的，本發明實施例提供了以下技術方案：

一種基于圖像高階引導編碼重組的對抗樣本恢復方法，包括以下步驟：

獲取待恢復的對抗樣本，所述對抗樣本為圖像樣本；

將所述對抗樣本輸入預先訓練好的編碼器中，由該編碼器將對抗樣本編碼為特征向量，并在該特征向量中引入高斯噪聲；

將引入高斯噪聲的特征向量歸一化后輸入預先訓練好的解碼器中，由該解碼器將引入高斯噪聲的特征向量解碼為圖像，輸出得到恢復后的圖像樣本；

其中，所述編碼器和解碼器同時訓練，編碼器的輸出作為解碼器的輸入，并在訓練過程中引入圖像分類器對解碼器輸出的圖像樣本進行分類，解碼器輸出的圖像樣本的損失為類別損失與圖像損失之和，所述圖像損失為輸入圖像和輸出圖像的回歸損失；訓練所采用的樣本為正常樣本。

上述方案中通過引入類別損失，可以更好地引導圖片重構，得到更高質量的恢復圖像。