[發明專利]深度學習圖像對抗樣本防御方法、裝置、設備及存儲介質

在審

• 申請號: 202011635211.4
• 申請日: 2020-12-31
• 公開（公告）號: CN112651459A
• 公開（公告）日: 2021-04-13
• 發明（設計）人: 龔云鵬
• 申請（專利權）人: 廈門易仕特儀器有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08
• 代理公司: 廈門原創專利事務所(普通合伙) 35101
• 代理人: 徐東峰

本發明提供一種深度學習圖像對抗樣本防御方法、裝置、設備及可讀存儲介質。該方法包括獲取深度學習模型和具有多張原始圖像的圖像訓練數據集；將所述圖像訓練數據集隨機劃分成多個批次，得到多個小批量樣本，其中，按照隨機概率對部分小批量樣本進行隨機圖像變換處理；使用每一所述小批量樣本對所述深度學習模型進行訓練，直至所有的小批量樣本均完成對所述深度學習模型的訓練；重復訓練，直至所述深度學習模型完成訓練。本發明提供的防御方法通過不同模態同質圖像的融合和混合可以為輸入數據帶來豐富的差異性變化，會使得攻擊方法所能找到的數據集的對抗空間難以對齊這種變化，這相當于原始對抗空間受到了擾動,從而產生比較好的防御效果。

技術領域

本發明涉及人工智能技術領域，具體而言，涉及一種深度學習圖像對抗樣本防御方法、裝置、設備及存儲介質。

背景技術

隨著計算機技術的快速進步，深度學習得到了爆炸式發展，特別是在計算機視覺領域，深度學習受到了廣泛研究，并在行人重識別、交通監測等諸多領域得到了充分應用。但是，深度學習模型也面臨嚴峻的安全問題，特別是容易受到對抗樣本的攻擊。對抗樣本是一類通過人為手段向正常圖片中添加輕微擾動而形成的惡意圖片，其能夠誤導基于神經網絡的圖像分類模型，導致神經網絡完全改變它對圖片的分類，進而被攻擊者加以利用，這會對系統的可靠性和安全性帶來很大的負面影響。這些對抗樣本僅有很輕微的擾動，以至于人類視覺系統無法察覺這種擾動。特別是在行人重識別領域，檢查其對抗防御能力是相當重要的，因為行人重識別模型的不安全可能會造成嚴重的損失，例如，罪犯可能會利用對抗性干擾來欺騙監控系統。目前，對基于深度神經網絡的行人重識別系統對抗攻擊的防御剛剛開始。因此，開發出有效的行人重識別對抗性防御方法成為了一個亟待解決的問題。

需要說明的是，在上述背景技術部分公開的信息僅用于加強對本發明的背景的理解，因此可以包括不構成對本領域普通技術人員已知的現有技術的信息。

發明內容

本發明的目的在于提供一種深度學習圖像對抗樣本防御方法、裝置、設備及存儲介質，針對為行人重識別領域提供一種簡單高效的防御方法，也為模型的性能帶來了進一步的提升。

根據本發明實施例的第一方面，提供一種深度學習圖像對抗樣本防御方法，包括：

S11，獲取深度學習模型和具有多張原始圖像的圖像訓練數據集；

S12，將所述圖像訓練數據集隨機劃分成多個批次，得到多個小批量樣本，其中，按照隨機概率對部分所述小批量樣本進行隨機圖像變換處理；

S13，使用每一所述小批量樣本對所述深度學習模型進行訓練，直至所有的小批量樣本均完成對所述深度學習模型的訓練；

S14，重復步驟S12～S13，直至所述深度學習模型完成訓練。

在本發明的一種示例性實施例中，按照隨機概率對部分所述小批量樣本進行隨機圖像變換處理，具體為：

S121，按照隨機概率P₁對部分所述小批量樣本進行圖像同質化變換處理，得到同質圖像樣本，其中，0＜P₁＜1；和/或

S122，按照隨機概率P₂對部分部分所述小批量樣本進行圖像同質化變換處理得到同質圖像樣本后，再對所述同質圖像樣本進行通道融合處理，得到多模態圖像樣本，其中，0＜P₂＜1。

在本發明的一種示例性實施例中，圖像同質化變換處理的方法包括轉換為灰度圖像、轉換為素描圖像、轉換為其他顏色空間圖像、增加/減少亮度、增加/減少對比度、增加/減少銳度、圖像風格遷移、提取圖像邊緣和提取圖像紋理中的一種或多種。

在本發明的一種示例性實施例中，對所述同質圖像樣本進行通道融合處理，具體為：