[發明專利]一種單步對抗訓練方法、系統、設備、存儲介質及產品

在審

• 申請號: 202111080178.8
• 申請日: 2021-09-15
• 公開（公告）號: CN113837253A
• 公開（公告）日: 2021-12-24
• 發明（設計）人: 唐可可;婁添瑞;史亞文;吳堅鵬;喬佳誠;邱俊杰;顧釗銓;李樹棟;李默涵;仇晶;韓偉紅;田志宏;殷麗華
• 申請（專利權）人: 廣州大學
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08
• 代理公司: 廣州三環專利商標代理有限公司 44202
• 代理人: 陳志明;郝傳鑫

本申請涉及一種單步對抗訓練方法、系統、設備、存儲介質及產品，其方法包括對干凈樣本和對應的標簽進行FGSM對抗攻擊；同時，基于上限值，對待生成的FGSM對抗樣本的步長進行裁剪，獲取裁剪樣本；對干凈樣本和裁剪樣本進行對抗訓練，直至所有訓練數據完成一次前向計算及反向傳播的過程；重復獲取干凈樣本和裁剪樣本，并對干凈樣本和裁剪樣本進行對抗訓練，直至完成全部的對抗訓練，獲得模型以防御攻擊。解決了現有對抗訓練方法魯棒性差或者用時過長的問題。本申請具有改善對抗訓練方法的魯棒性能和縮短訓練時長的效果。

技術領域

本申請涉及計算機視覺技術領域，尤其是涉及一種單步對抗訓練方法、系統、設備、存儲介質及產品。

背景技術

近些年，人工智能技術飛速發展，在許多領域給人們的生活帶來了巨大的便利，其井噴式發展的背后離不開深度學習理論和技術的突破。然而，深度學習技術常常因脆弱性和不可解釋性被人詬病。例如，在計算機視覺領域中，僅需要向原圖像上添加一些微小的、人眼難以察覺的擾動，就可以使得神經網絡的分類出錯，這種技術被稱為對抗攻擊技術。現在，許多計算機視覺領域的“安全重要場景”，例如自動駕駛、人臉識別等等，面臨著這種對抗攻擊以及模型不可解釋性的威脅和挑戰。

因此，提高神經網絡的魯棒性以及防御對抗攻擊的方法應運而生。其中，對抗訓練是一種主流的對抗防御方法，其主要思想是通過在訓練模型的同時，主動生成一些對抗樣本，并用主動生成的對抗樣本作為訓練集的擴充來對模型進行進一步的訓練，以提高模型對對抗攻擊的防御能力。

現有的對抗訓練方法主要分為單步對抗訓練和多步對抗訓練。但是，單步對抗訓練生成的模型對于多步迭代攻擊的防御效果非常差，多步對抗訓練雖改善了單步對抗訓練的防御性能，但訓練過程用時過長。

針對上述中的相關技術，發明人認為存在有現有的對抗訓練方法魯棒性差或者用時過長的缺陷。

發明內容

為了改善對抗訓練方法的魯棒性能和縮短訓練時長，本申請提供了一種單步對抗訓練方法。

第一方面，本申請提供一種單步對抗訓練方法，具有改善對抗訓練方法的魯棒性能和縮短訓練時長的特點。

本申請是通過以下技術方案得以實現的：

一種單步對抗訓練方法，包括以下步驟：

對干凈樣本和對應的標簽進行FGSM對抗攻擊待生成的FGSM對抗樣本；

同時，基于上限值，對待生成的FGSM對抗樣本待生成的FGSM對抗樣本的步長進行裁剪，獲取裁剪樣本；

對干凈樣本和所述裁剪樣本進行對抗訓練，直至所有訓練數據完成一次前向計算及反向傳播的過程；

重復獲取干凈樣本和裁剪樣本，并對干凈樣本和裁剪樣本進行對抗訓練，直至完成全部的對抗訓練，獲得模型以防御攻擊。

本申請在一較佳示例中可以進一步配置為：所述對干凈樣本和對應的標簽進行FGSM對抗攻擊待生成的FGSM對抗樣本的步驟包括：

通過FGSM對抗攻擊算法，建立干凈樣本和對應的標簽的損失函數；

求解所述損失函數關于所述干凈樣本的梯度；

基于符號函數得到求解的所述梯度的方向；

使所述梯度的方向乘以預設的步長，并將計算結果作為擾動值；

使所述擾動值與所述干凈樣本相加，并將計算結果作為擾動樣本。

本申請在一較佳示例中可以進一步配置為：所述預設的步長使得所述擾動值在L1范數的限制之內。

本申請在一較佳示例中可以進一步配置為：基于上限值，對待生成的FGSM對抗樣本待生成的FGSM對抗樣本的步長進行裁剪，獲取裁剪樣本的步驟包括：