[發明專利]一種單步對抗訓練方法、系統、設備、存儲介質及產品

在審

• 申請號: 202111080178.8
• 申請日: 2021-09-15
• 公開（公告）號: CN113837253A
• 公開（公告）日: 2021-12-24
• 發明（設計）人: 唐可可;婁添瑞;史亞文;吳堅鵬;喬佳誠;邱俊杰;顧釗銓;李樹棟;李默涵;仇晶;韓偉紅;田志宏;殷麗華
• 申請（專利權）人: 廣州大學
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08
• 代理公司: 廣州三環專利商標代理有限公司 44202
• 代理人: 陳志明;郝傳鑫

1.一種單步對抗訓練方法，其特征在于，包括以下步驟：

對干凈樣本和對應的標簽進行FGSM對抗攻擊待生成的FGSM對抗樣本；

同時，基于上限值，對待生成的FGSM對抗樣本的步長進行裁剪，獲取裁剪樣本；

對干凈樣本和所述裁剪樣本進行對抗訓練，直至所有訓練數據完成一次前向計算及反向傳播的過程；

重復獲取干凈樣本和裁剪樣本，并對干凈樣本和裁剪樣本進行對抗訓練，直至完成全部的對抗訓練，獲得模型以防御攻擊。

2.根據權利要求1所述的一種單步對抗訓練方法，其特征在于，所述對干凈樣本和對應的標簽進行FGSM對抗攻擊待生成的FGSM對抗樣本的步驟包括：

建立干凈樣本和對應的標簽的損失函數；

求解所述損失函數關于所述干凈樣本的梯度；

基于符號函數得到求解的所述梯度的方向；

使所述梯度的方向乘以預設的步長，并將計算結果作為擾動值；

使所述擾動值與所述干凈樣本相加，獲得擾動的樣本。

3.根據權利要求2所述的一種單步對抗訓練方法，其特征在于，所述預設的步長使得所述擾動值在L1范數的限制之內。

4.根據權利要求1所述的一種單步對抗訓練方法，其特征在于，基于上限值，對待生成的FGSM對抗樣本的步長進行裁剪，獲取裁剪樣本的步驟包括：

基于所有訓練數據完成一次前向計算及反向傳播的過程和步長之間的關系，建立裁剪公式；

根據所述裁剪公式，獲得上限值，以指導裁剪。

5.根據權利要求4所述的一種單步對抗訓練方法，其特征在于，基于上限值，對待生成的FGSM對抗樣本的步長進行裁剪，獲取裁剪樣本的步驟還包括：

設置所述裁剪公式的下限值，基于所述下限值，對待生成的FGSM對抗樣本的步長進行裁剪。

6.根據權利要求2所述的一種單步對抗訓練方法，其特征在于，對干凈樣本和所述裁剪樣本進行對抗訓練的步驟包括：

基于交叉熵函數計算所述裁剪樣本的損失，獲得第二損失值；

結合所述損失函數計算的損失值和所述第二損失值，利用反向傳播算法逐個計算神經網絡中各個神經元的梯度，并用總體梯度來對神經網絡中各個神經元的參數進行更新，優化神經網絡。

7.一種單步對抗訓練系統，其特征在于，包括：

預處理樣本生成模塊，用于使干凈樣本和對應的標簽進行FGSM對抗攻擊；

步長裁剪模塊，用于基于上限值，對待生成的FGSM對抗樣本的步長進行裁剪，獲取裁剪樣本；

對抗訓練模塊，用于對干凈樣本和所述裁剪樣本進行對抗訓練，直至所有訓練數據完成一次前向計算及反向傳播的過程；

防御模塊，用于重復獲取干凈樣本和裁剪樣本，并對干凈樣本和裁剪樣本進行對抗訓練，直至完成全部的對抗訓練，獲得模型以防御攻擊。

8.一種計算機設備，其特征在于，包括存儲器、處理器及存儲在存儲器上的計算機程序，所述處理器執行所述計算機程序以實現權利要求1-6任意一項所述方法的步驟。

9.一種計算機可讀存儲介質，其特征在于，所述計算機可讀存儲介質存儲有計算機程序，所述計算機程序被處理器執行時實現權利要求1-6任意一項所述方法的步驟。

10.一種計算機程序產品，其特征在于，包括計算機程序，所述計算機程序被處理器執行時實現權利要求1-6任意一項所述方法的步驟。