[發明專利]神經網絡的對抗訓練方法、裝置、計算機設備及存儲介質

在審

• 申請號: 202110726303.1
• 申請日: 2021-06-29
• 公開（公告）號: CN113822318A
• 公開（公告）日: 2021-12-21
• 發明（設計）人: 加小俊;張勇;吳保元;操曉春
• 申請（專利權）人: 騰訊科技（深圳）有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06K9/00;G06N3/04
• 代理公司: 北京三高永信知識產權代理有限責任公司 11138
• 代理人: 張所明

本申請公開了一種神經網絡的對抗訓練方法、裝置、計算機設備及存儲介質，涉及計算機技術領域。該方法包括：將第一原始樣本輸入策略網絡，得到策略網絡輸出的第一原始樣本對應的第一攻擊策略，第一攻擊策略是指對第一原始樣本進行擾動處理的處理方式；基于第一攻擊策略和目標神經網絡的網絡參數，對第一原始樣本進行擾動處理，得到第一對抗樣本；基于第一對抗樣本以及第一樣本標注，對抗訓練目標神經網絡和策略網絡，第一樣本標注是第一原始樣本對應的樣本標注。使得策略網絡在不同對抗訓練階段生成不同的攻擊策略，目標神經網絡在不同對抗訓練階段提升對不同攻擊策略的魯棒性。

技術領域

本申請實施例涉及計算機技術領域，特別涉及一種神經網絡的對抗訓練方法、裝置、計算機設備及存儲介質。

背景技術

隨著計算機技術的不斷發展，深度學習在不同技術領域中均取得了廣泛的應用，比如，圖像分類、目標檢測、機器翻譯等領域中。

在深度學習的研究過程中，發現存在對抗樣本，而機器學習方法對這些對抗樣本非常敏感，這些對抗樣本與干凈樣本非常相似，但是訓練完成的識別模型或分類模型很容易錯分這些對抗樣本的類別，比如，原有識別模型以57.7％的置信度判定圖像為熊貓，但對該圖像添加微小的擾動(即對抗樣本)，模型以99.3％的置信度認為擾動后的圖片是長臂猿，相關技術中通常通過對模型進行對抗訓練來防御對抗樣本攻擊。

顯然，在對抗訓練過程中，如何生成對抗樣本以提高對抗樣本的有效性是決定模型魯棒性的關鍵。

發明內容

本申請實施例提供了一種神經網絡的對抗訓練方法、裝置、計算機設備及存儲介質。所述技術方案如下：

根據本申請的一個方面，提供了一種神經網絡的對抗訓練方法，所述方法包括：

將第一原始樣本輸入策略網絡，得到所述策略網絡輸出的所述第一原始樣本對應的第一攻擊策略，所述第一攻擊策略是指對所述第一原始樣本進行擾動處理的處理方式；

基于所述第一攻擊策略和目標神經網絡的網絡參數，對所述第一原始樣本進行擾動處理，得到第一對抗樣本；

基于所述第一對抗樣本以及第一樣本標注，對抗訓練所述目標神經網絡和所述策略網絡，所述第一樣本標注是所述第一原始樣本對應的樣本標注。

根據本申請的另一方面，提供了一種神經網絡的對抗訓練裝置，所述裝置包括：

第一策略生成模塊，用于將第一原始樣本輸入策略網絡，得到所述策略網絡輸出的所述第一原始樣本對應的第一攻擊策略，所述第一攻擊策略是指對所述第一原始樣本進行擾動處理的處理方式；

第一擾動處理模塊，用于基于所述第一攻擊策略和目標神經網絡的網絡參數，對所述第一原始樣本進行擾動處理，得到第一對抗樣本；

第一訓練模塊，用于基于所述第一對抗樣本以及第一樣本標注，對抗訓練所述目標神經網絡和所述策略網絡，所述第一樣本標注是所述第一原始樣本對應的樣本標注。

根據本申請的另一方面，提供了一種計算機設備，所述計算機設備包括處理器和存儲器，所述存儲器中存儲有至少一段程序，所述至少一段程序由所述處理器加載并執行以實現如上方面所述的神經網絡的對抗訓練方法。

根據本申請的另一方面，提供了一種計算機可讀存儲介質，所述存儲介質中存儲有至少一條指令、至少一段程序、代碼集或指令集，所述至少一條指令、所述至少一段程序、所述代碼集或指令集由處理器加載并執行以實現如上方面所述的神經網絡的對抗訓練方法。

根據本申請的另一方面，提供了一種計算機程序產品或計算機程序，該計算機程序產品或計算機程序包括計算機指令，該計算機指令存儲在計算機可讀存儲介質中。計算機設備的處理器從計算機可讀存儲介質讀取該計算機指令，處理器執行該計算機指令，使得該計算機設備執行上述可選實現方式中提供的神經網絡的對抗訓練方法。