[發(fā)明專利]神經(jīng)網(wǎng)絡(luò)的對抗訓(xùn)練方法、裝置、計算機設(shè)備及存儲介質(zhì)

在審

• 申請?zhí)枺?/td>: 202110726303.1
• 申請日: 2021-06-29
• 公開（公告）號: CN113822318A
• 公開（公告）日: 2021-12-21
• 發(fā)明（設(shè)計）人: 加小俊;張勇;吳保元;操曉春
• 申請（專利權(quán)）人: 騰訊科技（深圳）有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06K9/00;G06N3/04
• 代理公司: 北京三高永信知識產(chǎn)權(quán)代理有限責(zé)任公司 11138
• 代理人: 張所明

1.一種神經(jīng)網(wǎng)絡(luò)的對抗訓(xùn)練方法，其特征在于，所述方法包括：

將第一原始樣本輸入策略網(wǎng)絡(luò)，得到所述策略網(wǎng)絡(luò)輸出的所述第一原始樣本對應(yīng)的第一攻擊策略，所述第一攻擊策略是指對所述第一原始樣本進行擾動處理的處理方式；

基于所述第一攻擊策略和目標神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)參數(shù)，對所述第一原始樣本進行擾動處理，得到第一對抗樣本；

基于所述第一對抗樣本以及第一樣本標注，對抗訓(xùn)練所述目標神經(jīng)網(wǎng)絡(luò)和所述策略網(wǎng)絡(luò)，所述第一樣本標注是所述第一原始樣本對應(yīng)的樣本標注。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述基于所述第一對抗樣本以及第一樣本標注，對抗訓(xùn)練所述目標神經(jīng)網(wǎng)絡(luò)和所述策略網(wǎng)絡(luò)，包括：

基于所述第一對抗樣本以及所述第一樣本標注，訓(xùn)練所述目標神經(jīng)網(wǎng)絡(luò)；

基于訓(xùn)練后的所述目標神經(jīng)網(wǎng)絡(luò)，訓(xùn)練所述策略網(wǎng)絡(luò)。

3.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述基于所述第一對抗樣本以及所述第一樣本標注，訓(xùn)練所述目標神經(jīng)網(wǎng)絡(luò)，包括：

將所述第一對抗樣本輸入所述目標神經(jīng)網(wǎng)絡(luò)，得到所述目標神經(jīng)網(wǎng)絡(luò)輸出的第一預(yù)測標注；

基于所述第一預(yù)測標注和所述第一樣本標注，確定第一預(yù)測損失，所述第一預(yù)測損失用于評估所述目標神經(jīng)網(wǎng)絡(luò)對于對抗樣本的預(yù)測準確性；

以提高對對抗樣本的預(yù)測準確性為訓(xùn)練目標，基于所述第一預(yù)測損失，訓(xùn)練所述目標神經(jīng)網(wǎng)絡(luò)。

4.根據(jù)權(quán)利要求3所述的方法，其特征在于，所述基于訓(xùn)練后的所述目標神經(jīng)網(wǎng)絡(luò)，訓(xùn)練所述策略網(wǎng)絡(luò)，包括：

基于訓(xùn)練后的所述目標神經(jīng)網(wǎng)絡(luò)，確定第二預(yù)測損失或第三預(yù)測損失，所述第二預(yù)測損失用于評估訓(xùn)練后的目標神經(jīng)網(wǎng)絡(luò)對于對抗樣本的預(yù)測準確性，所述第三預(yù)測損失用于評估訓(xùn)練后的目標神經(jīng)網(wǎng)絡(luò)對于原始樣本的預(yù)測準確性；

以提高對對抗樣本以及原始樣本的預(yù)測準確性為訓(xùn)練目標，基于所述第一預(yù)測損失，以及所述第二預(yù)測損失和所述第三預(yù)測損失中的至少一種，訓(xùn)練所述策略網(wǎng)絡(luò)。

5.根據(jù)權(quán)利要求4所述的方法，其特征在于，所述基于訓(xùn)練后的所述目標神經(jīng)網(wǎng)絡(luò)，確定第二預(yù)測損失或第三預(yù)測損失，包括：

將第二對抗樣本輸入訓(xùn)練后的所述目標神經(jīng)網(wǎng)絡(luò)，得到所述目標神經(jīng)網(wǎng)絡(luò)輸出的第二預(yù)測標注；

基于所述第二預(yù)測標注和第二樣本標注，確定所述第二預(yù)測損失，所述第二樣本標注是所述第二對抗樣本對應(yīng)第二原始樣本的樣本標注。

6.根據(jù)權(quán)利要求5所述的方法，其特征在于，所述網(wǎng)絡(luò)參數(shù)是第i次對抗訓(xùn)練后所述目標神經(jīng)網(wǎng)絡(luò)對應(yīng)的第i網(wǎng)絡(luò)參數(shù)，i為正整數(shù)；

所述將第二對抗樣本輸入訓(xùn)練后的所述目標神經(jīng)網(wǎng)絡(luò)，得到所述目標神經(jīng)網(wǎng)絡(luò)輸出的第二預(yù)測標注之前，所述方法還包括：

獲取訓(xùn)練后的所述目標神經(jīng)網(wǎng)絡(luò)對應(yīng)的第i+1網(wǎng)絡(luò)參數(shù)；

基于第二攻擊策略和所述第i+1網(wǎng)絡(luò)參數(shù)，對所述第二原始樣本進行擾動處理，得到所述第二對抗樣本，所述第二攻擊策略不同于所述第一攻擊策略。

7.根據(jù)權(quán)利要求4所述的方法，其特征在于，所述基于訓(xùn)練后的所述目標神經(jīng)網(wǎng)絡(luò)，確定第二預(yù)測損失或第三預(yù)測損失，包括：

將第三原始樣本輸入訓(xùn)練后的所述目標神經(jīng)網(wǎng)絡(luò)，得到所述目標神經(jīng)網(wǎng)絡(luò)輸出的第三預(yù)測標注；

基于所述第三預(yù)測標注和第三樣本標注，確定所述第三預(yù)測損失，所述第三樣本標注是所述第三原始樣本對應(yīng)的樣本標注。

8.根據(jù)權(quán)利要求1至7任一所述的方法，其特征在于，所述第一攻擊策略包含至少一個攻擊參數(shù)，每個攻擊參數(shù)對應(yīng)至少兩個候選參數(shù)值；

所述將第一原始樣本輸入策略網(wǎng)絡(luò)，得到所述策略網(wǎng)絡(luò)輸出的所述第一原始樣本對應(yīng)的第一攻擊策略，包括：

將所述第一原始樣本輸入所述策略網(wǎng)絡(luò)，得到所述策略網(wǎng)絡(luò)輸出的各個候選參數(shù)值的預(yù)測選取概率；

將同一攻擊參數(shù)中預(yù)測選取概率最高的候選參數(shù)值確定為目標參數(shù)值；

將各個攻擊參數(shù)對應(yīng)所述目標參數(shù)值的集合確定為所述第一攻擊策略。