[發明專利]神經網絡分類識別中的對抗樣本生成的方法和裝置

在審

• 申請號: 202010417999.5
• 申請日: 2020-05-18
• 公開（公告）號: CN111461261A
• 公開（公告）日: 2020-07-28
• 發明（設計）人: 卜磊;段玉超;金亦凡;王林章;李宣東
• 申請（專利權）人: 南京大學
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/08
• 代理公司: 江蘇銀創律師事務所 32242
• 代理人: 孫計良

1.神經網絡分類識別中的對抗樣本生成的方法，其特征在于，該方法包括如下步驟：

S1：獲取用戶輸入的分類輸入和噪音空間并獲取用戶定義的合成函數f_syn和不滿足度評估函數f_dis；其中，分類輸入為通道向量，通道向量的每個元素為通道值；噪音空間為區間向量，區間向量的每個元素為定義了噪音下限和噪音上限的噪音區間；分類輸入和噪音空間具有相同維度；

分類輸入d_i|i∈[1..k]表示為第i通道的通道值；

噪音空間Δ_i＝[low_i,up_i]|i∈[1..k]，low_i,up_i表示為第i通道的噪音區間的噪音下限值和噪音上限值；

所述合成函數f_syn用于定義兩個通道向量的合成方法，其輸入為兩個通道向量，其中一個通道向量為分類輸入向量，另一個通道向量為噪音向量，其輸出為兩個通道向量合成后的分類輸入向量；

所述不滿足度評估函數f_dis用于定義對識別分類結果的不滿足度評估，其輸入參數有兩個，其中一個是最佳標簽，另一個是識別分類結果，其輸出為識別分類結果的不滿足度值；識別分類結果是神經網絡對分類輸入進行分類識別后得到的各分類標簽的概率分布圖；

S2：通過神經網絡對所述分類輸入進行分類識別得到識別分類結果，并根據識別分類結果的各分類標簽的概率分布圖選取其中概率最大的分類標簽作為目標優選分類標簽label_d；

S3：根據所述噪音空間通過隨機方式構建噪音向量集其中，

表示為噪音向量集B中第t個噪音向量，其中，

b_t,i|i∈[1..k]表示為噪音向量第i通道的噪音值，b_t,i＝random(low_i,up_i)；

n為預先設定的常數，n1；

random(low_i,up_i)表示為取low_i和up_i之間的隨機值；

S4：以用戶所輸入的分類輸入和噪音向量集B中的噪音向量分別作為用戶所定義的合成函數f_syn的分類輸入向量輸入參數和噪音向量輸入參數調用用戶所定義的合成函數f_syn，將用戶所輸入的分類輸入和噪音向量集B中的各個噪音向量進行合成，得到合成分類輸入向量集其中，

表示為合成分類輸入向量集H中第t個合成分類輸入向量；

h_ti|i∈[1..k]表示為合成分類輸入向量第i通道的通道值；

S5：通過神經網絡對合成向量集H中的各個合成分類輸入向量進行分類識別得到識別分類結果集其中，m_t|t∈[1..n]是合成分類輸入向量集H中合成分類輸入向量對應的識別分類結果；

S6：判斷識別分類結果集中的識別分類結果是否存在概率最大的分類標簽與所述目標優選分類標簽label_d不相同，若存在不相同的情形，則將識別分類結果所對應的合成分類輸入向量作為對抗樣本輸出并結束；

S7：以所述目標優選分類標簽label_d和分類結果集中的識別分類結果分別作為用戶所定義的不滿足度評估函數f_dis的最佳標簽輸入參數和識別分類結果輸入參數調用用戶所定義的不滿足度評估函數f_dis，得到噪音向量集B中各個噪音向量所對應的不滿足度值；

S8：從不滿足度值最小的G個噪音向量中隨機選取噪音向量作為優選噪音向量其中，優選噪音向量G為預先設定的常數；

S9：對所述噪音空間進行收縮得到子噪音空間其中，

子噪音空間其中，

Δ_r,i＝[low_r,i,up_r,i]，i∈[1..k]；且有，low_r,i≥low_i，up_r,i≤up_i；

low_r，i和up_r，i分別是子噪音空間第i通道的噪音區間的噪音下限值和噪音上限值；

S10：根據所述優選噪音向量噪音空間和子噪音空間構建變異噪音向量集X；其中，變異噪音向量集其中，

若Δ_r,i和Δ_i相同，則x_t,i＝b_y,i，否則x_t,i＝random(low_r,i,up_r,i)，i∈[1..k]；

S11：將所述變異噪音向量集X作為所述噪音向量集B重復步驟S4至S10。