[發明專利]基于條件標準流模型的黑盒對抗樣本生成方法

在審

• 申請號: 202210310612.5
• 申請日: 2022-03-28
• 公開（公告）號: CN114898168A
• 公開（公告）日: 2022-08-12
• 發明（設計）人: 劉仁陽;王汝欣;董云云;李釩效;聞永明
• 申請（專利權）人: 云南大學
• 主分類號: G06V10/771
• 分類號: G06V10/771;G06V10/82;G06N3/04;G06N3/08
• 代理公司: 成都行之智信知識產權代理有限公司 51256
• 代理人: 溫利平

1.一種基于條件標準流模型的黑盒對抗樣本生成方法，其特征在于，包括以下步驟：

S1：根據實際需要獲取若干圖像以及對應標簽，并將各圖像歸一化至預設尺寸作為原始樣本，從而得到原始樣本集合X；

采用收集到的原始樣本集X對目標攻擊模型進行訓練，然后使用白盒攻擊方法獲取原始樣本圖像集X中每幅樣本圖像x的對抗樣本x′，得到對抗樣本集合X′；

最終，將原始樣本集合X與對抗樣本集合X′作為條件標準流模型的訓練數據集；

S2：構建條件標準流模型，包括卷積神經網絡和條件GLOW模型，其中：

卷積神經網絡用于對輸入圖像提取圖像特征，將得到的特征作為條件變量輸入條件GLOW模型；

條件GLOW模型用于根據卷積神經網絡的條件變量對輸入圖像的對抗樣本進行編碼，得到對應的隱空間表示；條件GLOW模型由L-1個流組件、squeeze層和K個流塊堆疊構成，其中流組件由一個squeeze層、K個流塊以及一個split層堆疊構成，L和K的值根據需要確定；流塊為條件流塊，包括Actnorm層、1×1卷積層和仿射耦合層，其中：

Actnorm層用于對輸入的特征進行激活標準化，將得到的特征輸入1×1卷積層；

1×1卷積層用于對輸入的特征進行1×1卷積處理，將得到的特征輸入仿射耦合層；

仿射耦合層用于接收卷積層發送的特征以及卷積神經網絡發送的條件變量，進行仿射耦合處理后進行輸出；

S3：根據步驟S1所得到訓練樣本集，對條件標準流模型進行訓練；

S4：在條件標準流模型訓練完成后，將訓練樣本集中各個訓練樣本依次輸入訓練好的條件標準流模型，得到每個訓練樣本對應的隱空間表示，計算得到所有訓練樣本隱空間表示的均值μ和方差σ，得到隱空間表示的分布N(μ,σ²)；

S5：當需要對新的輸入圖像生成對抗樣本時，先將輸入圖像歸一化至預設尺寸得到輸入圖像然后由條件標準流模型中的卷積神經網絡提取得到輸入圖像的條件變量根據條件變量對步驟S4得到的分布進行采樣得到隱空間表示由條件標準流模型中的條件GLOW模型根據隱空間表示和條件變量進行逆向推理得到輸入圖像x^*的初始對抗樣本然后使用裁剪函數對初始對抗樣本進行處理，得到最終的對抗樣本其公式如下：

其中，Clip()表示預設的裁剪函數，ε表示預設的擾動參數。

2.根據權利要求1所述的黑盒對抗樣本生成方法，其特征在于，所述卷積神經網絡為VGG-19模型，將最后一級卷積層輸出的特征作為提取的特征。

3.根據權利要求1所述的黑盒對抗樣本生成方法，其特征在于，所述步驟S3中條件標準流模型的訓練方法如下：

S3.1：從訓練樣本集合中隨機選擇B個訓練樣本作為當前批次訓練樣本，B表示批次大小，其取值根據實際需要確定；

S3.2：判斷迭代輪次t是否滿足預設條件，如果是，進入步驟S3.3，否則進入步驟S3.4；

S3.3：計算當前批次中每個訓練樣本的隱空間損失L(θ；z,x′,c)，然后平均得到當前批次的隱空間損失，隱空間損失L(θ；z,x′,c)的計算公式如下：

其中，x、x′分別表示輸入的原始樣本和對應的對抗樣本，c表示卷積神經網絡對輸入圖像x提取得到的條件變量，p_z()表示分布，表示網絡參數為θ的條件GLOW模型根據輸入的對抗樣本x′和條件變量c所得到的隱空間表示z，表示雅可比行列式，||表示求取絕對值；

S3.4：從當前批次中隨機抽取一批訓練樣本，計算所抽取每個訓練樣本的圖像損失L_MSE(θ；z,c)，然后平均得到當前批次的圖像損失，圖像損失L_MSE(θ；z,c)的計算公式如下：

L_MSE(θ；z,c)＝||f_θ(z；c)-x′||₂

其中，f_θ(z；c)表示網絡參數為θ的條件GLOW模型根據隱空間表示z和條件c進行逆向推理所得到的對抗樣本；

S3.5：根據當前所計算得到的損失更新條件標準流模型的參數；

S3.6：判斷是否達到訓練結束條件，如果是，則訓練結束，否則返回步驟S3.1。