[發明專利]一種認證半徑引導攻擊方法、優化訓練方法及系統

有效

• 申請號: 202110583029.7
• 申請日: 2021-05-27
• 公開（公告）號: CN113052314B
• 公開（公告）日: 2021-09-14
• 發明（設計）人: 周潘;吳啟銘;屈文杰;謝雨來;李瑞軒
• 申請（專利權）人: 華中科技大學
• 主分類號: G06N3/08
• 分類號: G06N3/08;G06K9/62
• 代理公司: 武漢藍寶石專利代理事務所(特殊普通合伙) 42242
• 代理人: 嚴超

1.一種語義分割模型的認證半徑引導攻擊方法，其特征在于，包括：

對訓練樣本集的每一張原始圖片，添加高斯噪聲，獲取每一張原始圖片對應的第一圖片；

計算每一張第一圖片的認證半徑；

采用投影梯度下降法對每一張第一圖片進行第一次迭代處理，以及結合所述認證半徑和投影梯度下降法對每一張第一圖片進行剩余次數的迭代處理，得到迭代處理后的第二圖片，其中，所有的第二圖片形成對抗樣本集；

利用對抗樣本集對語義分割模型進行攻擊測試；

其中，所述語義分割模型用于對圖片中的目標進行分割；

所述采用投影梯度下降法對每一張第一圖片進行第一次迭代處理，包括：

其中，x表示訓練樣本集中的原始圖片，x¹為原始圖片x經過第一次迭代后的輸出，代表圖片x第一次迭代的梯度值，代表迭代過程中的步長；

所述結合認證半徑和投影梯度下降法對每一張第一圖片進行剩余次數的迭代處理，包括：

其中，x^t為原始圖片x經過第t次迭代后的輸出，R^t為原始圖片第t次迭代后的認證半徑。

2.根據權利要求1所述的認證半徑引導攻擊方法，其特征在于，通過如下公式計算每一張第一圖片的認證半徑：

其中，F(x)為優化后的語義分割模型，E代表期望值，代表高斯逆累積分布函數(Gaussian Inverse CDF function) ，代表高斯核，代表滿足高斯分布的統計變量，表示原始圖片經過優化前的語義分割模型后的輸出，R_i代表訓練樣本集中的第i張原始圖片的認證半徑, F(x)_iA和F(x)_iB分別表示第i張原始圖片經過優化后的語義分割模型后輸出的預測分割圖中像素值最大的像素點和像素值第二大的像素點的索引值。

3.根據權利要求1所述的認證半徑引導攻擊方法，其特征在于，所述利用對抗樣本集對語義分割模型進行攻擊測試，包括：

將對抗樣本集中的每一張第二圖片輸入語義分割模型中，獲取輸出的每一張第二圖片的真實分割結果；

根據每一張第二圖片的真實分割結果與預測分割結果，計算語義分割模型的MIOU值；

基于語義分割模型的MIOU值，判定對語義分割模型的攻擊測試是否成功。

4.一種語義分割模型的優化訓練方法，其特征在于，包括：

基于權利要求1所述的認證半徑引導攻擊方法對語義分割模型進行攻擊測試；

當攻擊測試結果為攻擊成功時，對語義分割模型的損失函數進行優化；

利用優化后的損失函數與對語義分割模型進行優化訓練，得到優化訓練后的語義分割模型。

5.根據權利要求4所述的優化訓練方法，其特征在于，所述優化后的損失函數包括第一損失函數和第二損失函數，所述第一損失函數為利用訓練樣本集對語義分割模型訓練時的損失函數，所述第二損失函數為利用對抗樣本集對語義分割模型訓練時的損失函數。

6.根據權利要求5所述的優化訓練方法，其特征在于，所述第二損失函數為：

；

其中，n為對抗樣本集中的第二圖片的數量，R_i代表訓練樣本集中的第i張原始圖片的認證半徑，代表第i張原始圖片對應的第i張第二圖片的認證半徑，CR_LOSS為第二損失函數，x表示原始圖片，x’表示第二圖片，F_iA(x)和F_iB(x)分別表示第i張原始圖片經過優化后的語義分割模型后輸出的預測分割圖中像素值最大的像素點和像素值第二大的像素點的索引值，F_iA(x’)和F_iB(x’)分別表示第i張第二圖片經過優化后的語義分割模型后輸出的預測分割圖中像素值最大的像素點和像素值第二大的像素點的索引值，代表高斯逆累積分布函數。