[發明專利]攻擊樣本的獲取方法、裝置、設備及介質

在審

• 申請號: 202010610570.8
• 申請日: 2020-06-30
• 公開（公告）號: CN111783982A
• 公開（公告）日: 2020-10-16
• 發明（設計）人: 劉彥宏
• 申請（專利權）人: 平安國際智慧城市科技股份有限公司
• 主分類號: G06N3/08
• 分類號: G06N3/08;G06N3/04;G06K9/62
• 代理公司: 深圳市沃德知識產權代理事務所(普通合伙) 44347
• 代理人: 高杰;于志光

1.一種攻擊樣本的獲取方法，其特征在于，所述方法包括：

獲取分類模型及獲取所述分類模型的訓練數據及所述訓練數據對應的數據標簽；

利用攻擊算法生成與所述訓練數據對應的擾動數據；

利用所述分類模型對所述擾動數據進行預測，得到預測標簽；

當所述預測標簽與所述訓練數據對應的數據標簽不一致時，確定所述擾動數據為初始攻擊樣本；

利用梯度下降算法對所述初始攻擊樣本進行預設次數的迭代計算，并且計算迭代產生的所有初始更新攻擊樣本與所述訓練數據的距離值，獲取最小距離值對應的初始更新攻擊樣本為標準攻擊樣本。

2.如權利要求1所述的攻擊樣本的獲取方法，其特征在于，所述利用攻擊算法生成與所述訓練數據對應的擾動數據，包括：

利用攻擊算法對所述訓練數據加入擾動因子，得到所述擾動數據。

3.如權利要求2所述的攻擊樣本的獲取方法，其特征在于，所述訓練數據為訓練圖像，所述攻擊算法為：

Trans＝(δ_R+_R)+(δ_G+_G)+(δ_B+_B)

其中，Trans為擾動數據，x_R、x_G、x_B為所述訓練圖像中任一像素點的三分量，δ_R、δ_G、δ_B為擾動因子中任一像素點的三分量，所述擾動因子是與所述訓練圖像大小相同的圖像。

4.如權利要求1所述的攻擊樣本的獲取方法，其特征在于，所述利用梯度下降算法對所述初始攻擊樣本進行預設次數的迭代計算，包括：

設置迭代參數，其中，所述迭代參數包括迭代次數；

初始化迭代參數，將所述分類模型自帶的權重參數固定，對所述分類模型中的損失函數求梯度；

利用所述梯度對所述初始攻擊樣本進行更新，得到多個初始更新攻擊樣本；

將所述多個初始攻擊樣本投影到預設半徑的范數球的球面上；

對所述范數球上的范數進行裁剪，裁剪到預設像素區間內；

利用裁剪后的范數再次生成初始攻擊樣本并輸入至所述分類模型中進行判定，直至達到迭代的次數達到預設的迭代次數。

5.如權利要求1所述的攻擊樣本的獲取方法，其特征在于，所述計算迭代產生的所有初始更新攻擊樣本與所述訓練數據的距離值，包括：

利用如下距離算法計算迭代產生的所有初始更新攻擊樣本與所述訓練數據的距離值：

其中，L(X,Y)為所述距離值，x為所述訓練數據，y為所述訓練數據對應的數據標簽，f(x+δ)為初始更新攻擊樣本生成的預測標簽。

6.如權利要求1至5中任一項所述的攻擊樣本的獲取方法，其特征在于，所述利用梯度下降算法對所述初始攻擊樣本進行預設次數的迭代計算之后，所述方法還包括：

將每次迭代后產生的迭代結果存儲至備份數據庫所在的本地端；

將每次迭代后產生的迭代結果進行鏡像復制，得到鏡像迭代結果，將所述鏡像迭代結果存儲至所述備份數據庫的服務器所在的異地端。

7.如權利要求1所述的攻擊樣本的獲取方法，其特征在于，所述獲取所述分類模型的訓練數據，包括：

利用悲觀鎖的方式從用于存儲訓練數據的區塊鏈中獲取所述訓練數據。