[發明專利]一種基于微生物遺傳算法的黑盒對抗樣本生成方法

有效

• 申請號: 202010585924.8
• 申請日: 2020-06-24
• 公開（公告）號: CN111797975B
• 公開（公告）日: 2022-02-15
• 發明（設計）人: 王麗娜;楊康;王文琦;葉傲霜;柯劍鵬
• 申請（專利權）人: 武漢大學
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08;G06N3/12
• 代理公司: 武漢科皓知識產權代理事務所(特殊普通合伙) 42222
• 代理人: 王琪

1.一種基于微生物遺傳算法的黑盒對抗樣本生成方法，其特征在于，包括如下步驟：

步驟1，加載需要產生對抗樣本的正常圖像x；

步驟2，使用遷移攻擊產生正常圖像x的候選對抗樣本；

步驟3，用遷移攻擊產生的候選對抗樣本初始化微生物遺傳算法的種群；

步驟4，對種群進行選擇、交叉、變異、更新操作，最后判斷種群中是否存在對抗樣本，如果存在，則結束；如果不存在，重復選擇、交叉、變異、更新操作，直到生成最終的對抗樣本；

步驟4中選擇操作是通過隨機選擇兩個雙親，然后通過比較它們的適應度函數值，得到一個贏家和一個輸家，贏家具有更大的適應度函數值，用于后續的交叉和變異操作；其中適應度函數在無目標攻擊下為L(x+δ，y^true)，在指定目標攻擊下為L(x+δ，t)，其中L表示本地模型的損失函數，x為加載的正常圖像，δ為種群中的一個個體，y^true為x的真實標簽，t為指定目標攻擊下的類別；

交叉操作的具體實現方式如下，

選擇操作中得到一個贏家和輸家，然后根據交叉率從贏家和輸家中復制基因得到一個新的個體：

δ_child＝δ_winner*MASK_cr+δ_losser*(1-MASK_cr) (式6)

其中：

其中MASK_cr和種群中的個體具有相同的維度，rand(0，1)表示從(0，1)之間使用均勻分布產生一個隨機數，cr表示交叉概率，δ_losser，δ_winner分別表示選擇操作選出的輸家和贏家；

變異操作的具體實現方式如下，

變異時采用二進制變異，如，

δ’_child＝-δ_child*MASK_mr+δ_child*(1-MASK_mr) (式8)

其中

其中MASK_mr和種群中的個體具有相同的維度，rand(0，1)表示從(0，1)之間使用均勻分布產生一個隨機數，mr表示變異概率，δ_child表示由交叉操作產生的新的個體；

判斷種群中是否存在對抗樣本的具體實現方式如下，

在無目標攻擊下，根據式1判斷種群中是否存在對抗樣本，在指定類別攻擊下，根據式2判斷是否存在對抗樣本；

其中N為種群個數，δ_j為種群中的個體，y^true為x的真實標簽，t為指定的類別標簽，L為本地模型的損失函數。

2.如權利要求1所述的一種基于微生物遺傳算法的黑盒對抗樣本生成方法，其特征在于：步驟2中使用基于動量的基本迭代法MI-FGSM產生候選對抗樣本，具體實現方式如下，

使用x和y^true分別表示步驟1中加載的正常的圖像和對應的真實標簽，使用L(x，y^true)表示本地模型的損失函數，使用x′表示x的候選對抗樣本，基于動量的基本迭代法Mi-FGSM得到候選對抗樣本x′，其計算公式如下式：

其中g_t是在第t次迭代的累計梯度，μ是g_t的衰減因子，α為步長，sign(g)函數返回g的正負號，表示將x′裁剪到x的ε周圍，即x-ε≤x′≤x+ε，其中∈是所允許的攻擊的強度。

3.如權利要求1所述的一種基于微生物遺傳算法的黑盒對抗樣本生成方法，其特征在于：步驟3中初始化種群中每個個體δ_j，j＝{1，2，...，N}：的表達式如下，

其中x′_j是由遷移攻擊產生的候選對抗樣本，其中∈是所允許的攻擊的強度。