[發(fā)明專利]基于代理模型的對(duì)抗樣本生成方法、裝置和計(jì)算設(shè)備

在審

• 申請(qǐng)?zhí)枺?/td>: 202110000722.7
• 申請(qǐng)日: 2021-01-04
• 公開(kāi)（公告）號(hào): CN112329894A
• 公開(kāi)（公告）日: 2021-02-05
• 發(fā)明（設(shè)計(jì)）人: 蕭子豪;田天
• 申請(qǐng)（專利權(quán)）人: 北京智源人工智能研究院
• 主分類號(hào): G06K9/62
• 分類號(hào): G06K9/62;G06N3/04;G06N3/08;G06N20/20
• 代理公司: 北京箴思知識(shí)產(chǎn)權(quán)代理有限公司 11913
• 代理人: 李春暉

1.一種基于代理模型的對(duì)抗樣本生成方法，包括：

提供代理模型、原始樣本和一基于迭代的對(duì)抗樣本生成算法；

基于代理模型、原始樣本和對(duì)抗樣本生成算法迭代生成對(duì)抗樣本，直到達(dá)到預(yù)設(shè)終止條件；

在每個(gè)迭代輪次中：

獲取上一輪次迭代生成對(duì)抗樣本時(shí)，代理模型的每一卷積核的各個(gè)參數(shù)自身的權(quán)重與梯度；

根據(jù)每一卷積核的各個(gè)參數(shù)的權(quán)重和梯度計(jì)算每一卷積核的重要性分?jǐn)?shù)，所述重要性分?jǐn)?shù)用于表示相應(yīng)輪次中代理模型的對(duì)應(yīng)卷積核對(duì)生成的對(duì)抗樣本的影響程度；

根據(jù)預(yù)設(shè)規(guī)則以及所述代理模型的各個(gè)卷積核的重要性分?jǐn)?shù)剪除所述代理模型的部分卷積核；

根據(jù)剪除部分卷積核后保留的各個(gè)卷積核更新所述代理模型；

將達(dá)到預(yù)設(shè)終止條件時(shí)生成的對(duì)抗樣本作為最終的對(duì)抗樣本。

2.如權(quán)利要求1所述的基于代理模型的對(duì)抗樣本生成方法，其中，某一卷積核的重要性分?jǐn)?shù)為所述卷積核的梯度向量轉(zhuǎn)置后和權(quán)重的乘積的絕對(duì)值。

3.如權(quán)利要求1所述的基于代理模型的對(duì)抗樣本生成方法，其中，所述預(yù)設(shè)規(guī)則包括剪除重要性分?jǐn)?shù)低于預(yù)設(shè)閾值的卷積核。

4.如權(quán)利要求1所述的基于代理模型的對(duì)抗樣本生成方法，其中，所述預(yù)設(shè)規(guī)則包括以預(yù)設(shè)的剪枝率進(jìn)行卷積核剪除。

5.如權(quán)利要求4所述的基于代理模型的對(duì)抗樣本生成方法，其中，根據(jù)預(yù)設(shè)規(guī)則以及所述代理模型的各個(gè)卷積核的重要性分?jǐn)?shù)剪除所述代理模型的部分卷積核，包括：

基于每一卷積核的重要性分?jǐn)?shù)，按照從高到低的順序?qū)Ω鱾€(gè)卷積核進(jìn)行排序；

根據(jù)所述剪枝率對(duì)排序在后的部分卷積核進(jìn)行剪除。

6.如權(quán)利要求1-5中任一項(xiàng)所述的基于代理模型的對(duì)抗樣本生成方法，其中，通過(guò)將某一個(gè)卷積核內(nèi)的各個(gè)參數(shù)的數(shù)值設(shè)為0的方式將所述卷積核剪除。

7.如權(quán)利要求6所述的基于代理模型的對(duì)抗樣本生成方法，其中，所述基于迭代的對(duì)抗樣本生成算法包括動(dòng)量迭代式對(duì)抗樣本生成算法；

在第i輪迭代時(shí)，通過(guò)以下方式生成對(duì)抗樣本：

其中，表示第i輪更新得到的動(dòng)量，表示動(dòng)量衰減速度，表示代理模型的損失函數(shù)計(jì)算得到的損失結(jié)果關(guān)于第i-1輪生成的對(duì)抗樣本的梯度，表示L1范數(shù)，y表示所對(duì)應(yīng)的原始樣本X的類別，表示將修改中的對(duì)抗樣本投影到距離原始樣本X不超過(guò)?的范圍內(nèi)，其中α是超參數(shù)。

8.如權(quán)利要求7所述的基于代理模型的對(duì)抗樣本生成方法，其中，在第i輪迭代時(shí)，通過(guò)以下方式計(jì)算某個(gè)卷積核對(duì)上一輪次生成的對(duì)抗樣本的重要性分?jǐn)?shù)：

其中，d表示微分操作，w表示所述卷積核的權(quán)重，T表示向量轉(zhuǎn)置。