[發(fā)明專利]確定黑盒攻擊算法的方法、裝置、計算機存儲介質(zhì)及終端

在審

• 申請?zhí)枺?/td>: 202110494774.4
• 申請日: 2021-05-07
• 公開（公告）號: CN113128616A
• 公開（公告）日: 2021-07-16
• 發(fā)明（設(shè)計）人: 朱軍;付祈安;董胤蓬;蘇航
• 申請（專利權(quán)）人: 清華大學(xué)
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N20/00
• 代理公司: 北京安信方達知識產(chǎn)權(quán)代理有限公司 11262
• 代理人: 李丹;栗若木

1.一種確定黑盒攻擊算法的方法，包括：

隨機選取一個以上靜態(tài)單賦值形式的第一程序；

對每一個第一程序分別添加第一預(yù)設(shè)數(shù)值個歐式空間的基本操作，獲得一個以上與每個第一程序?qū)?yīng)的第二程序；

從獲得的一個以上第二程序中刪除未使用預(yù)設(shè)的向量參數(shù)的第二程序和未降低樣本距離的第二程序；

剩余的第二程序的數(shù)量達到預(yù)設(shè)數(shù)量時，將剩余的每一個第二程序分別添加至隨機游走算法中，獲得各第二程序?qū)?yīng)的黑盒攻擊算法；

從獲得的黑盒攻擊算法中選擇出滿足預(yù)設(shè)的運算要求的黑盒攻擊算法；

其中，所述樣本距離包括：對抗樣本與原始樣本的距離。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述歐式空間的基本操作包括：

第一類基本操作和第二類基本操作；

其中，所述第一類基本操作包括：向量減法、向量取二范數(shù)和標量除法；

所述第二類基本操作包括以下一項或任意組合：標量加法、標量減法、標量乘法、向量加法、向量標量除法、向量標量乘法和向量點積。

3.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述添加第一預(yù)設(shè)數(shù)值個歐式空間的基本操作，包括：

向所述第一程序添加已配置所述向量參數(shù)的所述第一類基本操作；

向已添加所述第一類基本操作的所述第一程序，每一次從所述歐式空間的基本操作隨機選擇一個進行添加，直至所述第一程序中添加的所述基本操作的個數(shù)為所述第一預(yù)設(shè)數(shù)值。

4.根據(jù)權(quán)利要求3所述的方法，其特征在于，所述已配置所述向量參數(shù)的所述第一類基本操作，包括：

向量減法v＝＝原始樣本參數(shù)-對抗樣本參數(shù)；

向量取二范數(shù)d＝||v||2；

標量除法u＝v/d。

5.根據(jù)權(quán)利要求3所述的方法，其特征在于，所述每一次從所述歐式空間的基本操作隨機選擇一個進行添加，包括：

每一次從所有所述歐式空間的基本操作中隨機選擇一個基本操作；

按照預(yù)設(shè)的參數(shù)選擇策略確定出隨機選擇的所述基本操作的向量參數(shù)。

6.根據(jù)權(quán)利要求5所述的方法，其特征在于，所述按照預(yù)設(shè)的參數(shù)選擇策略確定出隨機選擇的基本操作的向量參數(shù)，包括：

隨機選擇的所述基本操作包含兩個向量參數(shù)時，按照以下任意方式之一選出隨機選擇的所述基本操作的參數(shù)：

以第一預(yù)設(shè)概率從所述第一程序中已有的所述基本操作的返回值中，隨機選出兩個作為所述向量參數(shù)；

以第二預(yù)設(shè)概率從所述第一程序中已有的所述基本操作的返回值中隨機選擇一個作為所述兩個向量參數(shù)之一、從所述第一程序中已有的所述基本操作的尚未被使用的返回值中選擇一個作為所述兩個向量參數(shù)之一；

以第三預(yù)設(shè)概率從所述第一程序中已有的所述基本操作的尚未被使用的返回值中選擇兩個作為所述向量參數(shù)。

7.根據(jù)權(quán)利要求5所述的方法，其特征在于，所述按照預(yù)設(shè)的參數(shù)選擇策略確定出隨機選擇的基本操作的向量參數(shù)，包括：

隨機選擇的所述基本操作包含一個向量參數(shù)時，按照以下任意方式之一選出隨機選擇的所述基本操作的參數(shù)：

以第四預(yù)設(shè)概率從所述第一程序中已有的所述基本操作的返回值中隨機選擇一個作為所述向量參數(shù)；

以第五預(yù)設(shè)概率從所述第一程序中已有的所述基本操作的尚未被使用的返回值中選擇一個作為所述向量參數(shù)。

8.根據(jù)權(quán)利要求1～7任一項所述的方法，其特征在于，所述刪除未使用預(yù)設(shè)的向量參數(shù)的第二程序和未降低樣本距離的第二程序，包括：

通過靜態(tài)分析方法確定未使用噪聲生成函數(shù)的所述向量參數(shù)的所述第二程序；刪除確定的未使用所述噪聲生成函數(shù)的向量參數(shù)的所述第二程序；

通過屬性測試確定未降低所述樣本距離的所述第二程序；刪除確定的所述未降低所述樣本距離的所述第二程序；

其中，所述噪聲生成函數(shù)的向量參數(shù)包括：原始樣本參數(shù)、對抗樣本參數(shù)和高斯噪聲參數(shù)。