[發明專利]確定黑盒攻擊算法的方法、裝置、計算機存儲介質及終端

在審

• 申請號: 202110494774.4
• 申請日: 2021-05-07
• 公開（公告）號: CN113128616A
• 公開（公告）日: 2021-07-16
• 發明（設計）人: 朱軍;付祈安;董胤蓬;蘇航
• 申請（專利權）人: 清華大學
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N20/00
• 代理公司: 北京安信方達知識產權代理有限公司 11262
• 代理人: 李丹;栗若木

本文公開一種確定黑盒攻擊算法的方法、裝置、計算機存儲介質及終端，本發明實施例對每一個隨機選取的靜態單賦值形式的第一程序，分別添加第一預設數值個歐式空間的基本操作，獲得相應的第二程序；刪除未使用預設的向量參數和未降低樣本距離的第二程序；剩余的第二程序數量達到預設數量時，將預設數量的第二程序分別添加至隨機游走算法中，獲得各第二程序對應的黑盒攻擊算法；從獲得的黑盒攻擊算法中，選出滿足預設的運算要求的黑盒攻擊算法；其中，樣本距離包括：對抗樣本與原始樣本的距離。本發明實施例以靜態單賦值形式的第一程序作為基礎，實現了黑盒攻擊算法的自動高效獲取。

技術領域

本文涉及但不限于神經網絡技術，尤指一種確定黑盒攻擊算法的方法、裝置、計算機存儲介質及終端。

背景技術

相關技術中，基于決策的黑盒場景的黑盒攻擊算法一般由技術專家人為設計，效果較差；基于自動發現機器學習算法的方法，需要依賴技術專家設計搜索空間；以基本的數學算符作為基本組件的自動發現的分類器算法，需要大量的計算資源，且性能無法和人類專家設計的算法相比。

一種不依賴技術專家且適用的黑盒攻擊算法，成為一種迫切需求。

發明內容

以下是對本文詳細描述的主題的概述。本概述并非是為了限制權利要求的保護范圍。

本發明實施例提供一種確定黑盒攻擊算法的方法、裝置、計算機存儲介質及終端，能夠自動地、高效地確定黑盒攻擊算法。

本發明實施例提供了一種確定黑盒攻擊算法的方法，包括：

隨機選取一個以上靜態單賦值形式的第一程序；

對每一個第一程序分別添加第一預設數值個歐式空間的基本操作，獲得一個以上與每個第一程序對應的第二程序；

從獲得的一個以上第二程序中刪除未使用預設的向量參數和未降低樣本距離的第二程序；

剩余的第二程序的數量達到預設數量時，將剩余的每一個第二程序分別添加至隨機游走算法中，獲得各第二程序對應的黑盒攻擊算法；

從獲得的黑盒攻擊算法中選擇出滿足預設的運算要求的黑盒攻擊算法；其中，所述樣本距離包括：對抗樣本與原始樣本的距離。

另一方面，本發明實施例還提供一種計算機存儲介質，所述計算機存儲介質中存儲有計算機程序，所述計算機程序被處理器執行時實現上述確定黑盒攻擊算法的方法。

再一方面，本發明實施例還提供一種終端，包括：存儲器和處理器，所述存儲器中保存有計算機程序；其中，

處理器被配置為執行存儲器中的計算機程序；

所述計算機程序被所述處理器執行時實現如上述確定黑盒攻擊算法的方法。

還一方面，本發明實施例還提供一種確定黑盒攻擊算法的裝置，包括：選取單元、添加單元、刪除單元、加載單元和處理單元；其中，

選取單元設置為：隨機選取一個以上靜態單賦值形式的第一程序；添加單元設置為：對每一個第一程序分別添加第一預設數值個歐式空間的基本操作，獲得一個以上與每個第一程序對應的第二程序；

刪除單元設置為：從獲得的一個以上第二程序中刪除未使用預設的向量參數和未降低樣本距離的第二程序；

加載單元設置為：剩余的第二程序的數量達到預設數量時，將剩余的每一個第二程序分別添加至隨機游走算法中，獲得各第二程序對應的黑盒攻擊算法；

處理單元設置為：從獲得的黑盒攻擊算法中選擇出滿足預設的運算要求的黑盒攻擊算法；

其中，所述樣本距離包括：對抗樣本與原始樣本的距離。