[發明專利]基于TensorFuzz的深度神經網絡模糊測試框架和測試方法

有效

• 申請號: 202010765951.3
• 申請日: 2020-08-03
• 公開（公告）號: CN111897729B
• 公開（公告）日: 2022-08-19
• 發明（設計）人: 馬銳;趙鵬飛;賀金媛;蔣瑾蔓;李瀅
• 申請（專利權）人: 北京理工大學
• 主分類號: G06F11/36
• 分類號: G06F11/36;G06F21/57;G06N3/04
• 代理公司: 北京理工大學專利中心 11120
• 代理人: 溫子云

本發明公開了一種基于TensorFuzz的深度神經網絡模糊測試框架和方法。采用配置的變異方式對從測試用例池中提取的測試用例進行變異，將變異后的測試用例作為當前測試用例，加載到深度神經網絡模糊測試模型中進行處理；采用配置的覆蓋分析度量標準，確定當前測試用例是否觸發了新的覆蓋；如果是，則將當前測試用例增加到所述測試用例池中；根據目標函數中的模糊測試目標，在當前測試用例觸發“崩潰”時，將當前測試用例增加到所述測試用例池中；根據目標函數中的終止條件，如果判斷滿足終止條件，則結束模糊測試，否則從測試用例池中獲取下一個測試用例，繼續測試。使用本發明提高了模糊測試的效率和漏洞發現能力。

技術領域

本發明屬于信息安全領域，尤其涉及一種基于TensorFuzz的深度神經網絡模糊測試框架和測試方法。

背景技術

模糊測試技術在傳統漏洞挖掘領域占有舉足輕重的地位，由于其簡單粗暴且高效可行的優勢，被工程界普遍使用和推廣，同時也吸引了大量的研究人員，目前已成為發現漏洞和崩潰的最有效的測試技術之一。因此，當深度神經網絡面臨安全挑戰時，研究人員嘗試應用模糊測試技術挖掘其安全問題。由于深度神經網絡與傳統程序的巨大不同，模糊測試技術不能直接應用，特別是需要在安全分析、覆蓋分析、變異等環節作出調整。

TensorFuzz是基于覆蓋導向的深度神經網絡模糊測試工具之一，2018年由Google安全研究員Augustus Odena等人提出，同時開源了TensorFuzz的源碼。它可以對深度學習模型進行模糊測試，并挖掘可能存在的安全漏洞。

TensorFuzz實現了覆蓋導向的模糊測試技術在深度神經網絡安全研究中的應用。使用時，首先需要設置模糊測試的目標，之后基于用戶提供的初始測試用例及變異產生的新的測試用例運行被測程序，并從這些運行中收集神經元的激活信息用于后續覆蓋分析及安全分析。TensorFuzz并不會保存所有變異生成的新的測試用例，而僅僅保存那些“有趣”的測試用例，即觸發新覆蓋的測試用例。TensorFuzz基于用戶提供的初始測試用例及這些“有趣”的測試用例，不斷重復上述過程，直至觸發crash——“崩潰”。

TensorFuzz的基本流程如圖1所示。其包括如下步驟：

步驟1、通過目標函數設置模糊測試的目標，并把用戶提供的初始測試用例加載到測試用例池中；

步驟2、從測試用例池中獲取下一個測試用例；

步驟3、采用添加高斯噪聲的方式，重復變異當前測試用例，然后輸入給深度神經網絡；

步驟4、如果經過變異生成的新的測試用例觸發了新覆蓋，則把這一測試用例加入到測試用例池中；

如果測試用例觸發了crash，則停止模糊測試；否則轉到步驟2。

TensorFuzz成功地應用了模糊測試技術并取得了很好的效果，但它仍存在以下問題。首先，TensorFuzz的執行流程與傳統模糊測試有差異，其觸發“crash”后模糊測試即停止，而深度神經網絡安全研究通常需要大量觸發“漏洞”的測試用例進行后續研究；由于深度神經網絡的可解釋性不佳，已有研究的覆蓋率度量標準(包括TensorFuzz采用的覆蓋分析方法)，很難通過理論分析論證其合理性，且缺乏深入的分析比較；TensorFuzz采用的變異策略較為單一，且其觸發“crash”的能力與效率較差。

發明內容

有鑒于此，本發明提供了一種基于TensorFuzz的深度神經網絡模糊測試框架和測試方法，提高了模糊測試的效率和漏洞發現能力。

為了解決上述技術問題，本發明是這樣實現的：

一種基于TensorFuzz的深度神經網絡模糊測試框架，包括：測試用例池、選擇輸入模塊、可配置的變異模塊、深度神經網絡模糊測試模型、可配置的覆蓋分析模塊、目標函數判斷模塊和安全分析模塊；