[發明專利]一種基于頻譜的深度神經網絡缺陷定位方法及系統

有效

• 申請號: 202011180145.6
• 申請日: 2020-10-29
• 公開（公告）號: CN112199295B
• 公開（公告）日: 2023-05-05
• 發明（設計）人: 李錚;崔展齊;劉建賓;鄭麗偉;劉秀磊
• 申請（專利權）人: 北京信息科技大學
• 主分類號: G06F11/36
• 分類號: G06F11/36;G06N3/0464;G06N3/06
• 代理公司: 北京睿智保誠專利代理事務所(普通合伙) 11732
• 代理人: 周新楣

本發明公開了一種基于頻譜的深度神經網絡缺陷定位方法，屬于軟件測試技術領域，包括以下步驟：1、獲取正確的測試用例和錯誤的測試用例，2、獲取待測深度神經網絡模型頻譜信息，3、計算神經元的懷疑度，并按照懷疑度對神經元進行排序。本發明依據深度神經網絡對測試集的運行輸出和分類結果量化深度神經網絡中的神經元，然后利用懷疑度公式計算其懷疑度，并對其進行排名，定位到最有可能是缺陷的位置。該方法及系統將神經元的輸出和測試數據的運行結果結合，可以將深度神經網絡模型中的缺陷直觀的使用數值體現出來，更準確快捷的定位到深度神經網絡模型缺陷的具體位置。

技術領域

本發明涉及軟件測試技術領域，特別是涉及一種基于頻譜的深度神經網絡缺陷定位方法及系統。

背景技術

深度神經網絡作為機器學習的一種方法，在許多任務上的性能已經達到甚至超過了人類水平，如圖像分類，語音識別，惡意軟件檢測等，并取得了廣泛的應用，在很多場景下會代替人做出重要決策。但是，所有軟件都不可避免的包含缺陷，深度神經網絡也不例外。在諸如自動駕駛汽車和醫學圖像分析等安全關鍵系統中，如果深度神經網絡做出的決定是錯誤的，將會造成非常嚴重的后果。例如：Uber無人駕駛汽車在夜間測試的過程中發生嚴重事故致使一名行人死亡；蘋果手機的FaceID可以使用3D打印的人臉圖片破解。因此，如何檢測并定位深度神經網絡中的缺陷，以保證深度神經網絡的質量成為了軟件工程和人工智能交叉領域的熱點研究問題。

目前，適用于深度神經網絡的缺陷檢測技術受到了廣泛關注，如使用蛻變測試對深度神經網絡進行測試，它可以通過對比蛻變前后的數據分類是否一致來檢測深度神經網絡是否存在缺陷；此外，還有一些有關神經元覆蓋準則的方法，它們使用了不同的方法來提高神經元的覆蓋率，同時可以根據覆蓋率引導的測試來檢測深度神經網絡中存在的缺陷。當成功檢測出神經網絡中存在缺陷后，應該去定位缺陷所在的地方，以便于修復缺陷。但是上述工作都無法對具體產生缺陷的位置進行定位，也不能檢測出深度神經網絡中的特定結構存在缺陷，如：層數過多或者過少、激活函數不正確等。

深度神經網絡是一個黑盒，它可以使用大量神經元中的簡單函數來模擬任何一個連續函數。從這個角度來看，深度神經網絡的缺陷難以定位，因為我們無法準確的找出某一個神經元、某種結構或者某種激活函數確切的對神經網絡的結果產生了什么影響。在這種情況下，如何定量分析它們對深度神經網絡結果的作用就成了一個亟需解決的問題。

軟件缺陷定位的目標是識別與軟件缺陷相關的程序元素，它可以幫助程序開發人員更快更準確地發現程序中需要修復的地方，以提升程序的可靠性。早期的缺陷定位以人工為主，但是通過人工調試來定位缺陷不僅耗時長而且難度大。在傳統的軟件缺陷定位方法中，基于頻譜的缺陷定位方法通過獲取程序的覆蓋信息來對每個程序實體進行評估。程序頻譜主要是指程序執行過程中產生的關于程序語句的覆蓋信息,以及執行是否通過的信息。在使用測試集對程序進行測試的過程中，需要收集程序頻譜信息，最后將頻譜信息代入懷疑度公式得出程序實體對應的懷疑度，懷疑度越高即說明程序實體越有可能存在缺陷。我們將這種思想運用到了深度神經網絡中，提出了一種基于頻譜的深度神經網絡缺陷定位方法及系統，以在神經元的層面上定位深度神經網絡的缺陷。該方法及系統依據深度神經網絡對測試集的運行輸出和分類結果量化深度神經網絡中的神經元，然后利用懷疑度公式計算其懷疑度，并對其進行排名，定位到最有可能是缺陷的位置。

發明內容

本發明的目的在于，提供一種基于頻譜的深度神經網絡缺陷定位方法及系統，實現深度神經網絡的缺陷定位，將深度神經網絡模型中的缺陷直觀的使用數值體現出來。

本發明所采用的技術方案是：一種基于頻譜的深度神經網絡缺陷定位方法，具體包括以下步驟：