[發明專利]基于分布式類腦圖的深度學習計算框架缺陷溯源方法

在審

• 申請號: 202210933327.9
• 申請日: 2022-08-04
• 公開（公告）號: CN115169540A
• 公開（公告）日: 2022-10-11
• 發明（設計）人: 陳晉音;陳若曦;金海波;鄭海斌;鄭雅羽
• 申請（專利權）人: 浙江工業大學
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08
• 代理公司: 杭州求是專利事務所有限公司 33200
• 代理人: 邱啟旺

本發明公開了一種基于分布式類腦圖的深度學習計算框架缺陷溯源方法，對待測的深度學習框架訓練的卷積神經網絡m₀構建對應的分布式類腦圖G_ori；從卷積神經網絡m₀的每一層中提取關鍵神經元，得到關鍵神經元集合；并將關鍵神經元集合映射到分布式類腦圖G_ori上，去掉到分布式類腦圖G_ori中除關鍵神經元集合的節點和其連邊，得到主元模塊區G_path；定義圖指標；對主元模塊區G_path進行a次生長，得到a個次元模塊區；獲得重構模型；定位卷積神經網絡m₀的缺陷層；若卷積神經網絡m₀存在缺陷層，待測的深度學習框架的調用算子存在輸出不一致的缺陷。該方法具有良好的適用性，能夠有效發現計算框架中的潛在缺陷，并對其進行準確定位。

技術領域

本發明涉及軟件測試領域，尤其涉及一種基于分布式類腦圖的深度學習計算框架缺陷溯源方法。

背景技術

近年來，深度學習系統已成為最流行的軟件系統之一，并廣泛應用于人臉識別、自動駕駛、軟件引擎等各個領域。深度學習系統由三個級別組成，包括深度學習模型、深度學習代碼和計算框架庫。任何級別的安全漏洞都可能影響深度學習系統的整體質量。因此，有必要在所有三個級別上保證DL系統的質量。作為人工智能構建基礎的智能計算框架本身的安全性研究尚處于起步階段，且一旦出現問題，造成的風險范圍覆蓋極大且難以被發現。

為此，國內外機構陸續推出面向智能計算的安全性測試工具，如騰訊朱雀實驗室的Deep Puzzling，天融信安全研究團隊的惡意代碼同源分析工具，奇安信代碼安全實驗室的軟件供應鏈代碼安全測試工具等。按照錯誤缺陷的主體不同，智能計算框架的安全性問題可以分為框架庫層面、框架代碼層面、模型系統層面。框架庫層面的安全性缺陷包括了執行不一致性、聲明函數定義錯誤、拒絕服務等安全性問題。

對計算框架庫的安全性測試方面，Pham等人提出了CRADLE，用于在框架庫中查找和定位錯誤。CRADLE在框架庫中執行不一致性檢測，利用異常傳播跟蹤和分析來定位框架庫中導致運行出錯的錯誤函數。但CRADLE依賴大量現有模型來觸發錯誤，計算成本高，且所檢測的不一致程度難以用指標來衡量。在此基礎上，Wang等人提出了LEMON，利用模型變異放大框架中的不一致程度來檢測安全性問題。他們為DL模型設計了一系列變異規則，以探索不同的庫代碼調用序列和難以觸發的錯誤行為；通過引導模型生成過程朝著放大不同深度學習庫之間由錯誤引起的不一致程度的方向發展，減輕深度學習庫中不確定因素引入的潛在噪聲的影響。此外，Guo等人提出了Audee，基于搜索，通過改變結構、參數、權重和輸入的組合對模型進行變異，以測試框架中邏輯錯誤、崩潰和非數字NaN錯誤。

考慮到框架庫是在DL算子的基礎上構建而成，因此，DL算子的錯誤會直接影響框架庫的穩定和安全性。Zhang等人首先提出了Duo，它結合了模糊測試技術和差分測試技術來生成輸入并評估相應的輸出。它通過使用源自遺傳算法和差分測試的九個變異算子來評估多個算子實例的輸出正確性，實現了基于變異的模糊測試以產生張量輸入。他們在此基礎上又提出了一種基于模糊測試的精度測試方法Predoo，以估計單個DL算子的精度誤差。Predoo將誤差邊界估計問題轉化為搜索問題來解決精度誤差的問題，即找到測試輸入觸發的最大精度誤差。實驗證明，Predoo可以觸發更大的精度錯誤。

此外，測試廣泛使用的深度學習框架庫的API函數也至關重要。Xie等人為DL框架庫的API功能設計并實現了一種文檔引導的模糊測試技術D2C。它利用順序模式挖掘生成從API文檔中提取特定約束的規則，并使用這些約束來指導模糊測試自動生成有效輸入。D2C還生成違反這些約束的輸入以測試輸入有效性來檢查代碼。此外，D2C使用約束生成邊界輸入以檢測更多錯誤。

現有面向深度學習計算框架的測試技術仍存在以下挑戰：