[發明專利]惡意軟件檢測系統攻擊防止

有效

• 申請號: 201911392094.0
• 申請日: 2018-05-25
• 公開（公告）號: CN111131283B
• 公開（公告）日: 2022-06-03
• 發明（設計）人: 陳理
• 申請（專利權）人: 英特爾公司
• 主分類號: H04L9/40
• 分類號: H04L9/40;G06N20/00;G06N5/00
• 代理公司: 永新專利商標代理有限公司 72002
• 代理人: 劉瑜

系統和方法可以用于在惡意軟件檢測系統上防止攻擊。一種方法可以包括：在機器學習系統的訓練期間使用傳入的二進制文件對有向圖的時間序列進行建模，并且在時間序列的時間窗口期間基于有向圖的時間序列中的有向圖來檢測異常。該方法可以包括提供關于異常已經損壞機器學習系統的警報。該方法可以包括防止或補救機器學習系統的損壞。

本申請是2018年5月25日提交的申請號為201810528231.8的同名專利申請的分案申請。

背景技術

在整個世界上惡意軟件對系統的攻擊是普遍且危險的。敲詐、盜竊和勒索困擾被感染系統的用戶。隨著惡意軟件攻擊變得更加復雜，越來越復雜的技術正被用于挫敗攻擊者。機器學習技術是一種訓練系統防止惡意軟件攻擊的方法。自動化機器學習技術在惡意軟件檢測中證明是強大的。然而，敵方惡意軟件攻擊者經常試圖使惡意軟件訓練數據中毒、欺騙機器學習系統以產生不正確的模型。這導致降級的分類準確度或高誤報率，從而影響機器學習系統的有效性。

附圖說明

在不一定按比例繪制的附圖中，同樣的附圖標記可以在不同的視圖中描述相似的組件。具有不同字母后綴的同樣的附圖標記可以表示相似組件的不同實例。附圖通常通過示例的方式而非限制的方式示出本文檔中討論的各種實施例。

圖1示出了根據一些實施例的惡意軟件檢測和警報系統。

圖2A示出了根據一些實施例的沒有啟用警報系統的機器學習系統。

圖2B示出了根據一些實施例的啟用警報系統的機器學習系統。

圖3示出了根據一些實施例的用于防止數據中毒攻擊的警報系統的框圖。

圖4示出了根據一些實施例的示出異常檢測的圖。

圖5示出了根據一些實施例的示出用于在惡意軟件檢測系統上防止攻擊的技術的流程圖。

圖6總體示出了根據一些實施例的本文討論的技術(例如，方法)中的任意一個或多個可以在其上執行的機器的框圖的示例。

具體實施方式

本文描述了用于在惡意軟件檢測系統上防止攻擊的系統和方法。本文描述的系統和方法用于允許被用于檢測惡意軟件的機器學習系統不因惡意軟件攻擊中毒。可以訓練機器學習系統以防止惡意軟件攻擊。然而，在敵對機器學習中，對機器學習系統的微妙攻擊(例如，當其在訓練時)可能使機器學習系統將某些惡意軟件攻擊接受為正常、非威脅的請求。例如，一種類型的攻擊涉及在一段時間內緩慢增加機器學習系統對異常攻擊的容忍度。

攻擊者可能探測機器學習系統以試圖確定機器學習系統正在運行什么算法、在機器學習系統中設置了什么參數、或者機器學習系統可以允許或拒絕什么動作。攻擊者可能發現針對機器學習系統的邊界決策，以便適于邊界內以允許惡意軟件通過機器學習系統。攻擊可以是漸進而具有緩慢的變化的。攻擊者的目標是欺騙機器學習系統使其決定發送的惡意軟件實際上是良性的。

本文描述的系統和方法在惡意軟件檢測系統上提供了在全面攻擊發動之前針對攻擊的惡意軟件檢測系統的警報系統。警報系統可以在機器學習系統頂部工作。警報系統在對攻擊者的探測時間期間針對攻擊向機器學習系統發出警報。響應于警報，機器學習系統可以拒絕來自攻擊源的輸入、改變機器學習算法(使其更魯棒或增強機器學習系統的魯棒性)等。

在示例中，對機器學習系統的惡意軟件攻擊可以包括誘發型攻擊，其使機器學習系統容忍越來越多的異常惡意軟件輸入。最終，在機器學習系統足夠容忍之后，惡意軟件攻擊包括啟動全面攻擊惡意文件，惡意文件由于容忍度而不被機器學習系統阻止。本文描述的系統和方法使用基于調用圖的時間序列上的動態異常檢測的新穎警報系統來防止攻擊。警報系統檢測何時已發生數據中毒攻擊，并且向機器學習系統警報該攻擊。然后，機器學習系統可以調整機器學習模型或阻止誘發型攻擊，并且防止全面攻擊。