[發明專利]一種威脅檢測方法、裝置及系統

在審

• 申請號: 202110363637.7
• 申請日: 2021-04-02
• 公開（公告）號: CN115168841A
• 公開（公告）日: 2022-10-11
• 發明（設計）人: 張秉晟;陳美會;張心語;許夢雯;朱曉林
• 申請（專利權）人: 華為技術有限公司
• 主分類號: G06F21/55
• 分類號: G06F21/55;G06F21/62;G06F21/60
• 代理公司: 深圳市深佳知識產權代理事務所(普通合伙) 44285
• 代理人: 常忠良

本申請公開了一種威脅檢測方法、裝置及系統，基于從通信設備上采集的待檢測數據的第一數據特征和第一決策樹確定第一檢測結果；基于該待檢測數據的第二數據特征和第二決策樹確定第二檢測結果；根據第一檢測結果和第二檢測結果確定目標檢測結果。上述兩個數據特征為待檢測數據對應的數據特征變換得到，上述兩個決策樹為訓練所得決策樹變換得到，目標檢測結果表征待檢測數據的威脅程度信息。這樣，根據變換后的決策樹和變換后的數據特征分別確定檢測結果，并利用多個檢測結果確定能夠該待檢測數據的目標檢測結果，實現對威脅檢測過程的各個環節都進行隱私保護，使得對待檢測數據的威脅檢測更加全面，從而提升對用戶隱私保護的安全性和可靠性。

技術領域

本申請涉及安全技術領域，特別是涉及一種威脅檢測方法、裝置及系統。

背景技術

隨著互聯網和物聯網的發展，海量的數據給人們的工作和生活帶來了極大的便利，但是這些數據中通常也會包含用戶的隱私以及敏感信息，深入分析這些數據可能會導致用戶的隱私被挖掘和濫用，所以，產生的海量數據也給用戶帶來了極大的安全隱患。

為了給用戶提供更好的安全保護，對通信設備采集的數據進行威脅檢測。但是，目前對數據進行威脅檢測的過程不夠完備，導致威脅檢測結果不夠安全和可靠。

基于此，亟待提供一種威脅檢測方法，能夠更加全面和安全的對待檢測數據實現威脅檢測。

發明內容

基于此，本申請實施例提供了一種威脅檢測方法、裝置及系統，實現更加全面、安全和可靠的威脅檢測，提升對用戶的隱私保護。

第一方面，本申請實施例提供了一種威脅檢測方法，該方法例如可以包括：基于待檢測數據的第一數據特征和第一決策樹確定第一檢測結果，并且，基于待檢測數據的第二數據特征和第二決策樹確定第二檢測結果，從而，根據第一檢測結果和第二檢測結果，確定目標檢測結果，該目標檢測結果用于表征待檢測數據的威脅程度信息，而威脅程度信息可以用于衡量待檢測數據存在威脅或者是非法數據的可能性。其中，第一數據特征為從待檢測數據中提取的數據特征，第二數據特征為從待檢測數據中提取的數據特征，該待檢測數據為從通信設備上采集得到的數據，第二數據特征和第一數據特征滿足第一函數關系，第二決策樹和第一決策樹為第三決策樹變換得到的決策樹。這樣，通過該方法，將待檢測數據變換為多個數據特征分別進行存儲，并將訓練獲得的進行了隱私保護的決策樹變換得到多個決策樹，從而在檢測待檢測數據時能夠根據變換后的決策樹和變換后的數據特征分別確定檢測結果，并利用多個檢測結果確定能夠表征待檢測數據的威脅程度信息的目標檢測結果，如此，實現了對威脅檢測過程的各個環節的隱私保護，對待檢測數據進行了更加全面的威脅檢測，從而提升對用戶隱私保護的安全性和可靠性。

在一種可能的實現方式中，訓練決策樹的過程例如可以包括：根據第一樣本和初始決策樹，確定第五決策樹的第一梯度，第五決策樹的深度比初始決策樹的深度大一；根據第二樣本和初始決策樹，確定第六決策樹的第二梯度，第六決策樹的深度比初始決策樹的深度大一；根據第一梯度和第二梯度，更新初始決策樹，并返回執行根據第一樣本和初始決策樹確定第五決策樹的第一梯度，以及根據第二樣本和初始決策樹，確定第六決策樹的第二梯度，直到更新后的初始決策樹滿足預設條件；將滿足預設條件的初始決策樹確定為第四決策樹。如此，能夠采用聯邦學習技術進行模型訓練，無需發送自身的數據，避免了用戶數據的泄露，提高了該模型訓練的安全性；而且，由多方分別利用自身的數據進行子模型訓練，并由一方對各方訓練的子模型進行安全聚合，得到共同訓練出一個機器學習模型，該過程中通過聯合訓練方案技術不斷迭代訓練出后續實際檢測過程中可用的第四決策樹，提高了模型訓練過程中樣本、模型等的安全性。

作為一個示例，該實現方式中，上述根據第一樣本和初始決策樹，確定第五決策樹的第一梯度，可以包括：根據第一樣本、差分隱私算法和初始決策樹，確定第五決策樹；計算第五決策樹的梯度，記作第一梯度。這樣，在決策樹訓練過程中加入隨機擾動，即，通過差分隱私算法避免攻擊者截獲模型，提高了所訓練決策樹的安全性。