[發明專利]規則模型的安全性檢測方法、裝置、設備及系統

在審

• 申請號: 202010908605.6
• 申請日: 2020-09-02
• 公開（公告）號: CN112085369A
• 公開（公告）日: 2020-12-15
• 發明（設計）人: 張文彬;李翰林;李漓春;殷山
• 申請（專利權）人: 支付寶（杭州）信息技術有限公司
• 主分類號: G06Q10/06
• 分類號: G06Q10/06;G06N20/00
• 代理公司: 北京三友知識產權代理有限公司 11127
• 代理人: 闞傳猛;周達

本說明書提供一種規則模型的安全性檢測方法、裝置、設備及系統，實現了對于規則模型的創建方和數據源不屬于同一機構或平臺時，對規則模型的安全性檢測，利用樣本數據集計算待檢測規則模型在每一種命中情形下各個目標屬性的猜中概率，再基于猜中概率和預先設置的預設安全閾值，判斷出待檢測規則模型是否安全。實現了在數據源方允許的范圍內輸出數據源方的數據，以避免規則模型的創建方通過創建特殊的規則，根據模型的輸出結果，盜取數據源方的數據，確保了數據源方的數據安全性，進一步提高了用戶信息的安全性。

技術領域

本說明書屬于計算機技術領域，尤其涉及一種規則模型的安全性檢測方法、裝置、設備及系統。

背景技術

隨著計算機技術的發展，智能模型的種類越來越多，規則模型可以理解為包含若干規則集的模型。規則集可以包括若干規則，若干規則可以通過“且”、“或”組合成為一條規則集，一條規則可以包括變量、操作符以及閾值，如：月收入10000。基于規則的模型在不同領域中可能有著不同的名稱，比如“規則引擎”，利用規則模型可以篩選出符合不同條件的數據或者用戶等，或者應用在風控領域，進行風險預測等。

在一些規則模型的使用場景中，通常會有一個規則模型的生成使用方以及數據源，當規則模型的生成使用方不同于提供數據的數據源所屬的機構時，規則模型的生成使用方可能會通過配置一些特殊的規則，根據模型的輸出結果，獲得數據源的數據，造成數據源用戶數據被泄漏的問題。

發明內容

本說明書實施例的目的在于提供一種規則模型的安全性檢測方法、裝置、設備及系統，提高了數據源的數據安全性。

一方面，本說明書實施例提供了一種規則模型的安全性檢測方法，所述方法包括：

獲取待檢測規則模型的規則集；

獲取所述待檢測規則模型安全性檢測的樣本數據集；

根據所述樣本數據集中的目標屬性的取值分布，確定所述待檢測規則模型的規則集命中情況下各個目標屬性的第一猜中概率和所述待檢測規則模型的規則集未命中情況下各個目標屬性的第二猜中概率；其中，所述目標屬性為所述樣本數據集與所述規則集中均存在的屬性；

根據各個目標屬性的第一猜中概率、第二猜中概率以及各個目標屬性對應的預設安全閾值，判斷所述待檢測規則模型是否安全。

另一方面，本說明書提供了一種規則模型的安全性檢測裝置，包括：

規則集獲取模塊，用于獲取待檢測規則模型的規則集；

樣本獲取模塊，用于獲取所述待檢測規則模型安全性檢測的樣本數據集；

安全指標計算模塊，用于根據所述樣本數據集中的目標屬性的取值分布，確定所述待檢測規則模型的規則集命中情況下各個目標屬性的第一猜中概率和所述待檢測規則模型的規則集未命中情況下各個目標屬性的第二猜中概率；其中，所述目標屬性為所述樣本數據集與所述規則集中均存在的屬性；

安全性判斷模塊，用于根據各個目標屬性的第一猜中概率、第二猜中概率以及各個目標屬性對應的預設安全閾值，判斷所述待檢測規則模型是否安全。

又一方面，本說明書實施例提供了一種規則模型的安全性檢測設備，包括至少一個處理器以及用于存儲處理器可執行指令的存儲器，所述處理器執行所述指令時實現上述規則模型的安全性檢測方法。

還一方面，本說明書實施例提供了一種規則模型的安全性檢測系統，包括：規則模型檢測裝置、規則模型創建裝置；其中，所述規則模型檢測裝置中包括至少一個處理器以及用于存儲處理器可執行指令的存儲器，所述處理器執行所述指令時實現上述規則模型安全性檢測方法，用于對所述規則模型創建裝置部署在數據源的規則模型進行安全性檢測；