[發明專利]規則模型的安全性檢測方法、裝置、設備及系統

在審

• 申請號: 202010908621.5
• 申請日: 2020-09-02
• 公開（公告）號: CN112085370A
• 公開（公告）日: 2020-12-15
• 發明（設計）人: 張文彬;李翰林;李漓春;殷山
• 申請（專利權）人: 支付寶（杭州）信息技術有限公司
• 主分類號: G06Q10/06
• 分類號: G06Q10/06;G06N20/00
• 代理公司: 北京三友知識產權代理有限公司 11127
• 代理人: 闞傳猛;周達

1.一種規則模型的安全性檢測方法，所述方法包括：

獲取待檢測規則模型的規則集和用于檢測所述待檢測規則模型的樣本數據集；

確定所述樣本數據集中目標屬性的盲猜概率，所述目標屬性的盲猜概率表征樣本數據集中的目標屬性取值的分布；

基于預設公共安全閾值、所述目標屬性的盲猜概率，計算所述目標屬性對應的衍生安全閾值；

確定所述待檢測規則模型的規則集命中情況下所述樣本數據集中的目標屬性的第一安全性檢測指標值和所述待檢測規則模型的規則集未命中情況下所述目標屬性的第二安全性檢測指標值；

根據所述目標屬性的第一安全性檢測指標值、第二安全性檢測指標值以及所述目標屬性對應的衍生安全閾值，判斷所述待檢測規則模型是否安全。

2.如權利要求1所述的方法，所述計算所述樣本數據集中目標屬性對應的衍生安全閾值，包括采用下述公式計算所述目標屬性對應的衍生安全閾值：

Delta(x)＝p(x)+Delta×(1–p(x))

上式中，Delta(x)表示目標屬性x的衍生安全閾值，p(x)目標屬性x的最大盲猜概率，Delta表示所述預設公共安全閾值；

其中，所述最大盲猜概率為目標屬性的第一樣本數量與所述目標屬性的樣本總數量的比值，所述第一樣本數量為所述目標屬性中樣本數量最多的屬性取值對應的樣本數量；所述第一安全性檢測指標值為所述待檢測規則模型的規則集命中情況下，所述樣本數據集中目標屬性的各個取值的猜中概率中的最大值，所述第二安全性檢測指標值為所述待檢測規則模型的規則集未命中情況下，所述樣本數據集中目標屬性的各個取值的猜中概率中的最大值。

3.如權利要求1所述的方法，所述計算所述樣本數據集中目標屬性對應的衍生安全閾值，包括采用下述公式計算所述目標屬性對應的衍生安全閾值：

Delta‘(x)＝1+(Delta×(1–p(x))/p(x)

上式中，Delta‘(x)表示目標屬性x的衍生安全閾值，p(x)目標屬性x的最大盲猜概率，Delta表示所述預設公共安全閾值；

其中，所述最大盲猜概率為目標屬性的第一樣本數量與所述目標屬性的樣本總數量的比值，所述第一樣本數量為所述目標屬性中樣本數量最多的屬性取值對應的樣本數量；所述第一安全性檢測指標值表征已知所述待檢測規則模型的規則集命中情況下，猜中所述樣本數據集中的目標屬性的取值的概率的提升程度，所述第二安全性檢測指標值表征已知所述待檢測規則模型的規則集未命中情況下，猜中所述樣本數據集中的目標屬性的取值的概率的提升程度。

4.如權利要求1所述的方法，所述方法還包括：

根據所述樣本數據集中滿足所述待檢測規則模型的規則集命中條件的樣本數量和所述樣本數據集中的樣本總數量，確定出所述待檢測規則模型的規則集命中情況下的第一樣本占比；

根據所述樣本數據集中滿足所述待檢測規則模型的規則集未命中條件的樣本數量和所述樣本數據集中的樣本總數量，確定出所述待檢測規則模型的規則集未命中情況下的第二樣本占比；

所述判斷所述待檢測規則模型是否安全，包括：

根據所述第一樣本占比、所述第二樣本占比、所述目標屬性的第一安全性檢測指標值、第二安全性檢測指標值以及所述目標屬性對應的衍生安全閾值，判斷所述待檢測規則模型是否安全。

5.如權利要求4所述的方法，所述判斷所述待檢測規則模型是否安全，包括：

若所述第一樣本占比小于預設樣本占比閾值或所述目標屬性的第一安全性檢測指標值小于對應目標屬性的衍生安全閾值，則確定規則集命中情況下所述待檢測規則模型安全；

若所述第二樣本占比小于預設樣本占比閾值或所述目標屬性的第二安全性檢測指標值小于對應目標屬性的衍生安全閾值，則確定規則集未命中情況下所述待檢測規則模型安全。

6.如權利要求1所述的方法，所述判斷所述待檢測規則模型是否安全，包括：

分別判斷所述規則集命中和未命中情況下所述待檢測規則模型是否安全，若確定規則集命中、未命中情況下所述待檢測規則模型均安全，則確定出所述待檢測規則模型安全。