[發明專利]規則模型的安全性檢測方法、裝置、設備及系統

在審

• 申請號: 202010908605.6
• 申請日: 2020-09-02
• 公開（公告）號: CN112085369A
• 公開（公告）日: 2020-12-15
• 發明（設計）人: 張文彬;李翰林;李漓春;殷山
• 申請（專利權）人: 支付寶（杭州）信息技術有限公司
• 主分類號: G06Q10/06
• 分類號: G06Q10/06;G06N20/00
• 代理公司: 北京三友知識產權代理有限公司 11127
• 代理人: 闞傳猛;周達

1.一種規則模型的安全性檢測方法，所述方法包括：

獲取待檢測規則模型的規則集；

獲取所述待檢測規則模型安全性檢測的樣本數據集；

根據所述樣本數據集中目標屬性的取值分布，確定所述待檢測規則模型的規則集命中情況下各個目標屬性的第一猜中概率和所述待檢測規則模型的規則集未命中情況下各個目標屬性的第二猜中概率；其中，所述目標屬性為所述樣本數據集與所述規則集中均存在的屬性；

根據各個目標屬性的第一猜中概率、第二猜中概率以及各個目標屬性對應的預設安全閾值，判斷所述待檢測規則模型是否安全。

2.如權利要求1所述的方法，獲取到所述樣本數據集后，所述方法還包括：

獲取所述樣本數據集中目標屬性的取值分布，確定出所述樣本數據集中各個目標屬性的盲猜概率；

所述判斷所述規則模型是否安全，包括：

根據各個目標屬性的盲猜概率、第一猜中概率、第二猜中概率以及各個目標屬性對應的預設安全閾值，判斷所述待檢測規則模型是否安全。

3.如權利要求2所述的方法，所述判斷所述規則模型是否安全，包括：

根據各個目標屬性的盲猜概率、第一猜中概率和第二猜中概率，確定出所述待檢測規則模型的規則集命中情況下各個目標屬性的第一猜測提升率和所述待檢測規則模型的規則集未命中情況下各個目標屬性的第二猜測提升率；其中，所述第一猜測提升率為第一猜中概率與盲猜概率的比值，所述第二猜測提升率為第二猜中概率與盲猜概率的比值；

根據各個目標屬性的第一猜測提升率、第二猜測提升率和各個目標屬性對應的預設猜測提升率閾值，判斷所述待檢測規則模型是否安全。

4.如權利要求3所述的方法，所述方法還包括：

根據所述樣本數據集中滿足所述待檢測規則模型的規則集命中條件的樣本數量和所述樣本數據集中的樣本總數量，確定出所述待檢測規則模型的規則集命中情況下的第一樣本占比；

根據所述樣本數據集中滿足所述待檢測規則模型的規則集未命中條件的樣本數量和所述樣本數據集中的樣本總數量，確定出所述待檢測規則模型的規則集未命中情況下的第二樣本占比；

所述判斷所述待檢測規則模型是否安全，包括：

根據所述第一樣本占比、所述第二樣本占比、各個目標屬性的第一猜中概率、第二猜中概率和各個目標屬性對應的預設安全閾值，或，根據所述第一樣本占比、所述第二樣本占比、各個目標屬性的第一猜測提升率、第二猜測提升率和各個目標屬性對應的預設安全閾值，判斷所述待檢測規則模型是否安全。

5.如權利要求4所述的方法，所述判斷所述待檢測規則模型是否安全，包括：

若所述第一樣本占比大于預設樣本占比閾值且各個目標屬性的第一猜中概率均大于對應目標屬性的預設猜中概率閾值，或者，所述第一樣本占比大于預設樣本占比閾值且各個目標屬性的第一猜測提升率大于對應目標屬性的預設猜測提升率閾值，則確定規則集命中情況下所述待檢測規則模型不安全；

若所述第二樣本占比大于預設樣本占比閾值且各個目標屬性的第二猜中概率均大于對應目標屬性的預設猜中概率閾值，或者，所述第一樣本占比大于預設樣本占比閾值且各個目標屬性的第二猜測提升率大于對應目標屬性的預設猜測提升率閾值，則確定規則集未命中情況下所述待檢測規則模型不安全。

6.如權利要求1所述的方法，所述判斷所述待檢測規則模型是否安全，包括：

分別判斷所述規則集命中和未命中情況下所述待檢測規則模型是否安全，若確定規則集命中、未命中情況下所述待檢測規則模型均安全，則確定出所述待檢測規則模型安全。

7.如權利要求1所述的方法，所述判斷所述待檢測規則模型是否安全，包括：

若存在一個目標屬性的第一猜中概率或第二猜中概率大于對應目標屬性的預設安全閾值，則確定所述待檢測規則模型不安全。