[發明專利]一種多方數據協同場景下的隱私保護量化評估方法和系統

有效

• 申請號: 202110051389.2
• 申請日: 2021-01-14
• 公開（公告）號: CN112380572B
• 公開（公告）日: 2021-10-29
• 發明（設計）人: 那崇寧;李紅程;徐婷婷;許浩
• 申請（專利權）人: 之江實驗室
• 主分類號: G06F21/62
• 分類號: G06F21/62;G06F21/57;G06N3/04;G06N3/08;G06N20/00
• 代理公司: 杭州求是專利事務所有限公司 33200
• 代理人: 邱啟旺

1.一種多方數據協同場景下的隱私保護量化評估方法，其特征在于，包括以下步驟：

（1）數據資源提供方發布數據資源，并將數據資源存儲在數據資源提供方的本地或托管在數據共享、交互和交易系統上；

（2）數據資源使用方在系統上查詢數據資源，并選擇所需數據資源，指定算法、隱私保護機制和模型指標，設置模型指標閾值，發起數據資源使用請求；

（3）數據資源提供方根據算法和保護機制，將所述數據資源輸入模型中進行訓練，當模型指標超過模型指標閾值時，停止訓練，輸出滿足模型指標和模型指標閾值的模型；

（4）數據資源提供方利用攻擊手段，攻擊所述模型，記錄并量化模型的隱私泄露情況，輸出隱私指標；

（5）數據資源提供方設置隱私指標的閾值，若隱私指標超過隱私指標的閾值，數據資源提供方拒絕數據資源使用方發起的數據資源使用請求；否則，數據資源提供方同意數據資源使用方發起的數據資源使用請求，并將模型返回給數據資源使用方。

2.如權利要求1所述多方數據協同場景下的隱私保護量化評估方法，其特征在于，步驟（1）中數據資源為數據類型、數據特征維度、數據條目數、獲取實際數據的方式、與數據交易相關的信息中的一種或者多種。

3.如權利要求1所述多方數據協同場景下的隱私保護量化評估方法，其特征在于，步驟（2）中算法為經典機器學習算法或深度學習算法。

4.如權利要求1所述多方數據協同場景下的隱私保護量化評估方法，其特征在于，步驟（2）中隱私保護機制為k-anonymity機制、l-diversity機制、t-closeness機制、差分隱私機制、同態加密機制、多方安全計算機制中的一種或者多種。

5.如權利要求1所述多方數據協同場景下的隱私保護量化評估方法，其特征在于，步驟（2）中模型指標包括精度、精確率、召回率、F1值、TPR和AUC。

6.如權利要求1所述多方數據協同場景下的隱私保護量化評估方法，其特征在于，步驟（2）中模型指標閾值取值范圍為0.8~1.0的實數。

7.如權利要求1所述多方數據協同場景下的隱私保護量化評估方法，其特征在于，步驟（3）中模型的訓練方式包括隨機梯度下降法和小批量梯度下降法。

8.如權利要求1所述多方數據協同場景下的隱私保護量化評估方法，其特征在于，步驟（4）中攻擊手段為成員推斷攻擊、屬性推斷攻擊和模型竊取攻擊中的一種或者多種；所述隱私指標為訓練數據泄露的比例和屬性泄露的比例。

9.如權利要求1所述多方數據協同場景下的隱私保護量化評估方法，其特征在于，步驟（4）中的隱私指標的閾值為小于0.2的實數。

10.一種滿足權利要求1所述多方數據協同場景下的隱私保護量化評估方法的系統，其特征在于，包括：數據資源分配模塊、隱私保護模塊、模型訓練模塊、性能評測模塊、隱私攻擊模塊和分析報告模塊；

所述數據資源分配模塊用于自動化匹配數據請求和系統內的數據，為數據資源請求方和數據資源提供方進行配對；

所述隱私保護模塊用于提供各類隱私保護機制；

所述模型訓練模塊用于在給定數據、算法和隱私保護機制的情況下，訓練模型；

所述性能評測模塊用于評測并輸出模型的準確性和時耗指標；

所述隱私攻擊模塊用于評測并輸出模型的隱私保護能力相關的指標；

所述分析報告模塊用于提供全面的性能和隱私風險報告，供數據資源提供方決定是否進行數據合作。