[發明專利]一種訓練數據機密性評估方法、裝置、設備及介質

在審

• 申請號: 202110948432.5
• 申請日: 2021-08-18
• 公開（公告）號: CN113657762A
• 公開（公告）日: 2021-11-16
• 發明（設計）人: 黃明浩;董貴山;張云
• 申請（專利權）人: 成都衛士通信息安全技術有限公司
• 主分類號: G06Q10/06
• 分類號: G06Q10/06;G06K9/62;G06N5/04
• 代理公司: 北京集佳知識產權代理有限公司 11227
• 代理人: 王曉坤

1.一種訓練數據機密性評估方法，其特征在于，包括：

基于部署在服務器端的目標模型中的目標組件構建初始影子模型；其中，所述目標模型為利用目標訓練數據集訓練得到的模型；所述目標組件為用于對所述目標模型中的特征提取組件提取到的特征進行處理以得到模型輸出結果的組件；

利用影子模型訓練數據集將所述初始影子模型訓練為與所述目標模型相似的模型，得到目標影子模型；

將預設數據集輸入所述目標影子模型，得到所述目標影子模型的輸出結果；

利用所述輸出結果以及所述輸出結果對應的標簽信息訓練初始二分類器，得到推理模型；其中，所述標簽信息表示所述輸出結果在所述預設數據集中對應的輸入數據是否為所述影子模型訓練數據集中的數據；

將所述目標訓練數據集輸入所述目標影子模型，得到所述目標影子模型輸出的預測結果；

將所述預測結果輸入所述推理模型，得到所述推理模型輸出的推理結果；

基于所述推理結果評估所述目標訓練數據集的機密性。

2.根據權利要求1所述的訓練數據機密性評估方法，其特征在于，所述基于部署在服務器端的目標模型中的目標組件構建初始影子模型，包括：

獲取特征提取器，并利用所述特征提取器以及部署在服務器端的目標模型中的目標組件構建初始影子模型；

相應的，所述利用影子模型訓練數據集將所述初始影子模型訓練為與所述目標模型相似的模型，得到目標影子模型，包括：

利用影子模型訓練數據集將所述初始影子模型的所述特征提取器訓練為與部署在用戶端的所述目標模型中的特征提取組件相似的特征提取器，得到目標影子模型。

3.根據權利要求2所述的訓練數據機密性評估方法，其特征在于，所述獲取特征提取器，包括：

獲取訓練后模型的特征提取器；其中，所述訓練后模型為經過訓練并且具備特征提取能力的模型。

4.根據權利要求1所述的訓練數據機密性評估方法，其特征在于，所述利用影子模型訓練數據集將所述初始影子模型訓練為與所述目標模型相似的模型，得到目標影子模型，包括：

獲取影子模型訓練數據集；其中，所述影子模型訓練數據集為與所述目標訓練數據集分布相同，且不相交的數據集；

利用影子模型訓練數據集將所述初始影子模型訓練為與所述目標模型相似的模型，得到目標影子模型。

5.根據權利要求1所述的訓練數據機密性評估方法，其特征在于，所述將預設數據集輸入所述目標影子模型，得到所述目標影子模型的輸出結果，包括：

將預設數據集包括的所述影子模型訓練數據集輸入所述目標影子模型，得到第一影子模型輸出結果；

將所述預設數據集包括的影子模型測試數據集輸入至所述目標影子模型，得到第二影子模型輸出結果。

6.根據權利要求5所述的訓練數據機密性評估方法，其特征在于，所述利用所述輸出結果以及所述輸出結果對應的標簽信息訓練初始二分類器，得到推理模型，包括：

將所述第一影子模型輸出結果打上第一標簽信息、所述第二影子模型輸出結果打上第二標簽信息，得到推理模型訓練數據集；其中，所述第一標簽信息表示所述第一影子模型輸出結果在所述預設數據集中對應的輸入數據為所述影子模型訓練數據集中的數據，所述第二標簽信息表示所述第二影子模型輸出結果在所述預設數據集中對應的輸入數據不為所述影子模型訓練數據集中的數據；

利用所述推理模型訓練數據集對初始二分類器進行訓練，得到推理模型。

7.根據權利要求1至6任一項所述的訓練數據機密性評估方法，其特征在于，所述基于所述推理結果評估所述目標訓練數據集的機密性，包括：

確定所述推理結果為輸入所述目標影子模型的相應數據為所述目標訓練數據集中的數據的數量；

確定所述數量與所述目標訓練數據集的數據總數的比值；

基于所述比值評估所述目標訓練數據集的機密性。