[發(fā)明專利]一種訓(xùn)練數(shù)據(jù)機(jī)密性評(píng)估方法、裝置、設(shè)備及介質(zhì)

在審

• 申請(qǐng)?zhí)枺?/td>: 202110948432.5
• 申請(qǐng)日: 2021-08-18
• 公開(kāi)（公告）號(hào): CN113657762A
• 公開(kāi)（公告）日: 2021-11-16
• 發(fā)明（設(shè)計(jì)）人: 黃明浩;董貴山;張?jiān)?/a>
• 申請(qǐng)（專利權(quán)）人: 成都衛(wèi)士通信息安全技術(shù)有限公司
• 主分類號(hào): G06Q10/06
• 分類號(hào): G06Q10/06;G06K9/62;G06N5/04
• 代理公司: 北京集佳知識(shí)產(chǎn)權(quán)代理有限公司 11227
• 代理人: 王曉坤

本公開(kāi)提供了一種訓(xùn)練數(shù)據(jù)機(jī)密性評(píng)估方法、裝置、設(shè)備及介質(zhì)，包括：基于部署在服務(wù)器端的目標(biāo)模型中的目標(biāo)組件構(gòu)建初始影子模型；目標(biāo)模型為利用目標(biāo)訓(xùn)練數(shù)據(jù)集訓(xùn)練的模型；利用影子模型訓(xùn)練數(shù)據(jù)集將初始影子模型訓(xùn)練為與目標(biāo)模型相似的模型得到目標(biāo)影子模型；將預(yù)設(shè)數(shù)據(jù)集輸入目標(biāo)影子模型得到輸出結(jié)果；利用輸出結(jié)果、標(biāo)簽信息訓(xùn)練初始二分類器得到推理模型；標(biāo)簽信息表示輸出結(jié)果對(duì)應(yīng)的輸入數(shù)據(jù)是否為影子模型訓(xùn)練數(shù)據(jù)集中數(shù)據(jù)；將目標(biāo)訓(xùn)練數(shù)據(jù)集輸入目標(biāo)影子模型得到預(yù)測(cè)結(jié)果；將預(yù)測(cè)結(jié)果輸入推理模型得到推理結(jié)果；基于推理結(jié)果評(píng)估目標(biāo)訓(xùn)練數(shù)據(jù)集的機(jī)密性。能夠評(píng)估出目標(biāo)模型的訓(xùn)練數(shù)據(jù)的機(jī)密性，及時(shí)發(fā)現(xiàn)風(fēng)險(xiǎn)，從而避免訓(xùn)練數(shù)據(jù)泄露。

技術(shù)領(lǐng)域

本公開(kāi)涉及信息安全技術(shù)領(lǐng)域，特別涉及一種訓(xùn)練數(shù)據(jù)機(jī)密性評(píng)估方法、裝置、設(shè)備及介質(zhì)。

背景技術(shù)

當(dāng)前，深度學(xué)習(xí)已經(jīng)在各種任務(wù)中實(shí)現(xiàn)了較好的性能，但是，在現(xiàn)實(shí)場(chǎng)景中部署深度學(xué)習(xí)系統(tǒng)仍然面臨著，基于深度學(xué)習(xí)的決策需要大量的計(jì)算和存儲(chǔ)資源，對(duì)于資源受限的用戶端設(shè)備來(lái)說(shuō)非常昂貴的問(wèn)題，一種替代方案是將決策任務(wù)外包給機(jī)器學(xué)習(xí)服務(wù)提供商，但這會(huì)引起嚴(yán)重的隱私泄露問(wèn)題。為了解決這些問(wèn)題，在效率和隱私之間取得平衡并減少通信開(kāi)銷，協(xié)作推斷被提出，并得到了廣泛應(yīng)用。它的主要思想是將深度學(xué)習(xí)模型劃分為兩個(gè)部分，其中前一部分部署到用戶端設(shè)備上，而消耗資源的后一部分卸載到服務(wù)器上。這樣不僅節(jié)省了用戶端設(shè)備的計(jì)算和存儲(chǔ)資源，而且對(duì)訓(xùn)練數(shù)據(jù)提供了更好的機(jī)密性保護(hù)，因?yàn)橛脩舳嗽O(shè)備只向邊緣服務(wù)器傳輸經(jīng)過(guò)前一部分網(wǎng)絡(luò)處理后的中間值，而不是原始數(shù)據(jù)。

目前，在協(xié)作推斷系統(tǒng)中，卸載到服務(wù)器上的后一部分目標(biāo)模型可能會(huì)留下一些訓(xùn)練數(shù)據(jù)的印記，存在根據(jù)目標(biāo)模型的預(yù)測(cè)結(jié)果推斷出相應(yīng)的訓(xùn)練數(shù)據(jù)的風(fēng)險(xiǎn)，因此，如何對(duì)目標(biāo)模型的訓(xùn)練數(shù)據(jù)的機(jī)密性進(jìn)行評(píng)估，及時(shí)發(fā)現(xiàn)風(fēng)險(xiǎn)，避免訓(xùn)練數(shù)據(jù)泄露是目前需要解決的問(wèn)題。

發(fā)明內(nèi)容

有鑒于此，本公開(kāi)的目的在于提供一種訓(xùn)練數(shù)據(jù)機(jī)密性評(píng)估方法、裝置、設(shè)備及介質(zhì)，能夠評(píng)估出目標(biāo)模型的訓(xùn)練數(shù)據(jù)的機(jī)密性，及時(shí)發(fā)現(xiàn)風(fēng)險(xiǎn)，從而避免訓(xùn)練數(shù)據(jù)泄露。其具體方案如下：

第一方面，本公開(kāi)提供了一種訓(xùn)練數(shù)據(jù)機(jī)密性評(píng)估方法，包括：

基于部署在服務(wù)器端的目標(biāo)模型中的目標(biāo)組件構(gòu)建初始影子模型；其中，所述目標(biāo)模型為利用目標(biāo)訓(xùn)練數(shù)據(jù)集訓(xùn)練得到的模型；所述目標(biāo)組件為用于對(duì)所述目標(biāo)模型中的特征提取組件提取到的特征進(jìn)行處理以得到模型輸出結(jié)果的組件；

利用影子模型訓(xùn)練數(shù)據(jù)集將所述初始影子模型訓(xùn)練為與所述目標(biāo)模型相似的模型，得到目標(biāo)影子模型；

將預(yù)設(shè)數(shù)據(jù)集輸入所述目標(biāo)影子模型，得到所述目標(biāo)影子模型的輸出結(jié)果；

利用所述輸出結(jié)果以及所述輸出結(jié)果對(duì)應(yīng)的標(biāo)簽信息訓(xùn)練初始二分類器，得到推理模型；其中，所述標(biāo)簽信息表示所述輸出結(jié)果在所述預(yù)設(shè)數(shù)據(jù)集中對(duì)應(yīng)的輸入數(shù)據(jù)是否為所述影子模型訓(xùn)練數(shù)據(jù)集中的數(shù)據(jù)；

將所述目標(biāo)訓(xùn)練數(shù)據(jù)集輸入所述目標(biāo)影子模型，得到所述目標(biāo)影子模型輸出的預(yù)測(cè)結(jié)果；

將所述預(yù)測(cè)結(jié)果輸入所述推理模型，得到所述推理模型輸出的推理結(jié)果；

基于所述推理結(jié)果評(píng)估所述目標(biāo)訓(xùn)練數(shù)據(jù)集的機(jī)密性。

可選的，所述基于部署在服務(wù)器端的目標(biāo)模型中的目標(biāo)組件構(gòu)建初始影子模型，包括：

獲取特征提取器，并利用所述特征提取器以及部署在服務(wù)器端的目標(biāo)模型中的目標(biāo)組件構(gòu)建初始影子模型；

相應(yīng)的，所述利用影子模型訓(xùn)練數(shù)據(jù)集將所述初始影子模型訓(xùn)練為與所述目標(biāo)模型相似的模型，得到目標(biāo)影子模型，包括：

利用影子模型訓(xùn)練數(shù)據(jù)集將所述初始影子模型的所述特征提取器訓(xùn)練為與部署在用戶端的所述目標(biāo)模型中的特征提取組件相似的特征提取器，得到目標(biāo)影子模型；

可選的，所述獲取特征提取器，包括：