[發明專利]一種基于隱私保護的數據處理方法、裝置及設備

在審

• 申請號: 202111425766.0
• 申請日: 2021-11-26
• 公開（公告）號: CN114036571A
• 公開（公告）日: 2022-02-11
• 發明（設計）人: 吳若凡
• 申請（專利權）人: 支付寶（杭州）信息技術有限公司
• 主分類號: G06F21/62
• 分類號: G06F21/62;G06F16/27;G06F21/64;G06N20/00;G06K9/62;G06N3/08;G06V10/764;G06V10/82
• 代理公司: 北京國昊天誠知識產權代理有限公司 11315
• 代理人: 姜鳳巖

本說明書實施例公開了一種基于隱私保護的數據處理方法、裝置及設備，該方法包括：獲取待處理的目標數據，所述目標數據包括連續型結構化數據和/或圖像類數據，然后，可以通過預設的多種不同的隱私預算，分別對所述目標數據進行差分隱私處理，得到每種隱私預算對應的差分隱私結果，基于多種不同的隱私預算對應的差分隱私結果，并通過預設的對比學習損失算法對目標模型進行訓練，得到訓練后的目標模型。

技術領域

本文件涉及計算機技術領域，尤其涉及一種基于隱私保護的數據處理方法、裝置及設備。

背景技術

深度學習往往能通過復雜的大型架構和龐大的數據規模獲得出眾性能的模型，其中需要使用的訓練樣本往往需要標注以得到每個訓練樣本的標簽數據，由于訓練樣本的標簽數據在實際應用中往往要求高昂的標注成本，使得無監督學習或半監督學習成為這類情況下重要的技術工具。但是，在無監督學習或半監督學習中，大量無標注的訓練樣本在易于獲取的同時也增加了隱私風險，例如，無監督學習中，在訓練模型的過程中可能會允許攻擊方通過查詢模型(Query the Model)的方式提取原始的訓練樣本，從而使得個人隱私數據被竊取，在數據合規越發嚴格的當下，無監督學習或半監督學習中的隱私保護越來越受關注。對比學習(Contrastive Learning)是目前較為常用的預訓練范式，也是較為典型的自監督技巧，對比學習可以通過最大化兩個相同底層對象的不同數據增強(Augmentation)處理來實現自監督學習。為此，需要提供一種在對比學習中進行隱私保護處理，以實現預訓練的同時不泄露用戶隱私的技術方案。

發明內容

本說明書實施例的目的是提供一種在對比學習中進行隱私保護處理，以實現預訓練的同時不泄露用戶隱私的技術方案。

為了實現上述技術方案，本說明書實施例是這樣實現的：

本說明書實施例提供的一種基于隱私保護的數據處理方法，所述方法包括：獲取待處理的目標數據，所述目標數據包括連續型結構化數據和/或圖像類數據。通過預設的多種不同的隱私預算，分別對所述目標數據進行差分隱私處理，得到每種隱私預算對應的差分隱私結果。基于多種不同的隱私預算對應的差分隱私結果，并通過預設的對比學習損失算法對目標模型進行訓練，得到訓練后的目標模型。

本說明書實施例提供的一種基于隱私保護的數據處理方法，應用于區塊鏈系統，所述方法包括：獲取基于隱私保護的對比學習的規則信息，采用基于隱私保護的對比學習的規則信息生成相應的第一智能合約，并將所述第一智能合約部署到所述區塊鏈系統中。當獲取到待處理的目標數據時，調用所述第一智能合約，通過預設的多種不同的隱私預算，分別對所述目標數據進行差分隱私處理，得到每種隱私預算對應的差分隱私結果，所述目標數據包括連續型結構化數據和/或圖像類數據。調用所述第一智能合約，并基于多種不同的隱私預算對應的差分隱私結果，通過預設的對比學習損失算法對目標模型進行訓練，得到訓練后的目標模型。

本說明書實施例提供的一種基于隱私保護的數據處理裝置，所述裝置包括：數據獲取模塊，獲取待處理的目標數據，所述目標數據包括連續型結構化數據和/或圖像類數據。差分隱私模塊，通過預設的多種不同的隱私預算，分別對所述目標數據進行差分隱私處理，得到每種隱私預算對應的差分隱私結果。對比學習模塊，基于多種不同的隱私預算對應的差分隱私結果，并通過預設的對比學習損失算法對目標模型進行訓練，得到訓練后的目標模型。

本說明書實施例提供的一種基于隱私保護的數據處理裝置，所述裝置為區塊鏈系統中的裝置，所述裝置包括：合約部署模塊，獲取基于隱私保護的對比學習的規則信息，采用基于隱私保護的對比學習的規則信息生成相應的第一智能合約，并將所述第一智能合約部署到所述區塊鏈系統中。差分隱私模塊，當獲取到待處理的目標數據時，調用所述第一智能合約，通過預設的多種不同的隱私預算，分別對所述目標數據進行差分隱私處理，得到每種隱私預算對應的差分隱私結果，所述目標數據包括連續型結構化數據和/或圖像類數據。對比學習模塊，調用所述第一智能合約，并基于多種不同的隱私預算對應的差分隱私結果，通過預設的對比學習損失算法對目標模型進行訓練，得到訓練后的目標模型。