[發明專利]一種多方數據協同場景下的隱私保護量化評估方法和系統

有效

• 申請號: 202110051389.2
• 申請日: 2021-01-14
• 公開（公告）號: CN112380572B
• 公開（公告）日: 2021-10-29
• 發明（設計）人: 那崇寧;李紅程;徐婷婷;許浩
• 申請（專利權）人: 之江實驗室
• 主分類號: G06F21/62
• 分類號: G06F21/62;G06F21/57;G06N3/04;G06N3/08;G06N20/00
• 代理公司: 杭州求是專利事務所有限公司 33200
• 代理人: 邱啟旺

本發明公開了一種多方數據協同場景下的隱私保護量化評估方法和系統，該方法為數據資源提供方根據算法和保護機制，將所述數據資源輸入模型中進行訓練，輸出滿足模型指標和閾值的模型，同時，數據資源提供方利用攻擊手段，攻擊上述模型，記錄并量化模型的隱私泄露情況，輸出隱私指標；數據資源使用方和數據資源提供方分別根據模型指標和隱私指標是否滿足自身需要，做出是否進行數據合作的決策。本發明提升了在數據共享過程中對隱私風險和數據價值的有效評估和信息披露，有效解決數據資源提供方和數據使用需求方之間的信息不對稱問題，有助于構建更加健康和可持續發展的數據共享、交互和交易體系。

技術領域

本發明屬于網絡信息技術領域，具體地涉及一種多方數據協同場景下的隱私保護量化評估方法和系統。

背景技術

未來如金融、醫療、交通等領域的數字化和智能化發展將更加注重跨機構的大數據共享和分布式人工智能算法進行聯合建模。該類應用涉及到分布式的數據收集、傳輸、存儲、使用，及跨機構的數據共享、聯合建模，系統模型較為復雜。相關隱私保護算法涉及人工智能，數據加密，網絡安全等多類技術的綜合運用。近年來雖然關于該應用場景下的研究已初步產出一定數量的解決方案，如基于聯邦學習的分布式人工智能算法框架，及基于同態加密，多方安全計算等加密算法框架，但還缺乏針對該場景下的有效評估手段。該類場景下的隱私保護量化評估需求來源于兩方面：一方面需對隱私保護技術的實際效果進行評估，而此評估指標的結果依賴于數據特征，采用的數據分析或數據挖掘方法，以及所采用的隱私保護技術；另一方面需對隱私保護技術下數據使用效用進行評估，隱私保護技術在保護隱私信息的同時必然對數據本身的使用效用造成負面影響，如計算效率，計算結果的準確性等等，因此需評估在隱私保護條件下數據效用下降程度。

目前國內外學術界和工業界也已陸續開發并開源了一些相關的算法框架和平臺，如FATE，PySyft，TFE，Ctypten等。此類框架多聚焦于解決計算復雜度高，通信成本高，與現有機器學習及深度學習算法融合等一系列工程問題并旨在實現初步的概念驗證，但并未嚴格的將各類算法關聯的隱私攻擊模型納入框架，因此不具備完整的隱私保護效用和數據效用的量化評估能力。目前國內外學術界和工業界也嘗試基于多方數據共享的場景構建數據共享、交互和交易系統，通過該類系統實現數據資源方和數據需求方的供需匹配，但此類系統由于無法提供隱私保護效用和數據效用的量化評估能力，因此無法向數據資源提供方提供有效的隱私泄露風險提示，無法向數據使用方提供數據效用，尤其是在隱私保護條件下數據效用下降程度提供風險提示，因此該類系統無論是數據資源提供方還是數據需求方對于數據交易都缺乏足夠的輔助決策依據，因此系統的撮合效果有限。

發明內容

本發明的目的在于針對現有隱私保護數據共享、交互和交易系統的不足，提出一種多方數據協同場景下的隱私保護量化評估方法和系統。

本發明的目的是通過如下技術方案實現的：一種多方數據協同場景下的隱私保護量化評估方法，包括以下步驟：

（1）數據資源提供方發布數據資源，并將數據資源存儲在數據資源提供方的本地或托管在數據共享、交互和交易系統上；

（2）數據資源使用方在系統上查詢數據資源，并選擇所需數據資源，指定算法、隱私保護機制和模型指標，設置閾值，發起數據資源使用請求；

（3）數據資源提供方根據算法和保護機制，將所述數據資源輸入模型中進行訓練，當模型指標超過閾值時，停止訓練，輸出滿足模型指標和閾值的模型；

（4）數據資源提供方利用攻擊手段，攻擊所述模型，記錄并量化模型的隱私泄露情況，輸出隱私指標；

（5）數據資源提供方設置隱私閾值，若隱私指標超過隱私閾值，數據資源提供方拒絕數據資源使用方發起的數據資源使用請求；否則，數據資源提供方同意數據資源使用方發起的數據資源使用請求，并將模型返回給數據資源使用方。

進一步地，步驟（1）中數據資源為數據類型、數據特征維度、數據條目數、獲取實際數據的方式、與數據交易相關的信息中的一種或者多種。