[發明專利]一種神經網絡的數據隱私保護方法及系統

有效

• 申請號: 202011319485.2
• 申請日: 2020-11-23
• 公開（公告）號: CN112395643B
• 公開（公告）日: 2023-06-20
• 發明（設計）人: 秦波;張詩童;胡晟;唐文易;石文昌
• 申請（專利權）人: 中國人民大學
• 主分類號: G06F21/62
• 分類號: G06F21/62;G06F21/60;G06N3/0464;G06N3/08
• 代理公司: 北京紀凱知識產權代理有限公司 11245
• 代理人: 孫楠

本發明涉及一種神經網絡的數據隱私保護方法及系統，其包括：對數據進行預處理，產生相應的加密數據，并在分離后發送給不合謀的機器學習服務提供商；構建神經網絡模型，根據具體情況設置相關參數，并設計卷積網絡神經模型；對預處理后的數據進行特征提取；構建加密預測模塊和加密訓練模塊；將數據輸入神經網絡模型，利用加密預測模塊和加密訓練模塊進行訓練或預測。本發明采用了保序/保分布性質的加密算法以及分離策略來處理用戶的原始數據，同時，利用秘密共享和隱私保護的策略處理模型訓練和預測的流程，使得方案中訓練與預測的效率較高，擁有極高的安全性保障和較好的可擴展性。

技術領域

本發明涉及一種數據安全技術領域，特別是關于一種機器學習中神經網絡的數據隱私保護方法及系統。

背景技術

隨著算力的提升，神經網絡在多個領域得到推廣與應用。規模較大的公司依據其海量數據、成熟算法、強大算力訓練出具有及時性效果的神經網絡模型，并提出MLaaS(Machine?Learning?as?a?Service)框架，為其它公司和個人提供機器學習的云端服務。然而，因為模型托管在云端，用戶需要上傳個人數據，并調取預測接口得到預測結果，用戶在數據上傳后會失去對數據的控制，并擔心自己的數據隱私在上傳與預測時被竊取，或者服務端將會濫用數據甚至于買賣數據。同時，高精度的模型依賴大規模數據，但模型可能會暴露這些數據的隱私信息，存儲在云端的模型時公司的重要資產，模型的隱私安全也需要得到保護。實際上，在神經網絡模型預測過程中，訓練數據于模型本身于預測數據的隱私保護問題是一個亟待解決的問題。

目前，已有國內外研究機構和企業對神經網絡的隱私保護問題進行了深入的研究，所采取的隱私保護方法可以分為五類：差分隱私，同態加密，安全多方計算，基于可信硬件的隱私保護技術以及聯邦學習技術。但它們都存在一定的問題：1、差分隱私技術使得模型的精度下降，預測結果的質量下降。2、同態加密技術運算開銷過大，且能夠實現的運算有限。而且同態加密生成的密文長度遠遠大于明文長度，導致訓練效率嚴重下降，因此同態加密在實用性方面較差。3、基于可信硬件的隱私保護技術要求服務提供商，使用專門的設備，部署困難同時難以保障服務提供商按要求部署了設備。4、聯邦學習方案采用參數交換的方式，難以抵御推理攻擊，從而存在泄露模型使用的訓練數據的可能。

發明內容

針對上述問題，本發明的目的是提供一種神經網絡的數據隱私保護方法及系統，其具有極高的通用性，能有效保障數據的隱私性，

為實現上述目的，本發明采取以下技術方案：

一種神經網絡的數據隱私保護方法，其包括以下步驟：1)對數據進行預處理，產生相應的加密數據，并在分離后發送給不合謀的機器學習服務提供商；2)根據具體情況設置相關參數，并設計卷積神經網絡模型；3)對步驟1)中預處理后的數據進行特征提取；4)構建加密預測模塊和加密訓練模塊；5)將數據輸入神經網絡模型，利用加密預測模塊和加密訓練模塊進行訓練或預測。

進一步，所述數據預處理包括以下步驟：

1.1)根據需要選擇保序及保分布的加密算法，對用戶上傳的原始數據進行處理；

1.2)根據計算的需要，將加密后的數據做分離處理；

1.3)將分離好的加密數據傳輸給不合謀的機器學習服務提供商。

進一步，所述神經網絡模型的構建方法包括以下步驟：

2.1)根據用戶需求，設定超參數并構建結構層；

2.2)根據步驟2.1)中設定的參數及結構層構建模型；

2.3)將步驟1)中預處理后的數據輸入模型，并對模型進行評估。

進一步，所述特征提取包括以下步驟：

3.1)利用get_layer函數獲取層對象，并提取flatten層輸出的特征，并標