[發(fā)明專利]一種神經網絡的數據隱私保護方法及系統(tǒng)

有效

• 申請?zhí)枺?/td>: 202011319485.2
• 申請日: 2020-11-23
• 公開（公告）號: CN112395643B
• 公開（公告）日: 2023-06-20
• 發(fā)明（設計）人: 秦波;張詩童;胡晟;唐文易;石文昌
• 申請（專利權）人: 中國人民大學
• 主分類號: G06F21/62
• 分類號: G06F21/62;G06F21/60;G06N3/0464;G06N3/08
• 代理公司: 北京紀凱知識產權代理有限公司 11245
• 代理人: 孫楠

1.一種神經網絡的數據隱私保護方法，其特征在于，包括以下步驟：

1）對數據進行預處理，產生相應的加密數據，并在分離后發(fā)送給不合謀的機器學習服務提供商；

數據預處理包括以下步驟：

1.1）根據需要選擇保序及保分布的加密算法，對用戶上傳的原始數據進行處理；

1.2）根據計算的需要，將加密后的數據做分離處理；

1.3）將分離好的加密數據傳輸給不合謀的機器學習服務提供商；

2）根據具體情況設置相關參數，并設計卷積神經網絡模型；

3）對步驟1）中預處理后的數據進行特征提取；

4）構建加密預測模塊和加密訓練模塊；

所述加密預測模塊的構建方法包括以下步驟：

4.1.1）將預測問題轉化為矩陣乘法和加法問題；

4.1.2）將矩陣加法過程和矩陣乘法過程通過秘密共享的方式實現(xiàn)；

4.1.3）將激活函數進行隱私保護的轉換；

將乘法與加法通過秘密共享的方式實現(xiàn)，加法轉化的方法為：首先需要對輸出y的數據類型做判斷，然后服務器S0與服務器S1分別計算各自擁有共享值與y的加和，最終share0與share1的和便是要的秘密x與秘密y的和；

乘法轉化的方法為：首先判斷y的數據類型，是PublicTensor還是PrivacyTensor；如果y是PublicTensor，則需要像加法一樣，服務器S0與服務器S1分別乘上y的值，如果y是PrivacyTensor，則需要在線下生成乘法三元體，并利用乘法三元體快速構建點乘加密原語；

所述加密訓練模塊的構建方法包括以下步驟：

4.2.1）將所有運算通過秘密共享的方式進行加密轉換；

4.2.2）將卷積網絡神經模型中的所有層中的所有運算替換為步驟4.2.1）中加密轉換后的運算，從而使得整個訓練過程都能保障數據的安全；

5）將數據輸入神經網絡模型，利用加密預測模塊和加密訓練模塊進行訓練或預測。

2.如權利要求1所述數據隱私保護方法，其特征在于，所述神經網絡模型的構建方法包括以下步驟：

2.1）根據用戶需求，設定超參數并構建結構層；

2.2）根據步驟2.1）中設定的參數及結構層構建模型；

2.3）將步驟1）中預處理后的數據輸入模型，并對模型進行評估。

3.如權利要求1所述數據隱私保護方法，其特征在于，所述特征提取包括以下步驟：

3.1）利用get_layer函數獲取層對象，并提取flatten層輸出的特征，并標注flatten_layer層；

3.2）構建抽取器，設置flatten_layer層的輸出為抽取器輸入；

3.3）準備預測數據，并對預測數據做與步驟3.1）相同的預處理；

3.4）運行模型，提供信息和非冗余的派生值，從而提取預測數據特征。

4.一種用于實現(xiàn)如權利要求1所述數據隱私保護方法的神經網絡的數據隱私保護系統(tǒng)，其特征在于包括：用戶端和機器學習服務端；所述用戶端設置有數據處理系統(tǒng)，用于將用戶上傳的原始數據，根據計算的需要將數據加密和分離，從而保護數據中的個人信息，并將處理好的數據發(fā)送給不合謀的機器學習服務端；所述機器學習服務端設置有機器學習服務系統(tǒng)，用于對用戶的數據進行訓練與預測服務，并將訓練和預測的結果返回給用戶。

5.如權利要求4所述數據隱私保護系統(tǒng)，其特征在于，所述數據處理系統(tǒng)包括數據加密模塊和數據分離模塊；所述數據加密模塊，用于對數據的加密，通過保序及保分布的加密算法實現(xiàn)；所述數據分離模塊是將用戶上傳的數據根據計算的需要分為兩個以上的部分，傳給不共謀的機器學習服務系統(tǒng)。

6.如權利要求4所述數據隱私保護系統(tǒng)，其特征在于，所述機器學習服務系統(tǒng)包括加密預測模塊和加密訓練模塊；所述加密預測模塊將預測過程中所有的計算轉化為矩陣加法與乘法，同時矩陣加法過程和乘法過程通過秘密共享的方式實現(xiàn)，同時，將激活函數用隱私保護的方法進行轉化；所述加密訓練模塊用于對神經網絡模型參數的訓練：將模型中的所有運算通過秘密共享的方式進行加密轉換，并將模型中的所有層中的所有運算替換加密轉換后的運算。