[發明專利]一種防止GAN模型攻擊并保護CDL訓練信息的隱私防護方法

有效

• 申請號: 201910805998.5
• 申請日: 2019-08-29
• 公開（公告）號: CN112448916B
• 公開（公告）日: 2023-04-07
• 發明（設計）人: 閆曉丹;徐旸;崔寶江;張程;曾泉潤;張繼威;張書涵;畢春芳
• 申請（專利權）人: 閆曉丹
• 主分類號: H04L9/40
• 分類號: H04L9/40;G06N3/0464;G06N3/094
• 代理公司: 北京智行陽光知識產權代理事務所(普通合伙) 11738
• 代理人: 黃錦陽

本發明公開了一種防止GAN模型攻擊并保護CDL訓練信息的隱私防護方法，包括如下步驟：步驟一，建立GAN模型；步驟二，添加檢測模塊并修改網絡協議；步驟三，檢測模塊檢測入侵；步驟四，使用基于卷積神經網絡的架構；步驟一中，在協作深度學習高級網絡架構的基礎上生成GAN模型，并通過CAN模型來構建算法；步驟二中，向參數服務器添加了一個檢測模塊；然后根據修改后的協議和定義的數據埋點，在局部模型上添加一個埋點層，在埋點層之下設置輸出層，本發明該主要關注與如何在協作深度學習中識別針對GAN模型攻擊的準確且適應性強的信息保護方法；與其他方法相比，本發明所提出的機制可以更加準確并更加能夠廣泛適應的保護信息。

技術領域

本發明涉及協作深度學習網絡系統技術領域，具體為一種防止GAN模型攻擊并保護CDL訓練信息的隱私防護方法。

背景技術

大數據的共享為政府部門、企業、科研機構提供了便利條件，然而隨之而來的數據隱私安全問題日漸增多；差分隱私技術在支持隱私保護的數據挖掘與數據發布方面得到了廣泛研究；深度學習最近在機器學習方面非常受歡迎，因為它能夠解決端到端學習系統，其中功能和分類器同時被學習，在高度結構化和大型數據庫的存在下顯著提高分類準確性；它的成功歸功于最近的算法突破，越來越強大的計算機以及對大量數據的訪問；研究人員還考慮了深度學習對隱私的影響；通常以集中方式訓練模型，所有數據由相同的訓練算法處理；如果數據是用戶私人數據的集合，包括習慣，個人圖片，地理位置，興趣等，則中央服務器將能夠訪問可能被錯誤處理的敏感信息；為了解決這個問題，科研人員提出了協作深度學習模型來保護訓練過程中的數據隱私，如圖1所示；該框架圖展示了協同深度學習系統的主要組件和協議，其中各方在本地訓練他們的深度學習結構并且僅共享參數的子集以試圖保持他們各自的訓練集私有。

深度學習由于在圖像分類和生物學應用中有著較高的有效性和精確度，因此被廣泛應用在醫療領域，但由于模型中的算法數據的變化，會導致個人信息暴露從而產生嚴重后果；針對協作式深度學習網絡系統的各種攻擊都會導致信息泄露，以及分散式深度學習的多次培訓并更新參數，都存在大量信息泄露風險。

在使用深度學習模型從模糊圖像中判斷主體身份時會存在人為的分類錯誤，從而導致錯誤的輸出；同時，由于深度學習需要在訓練集中累積數據信息，這將導致更高的隱私泄露風險，尤其是在醫療領域。

GAN攻擊協作試深度學習允許所有成員從設備中推斷敏感信息，但是即使在已進行了差異隱私模糊處理的情況下，攻擊者也可在不影響服務提供商的情況下進行攻擊，獲取重要敏感數據從而引起隱私泄露。

因此設計一種在生成對抗網絡(GAN)模型下，防止GAN模型攻擊并保護CDL訓練信息的算法，來提高穩定性，來更加準確有效的防止信息泄露，是很有意義的。

發明內容

本發明的目的在于提供一種防止GAN模型攻擊并保護CDL訓練信息的隱私防護方法，以解決上述背景技術中提出的問題。

為了解決上述技術問題，本發明提供如下技術方案：一種防止GAN模型攻擊并保護CDL訓練信息的隱私防護方法，包括如下步驟：步驟一，建立GAN模型；步驟二，添加檢測模塊并修改網絡協議；步驟三，檢測模塊檢測入侵；步驟四，使用基于卷積神經網絡的架構；

其中在上述的步驟一中，在協作深度學習高級網絡架構的基礎上建立生成對抗網絡(GAN)模型，并通過CAN模型來構建算法；

其中在上述的步驟二中，向參數服務器(parameterserver,PS)添加了一個檢測模塊，并修改網絡協議；然后根據修改后的協議和定義的數據埋點，在局部模型上添加一個埋點層，在埋點層之下設置輸出層；

其中在上述的步驟三中，當攻擊者向服務器上傳參數時，反向傳播過程會更新被埋點層的權重，檢測模塊則會立即發現入侵，若此行為被歸為惡GAN模型攻擊，則攻擊者上傳的參數將被釋放，攻擊者的學習進度也將會受限，并且等待下一次的加載；當最終確認為有效攻擊時，解決方案會由攻擊行為決定；