[發明專利]一種基于可信執行環境的聯邦學習方法

有效

• 申請號: 202010020331.7
• 申請日: 2020-01-09
• 公開（公告）號: CN111241580B
• 公開（公告）日: 2022-08-09
• 發明（設計）人: 李進;陳煜;羅芳;李同
• 申請（專利權）人: 廣州大學
• 主分類號: G06F21/62
• 分類號: G06F21/62;G06F21/64;G06N3/04;H04L9/32
• 代理公司: 廣州市華學知識產權代理有限公司 44245
• 代理人: 林梅繁

本發明屬于數據安全領域，為基于可信執行環境的聯邦學習方法，包括：基于可信執行環境生成安全區；本地用戶從云端下載初始化的模型參數，將訓練算法、訓練數據集、訓練數據例子數和云端傳回的初始化的模型參數加載到安全區內，得到訓練后的模型參數梯度并生成數字簽名，通過群簽名算法進行本地用戶身份認證，將訓練后的模型參數梯度、模型集成算法及本地用戶身份認證上傳到云端；云端對本地用戶身份認證進行驗證，驗證成功后獲取所上傳的模型參數梯度及模型集成算法，置于云端安全區內，對模型進行集成，更新模型參數梯度。本發明利用可信執行環境生成安全區，用戶無法繞過訓練過程而直接給出訓練結果，實現了訓練完整性和用戶隱私保護。

技術領域

本發明屬于數據安全領域，具體為一種基于可信執行環境的聯邦學習方法。

背景技術

基于隱私數據的機器學習在實際應用中取得了很好的效果，許多公司例如Google、Facebook、Apple等都從用戶那搜集海量訓練數據并應用強大的GPU計算能力來部署深度學習算法。為了得到一個更深層次的模型，很多公司都愿意搜集互補數據，協作訓練。但是，這種通過直接集合多用戶的原始數據集來訓練機器學習模型的方法隱藏著巨大的挑戰：隱私數據安全、數據投毒、數據量謊報等問題。

于2018年10月30日公開的公開號為CN108717514A的發明專利公開了一種機器學習中數據隱私保護方法和系統，其首先選擇需要應用的加密算法及系統參數，生成密鑰；接著對原始數據進行加密，產生相應的密文數據；然后使用密文數據對需要使用的機器學習模型進行訓練和參數調整，得到最優的機器學習模型；最后對產生的密鑰進行加密，輸出最優的機器學習模型并得到預測或分類結果。該發明能夠保護原始數據和機器學習模型，使得機器學習的效率較高并且有較好的延展性，但是并沒有考慮訓練結果的真實性和謊報數據量等問題，不能保證訓練的完整性。

于2019年3月1日公開的公開號為CN109416721A的發明專利公開了一種多方隱私保護機器學習系統。其系統具有包括至少一個受保護的存儲器區域的可信執行環境。在系統處的代碼加載器將從多方中的至少一方接收的機器學習代碼加載到受保護的存儲器區域中。數據上傳器將從多方中的至少一方接收的機密數據上傳到受保護的存儲器區域。可信執行環境使用至少一個數據不經意程序來執行機器學習代碼以處理機密數據并且將結果返回給多方中的至少一方，其中數據不經意程序是其中任何的存儲器訪問的模式、磁盤訪問的模式和網絡訪問的模式使得無法從模式預測機密數據的過程。同樣地，其系統很好的保護了隱私數據，但是同樣沒有解決訓練結果的真實性和謊報數據量這一問題。

因此，如何在保護好隱私數據的前提下，防止用戶謊報訓練結果和謊報數據量并協作訓練出一個性能良好的模型，是目前需要解決的問題。

發明內容

為了解決現有技術所存在的問題，本發明提供一種基于可信執行環境的聯邦學習方法，利用可信執行環境生成安全區，用戶無法繞過訓練過程而直接給出訓練結果，并且該可信執行環境通過給訓練結果、學習算法以及用戶身份提供簽名認證，使得非誠信用戶難以存在，從而實現訓練完整性和用戶隱私保護。

本發明采用以下技術方案來實現：一種基于可信執行環境的聯邦學習方法，包括以下步驟：

S1、基于可信執行環境生成安全區；

S2、本地用戶向云端提出下載初始化的模型參數的請求，云端回應請求并發送初始化的模型參數；

S3、本地用戶將訓練算法、訓練數據集、訓練數據例子數和云端傳回的初始化的模型參數加載到安全區內，執行訓練算法在本地進行訓練，得到訓練后的模型參數梯度；本地用戶利用訓練后的模型參數梯度、訓練算法和模型集成算法生成數字簽名，并利用數字簽名和本地中央處理器芯片的硬件信息，通過群簽名算法進行本地用戶身份認證，最終本地用戶將訓練后的模型參數梯度、模型集成算法及本地用戶身份認證上傳到云端；