[發(fā)明專利]一種基于可信執(zhí)行環(huán)境的聯(lián)邦學(xué)習(xí)方法

有效

• 申請?zhí)枺?/td>: 202010020331.7
• 申請日: 2020-01-09
• 公開（公告）號: CN111241580B
• 公開（公告）日: 2022-08-09
• 發(fā)明（設(shè)計）人: 李進;陳煜;羅芳;李同
• 申請（專利權(quán)）人: 廣州大學(xué)
• 主分類號: G06F21/62
• 分類號: G06F21/62;G06F21/64;G06N3/04;H04L9/32
• 代理公司: 廣州市華學(xué)知識產(chǎn)權(quán)代理有限公司 44245
• 代理人: 林梅繁

本發(fā)明屬于數(shù)據(jù)安全領(lǐng)域，為基于可信執(zhí)行環(huán)境的聯(lián)邦學(xué)習(xí)方法，包括：基于可信執(zhí)行環(huán)境生成安全區(qū)；本地用戶從云端下載初始化的模型參數(shù)，將訓(xùn)練算法、訓(xùn)練數(shù)據(jù)集、訓(xùn)練數(shù)據(jù)例子數(shù)和云端傳回的初始化的模型參數(shù)加載到安全區(qū)內(nèi)，得到訓(xùn)練后的模型參數(shù)梯度并生成數(shù)字簽名，通過群簽名算法進行本地用戶身份認(rèn)證，將訓(xùn)練后的模型參數(shù)梯度、模型集成算法及本地用戶身份認(rèn)證上傳到云端；云端對本地用戶身份認(rèn)證進行驗證，驗證成功后獲取所上傳的模型參數(shù)梯度及模型集成算法，置于云端安全區(qū)內(nèi)，對模型進行集成，更新模型參數(shù)梯度。本發(fā)明利用可信執(zhí)行環(huán)境生成安全區(qū)，用戶無法繞過訓(xùn)練過程而直接給出訓(xùn)練結(jié)果，實現(xiàn)了訓(xùn)練完整性和用戶隱私保護。

技術(shù)領(lǐng)域

本發(fā)明屬于數(shù)據(jù)安全領(lǐng)域，具體為一種基于可信執(zhí)行環(huán)境的聯(lián)邦學(xué)習(xí)方法。

背景技術(shù)

基于隱私數(shù)據(jù)的機器學(xué)習(xí)在實際應(yīng)用中取得了很好的效果，許多公司例如Google、Facebook、Apple等都從用戶那搜集海量訓(xùn)練數(shù)據(jù)并應(yīng)用強大的GPU計算能力來部署深度學(xué)習(xí)算法。為了得到一個更深層次的模型，很多公司都愿意搜集互補數(shù)據(jù)，協(xié)作訓(xùn)練。但是，這種通過直接集合多用戶的原始數(shù)據(jù)集來訓(xùn)練機器學(xué)習(xí)模型的方法隱藏著巨大的挑戰(zhàn)：隱私數(shù)據(jù)安全、數(shù)據(jù)投毒、數(shù)據(jù)量謊報等問題。

于2018年10月30日公開的公開號為CN108717514A的發(fā)明專利公開了一種機器學(xué)習(xí)中數(shù)據(jù)隱私保護方法和系統(tǒng)，其首先選擇需要應(yīng)用的加密算法及系統(tǒng)參數(shù)，生成密鑰；接著對原始數(shù)據(jù)進行加密，產(chǎn)生相應(yīng)的密文數(shù)據(jù)；然后使用密文數(shù)據(jù)對需要使用的機器學(xué)習(xí)模型進行訓(xùn)練和參數(shù)調(diào)整，得到最優(yōu)的機器學(xué)習(xí)模型；最后對產(chǎn)生的密鑰進行加密，輸出最優(yōu)的機器學(xué)習(xí)模型并得到預(yù)測或分類結(jié)果。該發(fā)明能夠保護原始數(shù)據(jù)和機器學(xué)習(xí)模型，使得機器學(xué)習(xí)的效率較高并且有較好的延展性，但是并沒有考慮訓(xùn)練結(jié)果的真實性和謊報數(shù)據(jù)量等問題，不能保證訓(xùn)練的完整性。

于2019年3月1日公開的公開號為CN109416721A的發(fā)明專利公開了一種多方隱私保護機器學(xué)習(xí)系統(tǒng)。其系統(tǒng)具有包括至少一個受保護的存儲器區(qū)域的可信執(zhí)行環(huán)境。在系統(tǒng)處的代碼加載器將從多方中的至少一方接收的機器學(xué)習(xí)代碼加載到受保護的存儲器區(qū)域中。數(shù)據(jù)上傳器將從多方中的至少一方接收的機密數(shù)據(jù)上傳到受保護的存儲器區(qū)域。可信執(zhí)行環(huán)境使用至少一個數(shù)據(jù)不經(jīng)意程序來執(zhí)行機器學(xué)習(xí)代碼以處理機密數(shù)據(jù)并且將結(jié)果返回給多方中的至少一方，其中數(shù)據(jù)不經(jīng)意程序是其中任何的存儲器訪問的模式、磁盤訪問的模式和網(wǎng)絡(luò)訪問的模式使得無法從模式預(yù)測機密數(shù)據(jù)的過程。同樣地，其系統(tǒng)很好的保護了隱私數(shù)據(jù)，但是同樣沒有解決訓(xùn)練結(jié)果的真實性和謊報數(shù)據(jù)量這一問題。

因此，如何在保護好隱私數(shù)據(jù)的前提下，防止用戶謊報訓(xùn)練結(jié)果和謊報數(shù)據(jù)量并協(xié)作訓(xùn)練出一個性能良好的模型，是目前需要解決的問題。

發(fā)明內(nèi)容

為了解決現(xiàn)有技術(shù)所存在的問題，本發(fā)明提供一種基于可信執(zhí)行環(huán)境的聯(lián)邦學(xué)習(xí)方法，利用可信執(zhí)行環(huán)境生成安全區(qū)，用戶無法繞過訓(xùn)練過程而直接給出訓(xùn)練結(jié)果，并且該可信執(zhí)行環(huán)境通過給訓(xùn)練結(jié)果、學(xué)習(xí)算法以及用戶身份提供簽名認(rèn)證，使得非誠信用戶難以存在，從而實現(xiàn)訓(xùn)練完整性和用戶隱私保護。

本發(fā)明采用以下技術(shù)方案來實現(xiàn)：一種基于可信執(zhí)行環(huán)境的聯(lián)邦學(xué)習(xí)方法，包括以下步驟：

S1、基于可信執(zhí)行環(huán)境生成安全區(qū)；

S2、本地用戶向云端提出下載初始化的模型參數(shù)的請求，云端回應(yīng)請求并發(fā)送初始化的模型參數(shù)；

S3、本地用戶將訓(xùn)練算法、訓(xùn)練數(shù)據(jù)集、訓(xùn)練數(shù)據(jù)例子數(shù)和云端傳回的初始化的模型參數(shù)加載到安全區(qū)內(nèi)，執(zhí)行訓(xùn)練算法在本地進行訓(xùn)練，得到訓(xùn)練后的模型參數(shù)梯度；本地用戶利用訓(xùn)練后的模型參數(shù)梯度、訓(xùn)練算法和模型集成算法生成數(shù)字簽名，并利用數(shù)字簽名和本地中央處理器芯片的硬件信息，通過群簽名算法進行本地用戶身份認(rèn)證，最終本地用戶將訓(xùn)練后的模型參數(shù)梯度、模型集成算法及本地用戶身份認(rèn)證上傳到云端；