[發(fā)明專利]一種基于可信執(zhí)行環(huán)境的聯(lián)邦學(xué)習(xí)方法有效
| 申請?zhí)枺?/td> | 202010020331.7 | 申請日: | 2020-01-09 |
| 公開(公告)號: | CN111241580B | 公開(公告)日: | 2022-08-09 |
| 發(fā)明(設(shè)計)人: | 李進;陳煜;羅芳;李同 | 申請(專利權(quán))人: | 廣州大學(xué) |
| 主分類號: | G06F21/62 | 分類號: | G06F21/62;G06F21/64;G06N3/04;H04L9/32 |
| 代理公司: | 廣州市華學(xué)知識產(chǎn)權(quán)代理有限公司 44245 | 代理人: | 林梅繁 |
| 地址: | 510006 廣東省廣*** | 國省代碼: | 廣東;44 |
| 權(quán)利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關(guān)鍵詞: | 一種 基于 可信 執(zhí)行 環(huán)境 聯(lián)邦 學(xué)習(xí)方法 | ||
本發(fā)明屬于數(shù)據(jù)安全領(lǐng)域,為基于可信執(zhí)行環(huán)境的聯(lián)邦學(xué)習(xí)方法,包括:基于可信執(zhí)行環(huán)境生成安全區(qū);本地用戶從云端下載初始化的模型參數(shù),將訓(xùn)練算法、訓(xùn)練數(shù)據(jù)集、訓(xùn)練數(shù)據(jù)例子數(shù)和云端傳回的初始化的模型參數(shù)加載到安全區(qū)內(nèi),得到訓(xùn)練后的模型參數(shù)梯度并生成數(shù)字簽名,通過群簽名算法進行本地用戶身份認(rèn)證,將訓(xùn)練后的模型參數(shù)梯度、模型集成算法及本地用戶身份認(rèn)證上傳到云端;云端對本地用戶身份認(rèn)證進行驗證,驗證成功后獲取所上傳的模型參數(shù)梯度及模型集成算法,置于云端安全區(qū)內(nèi),對模型進行集成,更新模型參數(shù)梯度。本發(fā)明利用可信執(zhí)行環(huán)境生成安全區(qū),用戶無法繞過訓(xùn)練過程而直接給出訓(xùn)練結(jié)果,實現(xiàn)了訓(xùn)練完整性和用戶隱私保護。
技術(shù)領(lǐng)域
本發(fā)明屬于數(shù)據(jù)安全領(lǐng)域,具體為一種基于可信執(zhí)行環(huán)境的聯(lián)邦學(xué)習(xí)方法。
背景技術(shù)
基于隱私數(shù)據(jù)的機器學(xué)習(xí)在實際應(yīng)用中取得了很好的效果,許多公司例如Google、Facebook、Apple等都從用戶那搜集海量訓(xùn)練數(shù)據(jù)并應(yīng)用強大的GPU計算能力來部署深度學(xué)習(xí)算法。為了得到一個更深層次的模型,很多公司都愿意搜集互補數(shù)據(jù),協(xié)作訓(xùn)練。但是,這種通過直接集合多用戶的原始數(shù)據(jù)集來訓(xùn)練機器學(xué)習(xí)模型的方法隱藏著巨大的挑戰(zhàn):隱私數(shù)據(jù)安全、數(shù)據(jù)投毒、數(shù)據(jù)量謊報等問題。
于2018年10月30日公開的公開號為CN108717514A的發(fā)明專利公開了一種機器學(xué)習(xí)中數(shù)據(jù)隱私保護方法和系統(tǒng),其首先選擇需要應(yīng)用的加密算法及系統(tǒng)參數(shù),生成密鑰;接著對原始數(shù)據(jù)進行加密,產(chǎn)生相應(yīng)的密文數(shù)據(jù);然后使用密文數(shù)據(jù)對需要使用的機器學(xué)習(xí)模型進行訓(xùn)練和參數(shù)調(diào)整,得到最優(yōu)的機器學(xué)習(xí)模型;最后對產(chǎn)生的密鑰進行加密,輸出最優(yōu)的機器學(xué)習(xí)模型并得到預(yù)測或分類結(jié)果。該發(fā)明能夠保護原始數(shù)據(jù)和機器學(xué)習(xí)模型,使得機器學(xué)習(xí)的效率較高并且有較好的延展性,但是并沒有考慮訓(xùn)練結(jié)果的真實性和謊報數(shù)據(jù)量等問題,不能保證訓(xùn)練的完整性。
于2019年3月1日公開的公開號為CN109416721A的發(fā)明專利公開了一種多方隱私保護機器學(xué)習(xí)系統(tǒng)。其系統(tǒng)具有包括至少一個受保護的存儲器區(qū)域的可信執(zhí)行環(huán)境。在系統(tǒng)處的代碼加載器將從多方中的至少一方接收的機器學(xué)習(xí)代碼加載到受保護的存儲器區(qū)域中。數(shù)據(jù)上傳器將從多方中的至少一方接收的機密數(shù)據(jù)上傳到受保護的存儲器區(qū)域。可信執(zhí)行環(huán)境使用至少一個數(shù)據(jù)不經(jīng)意程序來執(zhí)行機器學(xué)習(xí)代碼以處理機密數(shù)據(jù)并且將結(jié)果返回給多方中的至少一方,其中數(shù)據(jù)不經(jīng)意程序是其中任何的存儲器訪問的模式、磁盤訪問的模式和網(wǎng)絡(luò)訪問的模式使得無法從模式預(yù)測機密數(shù)據(jù)的過程。同樣地,其系統(tǒng)很好的保護了隱私數(shù)據(jù),但是同樣沒有解決訓(xùn)練結(jié)果的真實性和謊報數(shù)據(jù)量這一問題。
因此,如何在保護好隱私數(shù)據(jù)的前提下,防止用戶謊報訓(xùn)練結(jié)果和謊報數(shù)據(jù)量并協(xié)作訓(xùn)練出一個性能良好的模型,是目前需要解決的問題。
發(fā)明內(nèi)容
為了解決現(xiàn)有技術(shù)所存在的問題,本發(fā)明提供一種基于可信執(zhí)行環(huán)境的聯(lián)邦學(xué)習(xí)方法,利用可信執(zhí)行環(huán)境生成安全區(qū),用戶無法繞過訓(xùn)練過程而直接給出訓(xùn)練結(jié)果,并且該可信執(zhí)行環(huán)境通過給訓(xùn)練結(jié)果、學(xué)習(xí)算法以及用戶身份提供簽名認(rèn)證,使得非誠信用戶難以存在,從而實現(xiàn)訓(xùn)練完整性和用戶隱私保護。
本發(fā)明采用以下技術(shù)方案來實現(xiàn):一種基于可信執(zhí)行環(huán)境的聯(lián)邦學(xué)習(xí)方法,包括以下步驟:
S1、基于可信執(zhí)行環(huán)境生成安全區(qū);
S2、本地用戶向云端提出下載初始化的模型參數(shù)的請求,云端回應(yīng)請求并發(fā)送初始化的模型參數(shù);
S3、本地用戶將訓(xùn)練算法、訓(xùn)練數(shù)據(jù)集、訓(xùn)練數(shù)據(jù)例子數(shù)和云端傳回的初始化的模型參數(shù)加載到安全區(qū)內(nèi),執(zhí)行訓(xùn)練算法在本地進行訓(xùn)練,得到訓(xùn)練后的模型參數(shù)梯度;本地用戶利用訓(xùn)練后的模型參數(shù)梯度、訓(xùn)練算法和模型集成算法生成數(shù)字簽名,并利用數(shù)字簽名和本地中央處理器芯片的硬件信息,通過群簽名算法進行本地用戶身份認(rèn)證,最終本地用戶將訓(xùn)練后的模型參數(shù)梯度、模型集成算法及本地用戶身份認(rèn)證上傳到云端;
該專利技術(shù)資料僅供研究查看技術(shù)是否侵權(quán)等信息,商用須獲得專利權(quán)人授權(quán)。該專利全部權(quán)利屬于廣州大學(xué),未經(jīng)廣州大學(xué)許可,擅自商用是侵權(quán)行為。如果您想購買此專利、獲得商業(yè)授權(quán)和技術(shù)合作,請聯(lián)系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/202010020331.7/2.html,轉(zhuǎn)載請聲明來源鉆瓜專利網(wǎng)。
- 以注射方式執(zhí)行死刑的自動執(zhí)行車的執(zhí)行床
- 過程執(zhí)行裝置、過程執(zhí)行方法以及過程執(zhí)行程序
- 用以執(zhí)行跳舞電子游戲的執(zhí)行系統(tǒng)及其執(zhí)行方法
- 策略執(zhí)行系統(tǒng)及其執(zhí)行方法
- 腳本執(zhí)行系統(tǒng)和腳本執(zhí)行方法
- 命令執(zhí)行設(shè)備、命令執(zhí)行系統(tǒng)、命令執(zhí)行方法以及命令執(zhí)行程序
- 程序執(zhí)行裝置、程序執(zhí)行系統(tǒng)以及程序執(zhí)行方法
- 處理執(zhí)行設(shè)備和由該處理執(zhí)行設(shè)備執(zhí)行的方法
- 有序任務(wù)的執(zhí)行方法、執(zhí)行裝置和執(zhí)行系統(tǒng)
- 執(zhí)行器(閥門執(zhí)行器)
- 環(huán)境服務(wù)系統(tǒng)以及環(huán)境服務(wù)事業(yè)
- 環(huán)境控制裝置、環(huán)境控制方法、環(huán)境控制程序及環(huán)境控制系統(tǒng)
- 環(huán)境檢測終端和環(huán)境檢測系統(tǒng)
- 環(huán)境調(diào)整系統(tǒng)、環(huán)境調(diào)整方法及環(huán)境調(diào)整程序
- 環(huán)境估計裝置和環(huán)境估計方法
- 用于環(huán)境艙的環(huán)境控制系統(tǒng)及環(huán)境艙
- 車輛環(huán)境的環(huán)境數(shù)據(jù)處理
- 環(huán)境取樣動力頭、環(huán)境取樣方法
- 環(huán)境艙環(huán)境控制系統(tǒng)
- 環(huán)境檢測儀(環(huán)境貓)





