[發(fā)明專利]一種基于分布式數(shù)據(jù)的模型訓(xùn)練方法及系統(tǒng)有效
| 申請(qǐng)?zhí)枺?/td> | 202010586338.5 | 申請(qǐng)日: | 2020-06-24 |
| 公開(公告)號(hào): | CN111475853B | 公開(公告)日: | 2020-12-11 |
| 發(fā)明(設(shè)計(jì))人: | 于亭義;傅欣藝 | 申請(qǐng)(專利權(quán))人: | 支付寶(杭州)信息技術(shù)有限公司 |
| 主分類號(hào): | G06F21/62 | 分類號(hào): | G06F21/62;G06N20/00 |
| 代理公司: | 北京博思佳知識(shí)產(chǎn)權(quán)代理有限公司 11415 | 代理人: | 周嗣勇 |
| 地址: | 310000 浙江省杭州市*** | 國省代碼: | 浙江;33 |
| 權(quán)利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關(guān)鍵詞: | 一種 基于 分布式 數(shù)據(jù) 模型 訓(xùn)練 方法 系統(tǒng) | ||
1.一種基于分布式數(shù)據(jù)的模型訓(xùn)練方法,應(yīng)用于包括至少3個(gè)終端的系統(tǒng),每個(gè)終端中存儲(chǔ)有特征相同的數(shù)據(jù)樣本、以及針對(duì)數(shù)據(jù)樣本構(gòu)建的模型;系統(tǒng)中的終端被劃分為至少3個(gè)終端集群,針對(duì)每個(gè)集群,將該集群中任一終端確定為集群中心;所述方法包括,通過以下步驟完成模型訓(xùn)練的每輪迭代:
針對(duì)每個(gè)集群中心,在其他集群中心沒有將該集群中心都確定為目標(biāo)集群中心、并且沒有連續(xù)確定同一個(gè)集群中心作為目標(biāo)集群中心的情況下,從其他集群中心中確定本輪迭代的至少一個(gè)目標(biāo)集群中心;其中,每輪迭代所確定的目標(biāo)集群中心具有隨機(jī)性;
每個(gè)集群中心獲得本集群當(dāng)前的綜合模型脫敏特征,并將該綜合模型脫敏特征發(fā)送到目標(biāo)集群中心;所述綜合模型脫敏特征,是對(duì)本集群中每個(gè)終端當(dāng)前的模型進(jìn)行脫敏處理后獲得的;
每個(gè)集群中心根據(jù)本集群的綜合模型脫敏特征、以及接收到的其他集群的綜合模型脫敏特征,對(duì)本集群中每個(gè)終端的模型進(jìn)行更新。
2.根據(jù)權(quán)利要求1所述的方法,所述系統(tǒng)中的終端被劃分為至少3個(gè)終端集群,包括:
每輪迭代中,系統(tǒng)中的終端被重新劃分為至少3個(gè)終端集群;其中,每輪迭代所劃分的集群具有隨機(jī)性。
3.根據(jù)權(quán)利要求1所述的方法,所述針對(duì)每個(gè)集群,將該集群中任一終端確定為集群中心,包括:
每輪迭代中,針對(duì)每個(gè)集群,重新將該集群中任一終端確定為集群中心;其中,每輪迭代所確定的集群中心具有隨機(jī)性。
4.根據(jù)權(quán)利要求1所述的方法,所述針對(duì)每個(gè)集群中心,在其他集群中心沒有將該集群中心都確定為目標(biāo)集群中心、并且沒有連續(xù)確定同一個(gè)集群中心作為目標(biāo)集群中心的情況下,從其他集群中心中確定本輪迭代的至少一個(gè)目標(biāo)集群中心,包括:
由每個(gè)集群中心,在其他集群中心沒有將該集群中心都確定為目標(biāo)集群中心、并且沒有連續(xù)確定同一個(gè)集群中心作為目標(biāo)集群中心的情況下,從其他集群中心中各自獨(dú)立確定本輪迭代的至少一個(gè)目標(biāo)集群中心;
或者
所述系統(tǒng)中還包括服務(wù)端,且由系統(tǒng)中的服務(wù)端,分別針對(duì)每個(gè)集群中心,在其他集群中心沒有將該集群中心都確定為目標(biāo)集群中心、并且沒有連續(xù)確定同一個(gè)集群中心作為目標(biāo)集群中心的情況下,從其他集群中心中確定本輪迭代的至少一個(gè)目標(biāo)集群中心。
5.根據(jù)權(quán)利要求1所述的方法,所述綜合模型脫敏特征的獲取方法,包括:
將本集群中每個(gè)終端的模型脫敏特征添加到一個(gè)集合中,將該集合作為綜合模型脫敏特征;
或者
基于預(yù)設(shè)的算法,根據(jù)本集群中每個(gè)終端的模型脫敏特征計(jì)算得到一個(gè)模型脫敏特征,將計(jì)算得到的模型脫敏特征作為綜合模型脫敏特征。
6.根據(jù)權(quán)利要求1所述的方法,所述模型脫敏特征為模型目標(biāo)函數(shù)的梯度。
7.根據(jù)權(quán)利要求6所述的方法,所述終端當(dāng)前的模型脫敏特征的確定方法,包括:
終端根據(jù)本地?cái)?shù)據(jù)樣本確定當(dāng)前本地模型的目標(biāo)函數(shù)的梯度為終端當(dāng)前的模型脫敏特征。
8.根據(jù)權(quán)利要求6所述的方法,所述根據(jù)本集群的綜合模型脫敏特征、以及接收到的其他集群的綜合模型脫敏特征,對(duì)本集群中每個(gè)終端的模型進(jìn)行更新,包括:
根據(jù)本集群的綜合梯度、以及接收到的其他集群的綜合梯度,基于預(yù)設(shè)的算法確定一個(gè)梯度,并根據(jù)所確定的梯度對(duì)本集群中每個(gè)終端的模型進(jìn)行更新。
9.根據(jù)權(quán)利要求1所述的方法,所述模型脫敏特征為模型參數(shù)集。
10.根據(jù)權(quán)利要求9所述的方法,所述終端當(dāng)前的模型脫敏特征的確定方法,包括:
終端根據(jù)本地?cái)?shù)據(jù)樣本訓(xùn)練模型,將訓(xùn)練后的模型參數(shù)集作為終端當(dāng)前的模型脫敏特征。
該專利技術(shù)資料僅供研究查看技術(shù)是否侵權(quán)等信息,商用須獲得專利權(quán)人授權(quán)。該專利全部權(quán)利屬于支付寶(杭州)信息技術(shù)有限公司,未經(jīng)支付寶(杭州)信息技術(shù)有限公司許可,擅自商用是侵權(quán)行為。如果您想購買此專利、獲得商業(yè)授權(quán)和技術(shù)合作,請(qǐng)聯(lián)系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/202010586338.5/1.html,轉(zhuǎn)載請(qǐng)聲明來源鉆瓜專利網(wǎng)。
- 上一篇:可信關(guān)系的識(shí)別方法、裝置、存儲(chǔ)介質(zhì)和計(jì)算機(jī)設(shè)備
- 下一篇:基于區(qū)塊鏈的倉單數(shù)據(jù)管理方法及裝置、電子設(shè)備
- 同類專利
- 專利分類
G06F 電數(shù)字?jǐn)?shù)據(jù)處理
G06F21-00 防止未授權(quán)行為的保護(hù)計(jì)算機(jī)或計(jì)算機(jī)系統(tǒng)的安全裝置
G06F21-02 .通過保護(hù)計(jì)算機(jī)的特定內(nèi)部部件
G06F21-04 .通過保護(hù)特定的外圍設(shè)備,如鍵盤或顯示器
G06F21-06 .通過感知越權(quán)操作或外圍侵?jǐn)_
G06F21-20 .通過限制訪問計(jì)算機(jī)系統(tǒng)或計(jì)算機(jī)網(wǎng)絡(luò)中的節(jié)點(diǎn)
G06F21-22 .通過限制訪問或處理程序或過程
- 數(shù)據(jù)顯示系統(tǒng)、數(shù)據(jù)中繼設(shè)備、數(shù)據(jù)中繼方法、數(shù)據(jù)系統(tǒng)、接收設(shè)備和數(shù)據(jù)讀取方法
- 數(shù)據(jù)記錄方法、數(shù)據(jù)記錄裝置、數(shù)據(jù)記錄媒體、數(shù)據(jù)重播方法和數(shù)據(jù)重播裝置
- 數(shù)據(jù)發(fā)送方法、數(shù)據(jù)發(fā)送系統(tǒng)、數(shù)據(jù)發(fā)送裝置以及數(shù)據(jù)結(jié)構(gòu)
- 數(shù)據(jù)顯示系統(tǒng)、數(shù)據(jù)中繼設(shè)備、數(shù)據(jù)中繼方法及數(shù)據(jù)系統(tǒng)
- 數(shù)據(jù)嵌入裝置、數(shù)據(jù)嵌入方法、數(shù)據(jù)提取裝置及數(shù)據(jù)提取方法
- 數(shù)據(jù)管理裝置、數(shù)據(jù)編輯裝置、數(shù)據(jù)閱覽裝置、數(shù)據(jù)管理方法、數(shù)據(jù)編輯方法以及數(shù)據(jù)閱覽方法
- 數(shù)據(jù)發(fā)送和數(shù)據(jù)接收設(shè)備、數(shù)據(jù)發(fā)送和數(shù)據(jù)接收方法
- 數(shù)據(jù)發(fā)送裝置、數(shù)據(jù)接收裝置、數(shù)據(jù)收發(fā)系統(tǒng)、數(shù)據(jù)發(fā)送方法、數(shù)據(jù)接收方法和數(shù)據(jù)收發(fā)方法
- 數(shù)據(jù)發(fā)送方法、數(shù)據(jù)再現(xiàn)方法、數(shù)據(jù)發(fā)送裝置及數(shù)據(jù)再現(xiàn)裝置
- 數(shù)據(jù)發(fā)送方法、數(shù)據(jù)再現(xiàn)方法、數(shù)據(jù)發(fā)送裝置及數(shù)據(jù)再現(xiàn)裝置





