[發(fā)明專利]模型訓(xùn)練方法、裝置、設(shè)備以及存儲介質(zhì)有效
| 申請?zhí)枺?/td> | 202211417195.0 | 申請日： | 2022-11-11 |
| 公開（公告）號： | CN115730681B | 公開（公告）日： | 2023-08-15 |
| 發(fā)明（設(shè)計）人： | 李雨芮;沈亮;郝宏翔;鞏偉寶;于佃海 | 申請（專利權(quán)）人： | 北京百度網(wǎng)訊科技有限公司 |
| 主分類號： | G06N20/00 | 分類號： | G06N20/00;G06F9/54 |
| 代理公司： | 中科專利商標(biāo)代理有限責(zé)任公司 11021 | 代理人： | 李世陽 |
| 地址： | 100085 北京市*** | 國省代碼： | 北京;11 |
| 權(quán)利要求書： | 查看更多 | 說明書： | 查看更多 |
| 摘要： | |||
| 搜索關(guān)鍵詞： | 模型 訓(xùn)練 方法 裝置 設(shè)備 以及 存儲 介質(zhì) | ||
1.一種模型訓(xùn)練方法，包括：
獲取并行策略數(shù)據(jù)和至少一個候選節(jié)點的候選節(jié)點標(biāo)識，其中，所述并行策略數(shù)據(jù)包括多維數(shù)組，所述多維數(shù)組中記錄有多個節(jié)點標(biāo)識；
根據(jù)所述至少一個候選節(jié)點的候選節(jié)點標(biāo)識在所述多維數(shù)組中的維度位置，與所述至少一個候選節(jié)點建立至少一個通信組，其中，所述維度位置包括多個位置值，所述多個位置值與多個維度一一對應(yīng)；以及
根據(jù)所述至少一個通信組，執(zhí)行模型訓(xùn)練操作；
其中，所述方法應(yīng)用于本地節(jié)點；所述多維數(shù)組中還包括子多維數(shù)組；所述根據(jù)所述至少一個候選節(jié)點的候選節(jié)點標(biāo)識在所述多維數(shù)組中的維度位置，與所述至少一個候選節(jié)點建立至少一個通信組，包括：
在所述子多維數(shù)組記錄有所述本地節(jié)點標(biāo)識的情況下，
確定所述本地節(jié)點的本地節(jié)點標(biāo)識在所述子多維數(shù)組中的第三維度位置；
確定每個所述候選節(jié)點標(biāo)識在所述子多維數(shù)組中的第四維度位置；以及
根據(jù)所述第三維度位置和所述第四維度位置，與所述至少一個候選節(jié)點建立至少一個第二通信組。
2.根據(jù)權(quán)利要求1所述的方法，其中，所述根據(jù)所述至少一個通信組，執(zhí)行模型訓(xùn)練操作包括：
根據(jù)訓(xùn)練數(shù)據(jù)，對模型進(jìn)行訓(xùn)練，得到本地訓(xùn)練結(jié)果；
針對所述至少一個通信組中的每個通信組，
將本地訓(xùn)練結(jié)果與所述通信組內(nèi)其他節(jié)點的計算結(jié)果聚合，得到聚合結(jié)果；
根據(jù)所述聚合結(jié)果，更新所述模型的參數(shù)；以及
根據(jù)訓(xùn)練數(shù)據(jù)，對更新后的模型進(jìn)行訓(xùn)練。
3.根據(jù)權(quán)利要求1所述的方法，其中，所述根據(jù)所述至少一個候選節(jié)點的候選節(jié)點標(biāo)識在所述多維數(shù)組中的維度位置，與所述至少一個候選節(jié)點建立至少一個通信組，還包括：
確定所述本地節(jié)點的本地節(jié)點標(biāo)識在所述多維數(shù)組中的第一維度位置；
確定每個所述候選節(jié)點標(biāo)識在所述多維數(shù)組中的第二維度位置；以及
根據(jù)所述第一維度位置和所述第二維度位置，與所述至少一個候選節(jié)點建立至少一個第一通信組。
4.根據(jù)權(quán)利要求3所述的方法，其中，所述根據(jù)所述第一維度位置和所述第二維度位置，與所述至少一個候選節(jié)點建立至少一個第一通信組，包括：
針對所述多維數(shù)組的多個維度中的每個維度，
確定在所述維度上與所述第一維度位置具有相同位置值的第二維度位置，作為目標(biāo)第二維度位置；
確定所述目標(biāo)第二維度位置所對應(yīng)的候選節(jié)點，作為第一候選節(jié)點，得到至少一個第一候選節(jié)點；以及
與所述至少一個第一候選節(jié)點建立第一通信組。
5.根據(jù)權(quán)利要求1所述的方法，其中，所述根據(jù)所述至少一個候選節(jié)點的候選節(jié)點標(biāo)識在所述多維數(shù)組中的維度位置，與所述至少一個候選節(jié)點建立至少一個通信組還包括：
在所述子多維數(shù)組記錄有所述本地節(jié)點標(biāo)識的情況下，
在所述至少一個候選節(jié)點標(biāo)識中，確定記錄于所述子多維數(shù)組中的至少一個第二候選節(jié)點標(biāo)識；以及
與所述至少一個第二候選節(jié)點標(biāo)識對應(yīng)的候選節(jié)點建立第三通信組。
6.根據(jù)權(quán)利要求1所述的方法，其中，所述根據(jù)所述第三維度位置和所述第四維度位置，與所述至少一個候選節(jié)點建立至少一個第二通信組，包括：
針對所述子多維數(shù)組的多個維度中的每個維度，
確定在所述維度上與所述第三維度位置具有相同位置值的第四維度位置，作為目標(biāo)第四維度位置；
確定所述目標(biāo)第四維度位置所對應(yīng)的候選節(jié)點，作為第三候選節(jié)點，得到至少一個第三候選節(jié)點；以及
與所述至少一個第三候選節(jié)點建立第二通信組。
該專利技術(shù)資料僅供研究查看技術(shù)是否侵權(quán)等信息，商用須獲得專利權(quán)人授權(quán)。該專利全部權(quán)利屬于北京百度網(wǎng)訊科技有限公司，未經(jīng)北京百度網(wǎng)訊科技有限公司許可，擅自商用是侵權(quán)行為。如果您想購買此專利、獲得商業(yè)授權(quán)和技術(shù)合作，請聯(lián)系【客服】
本文鏈接：http://www.szxzyx.cn/pat/books/202211417195.0/1.html，轉(zhuǎn)載請聲明來源鉆瓜專利網(wǎng)。
