[發(fā)明專利]模型訓(xùn)練的方法、裝置、計算機設(shè)備及存儲介質(zhì)

有效

• 申請?zhí)枺?/td>: 202111082569.3
• 申請日: 2021-09-15
• 公開（公告）號: CN113807430B
• 公開（公告）日: 2023-08-08
• 發(fā)明（設(shè)計）人: 溫琦;袁燚;范長杰;胡志鵬
• 申請（專利權(quán)）人: 網(wǎng)易（杭州）網(wǎng)絡(luò)有限公司
• 主分類號: G06F18/214
• 分類號: G06F18/214;G06N3/0455;G06N3/08
• 代理公司: 深圳紫藤知識產(chǎn)權(quán)代理有限公司 44570
• 代理人: 汪阮磊

1.一種模型訓(xùn)練的方法，其特征在于，包括：

從預(yù)設(shè)的第一數(shù)據(jù)集中獲取第一文字和第三文字，所述預(yù)設(shè)的第一數(shù)據(jù)集中包含具有第一風(fēng)格的多個文字；

從預(yù)設(shè)的第二數(shù)據(jù)集中獲取第二文字和第四文字，所述預(yù)設(shè)的第二數(shù)據(jù)集中包含具有多種風(fēng)格的多個文字，其中，所述第二文字和所述第四文字具有第二風(fēng)格，且所述第二文字與所述第一文字具有相同的文字形態(tài)；

將所述第一文字和所述第二文字確定為指定文字，將所述第三文字和所述第四文字確定為隨機文字，基于所述指定文字和所述隨機文字獲取待訓(xùn)練的生成網(wǎng)絡(luò)的樣本文字；

基于所述待訓(xùn)練的生成網(wǎng)絡(luò)的形態(tài)編碼器，分別提取所述指定文字的文字形態(tài)，生成形態(tài)特征向量；

基于所述待訓(xùn)練的生成網(wǎng)絡(luò)的風(fēng)格編碼器，分別提取所述指定文字和所述隨機文字的文字風(fēng)格，生成風(fēng)格特征向量；

通過所述待訓(xùn)練的生成網(wǎng)絡(luò)的解碼器，基于所述形態(tài)特征向量和所述風(fēng)格特征向量，生成至少一個預(yù)測文字；

基于所述預(yù)測文字、所述指定文字和所述隨機文字，調(diào)整所述待訓(xùn)練的生成網(wǎng)絡(luò)的參數(shù)，得到所述訓(xùn)練完成的生成網(wǎng)絡(luò)。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述通過所述待訓(xùn)練的生成網(wǎng)絡(luò)的解碼器，基于所述形態(tài)特征向量和所述風(fēng)格特征向量，生成至少一個預(yù)測文字，包括：

通過所述待訓(xùn)練的生成網(wǎng)絡(luò)的解碼器，基于所述第一文字的形態(tài)特征向量和風(fēng)格特征向量，或者基于所述第一文字的風(fēng)格特征向量和所述第二文字的形態(tài)特征向量，或者基于所述第二文字的形態(tài)特征向量和所述第三文字的風(fēng)格特征向量，或者基于所述第一文字的形態(tài)特征向量和所述第三文字的風(fēng)格特征向量，生成所述第一文字對應(yīng)的第一預(yù)測文字；

通過所述待訓(xùn)練的生成網(wǎng)絡(luò)的解碼器，基于所述第二文字的形態(tài)特征向量和風(fēng)格特征向量，或者基于所述第一文字的形態(tài)特征向量和所述第二文字的風(fēng)格特征向量，或者基于所述第二文字的形態(tài)特征向量和所述第四文字的風(fēng)格特征向量，或者基于所述第一文字的形態(tài)特征向量和所述第四文字的風(fēng)格特征向量，生成所述第二文字對應(yīng)的第二預(yù)測文字；

將所述第一預(yù)測文字和/或所述第二預(yù)測文字作為所述預(yù)測文字。

3.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述基于所述預(yù)測文字、所述指定文字和所述隨機文字，調(diào)整所述待訓(xùn)練的生成網(wǎng)絡(luò)的參數(shù)，得到所述訓(xùn)練完成的生成網(wǎng)絡(luò)，包括：

基于所述預(yù)測文字、所述指定文字和所述隨機文字生成對抗損失和/或?qū)R損失；和/或

基于所述形態(tài)特征向量和所述風(fēng)格特征向量，生成一致?lián)p失；

基于所述對抗損失、和/或所述對齊損失，和/或所述一致?lián)p失，調(diào)整所述待訓(xùn)練的生成網(wǎng)絡(luò)的參數(shù)，得到所述訓(xùn)練完成的生成網(wǎng)絡(luò)。

4.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述文字形態(tài)包括形態(tài)組成結(jié)構(gòu)，所述從預(yù)設(shè)的第一數(shù)據(jù)集中獲取第三文字，包括：

確定所述第一文字的形態(tài)組成結(jié)構(gòu)，作為第一形態(tài)組成結(jié)構(gòu)，在所述第一數(shù)據(jù)集中除所述第一文字外的其他文字中確定一具有所述第一形態(tài)組成結(jié)構(gòu)的文字作為所述第三文字；

所述從預(yù)設(shè)的第二數(shù)據(jù)集中獲取第四文字，包括：

確定所述第二文字的形態(tài)組成結(jié)構(gòu)，作為第二形態(tài)組成結(jié)構(gòu)，在所述第二數(shù)據(jù)集中除所述第二文字外的其他文字中確定具有所述第二形態(tài)組成結(jié)構(gòu)的文字作為所述第四文字。

5.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述基于所述預(yù)測文字、所述指定文字和所述隨機文字，調(diào)整所述待訓(xùn)練的生成網(wǎng)絡(luò)的參數(shù)，得到所述訓(xùn)練完成的生成網(wǎng)絡(luò)之后，還包括：

獲取具有目標(biāo)風(fēng)格的目標(biāo)文字，以及待進(jìn)行風(fēng)格轉(zhuǎn)換的源文字；

通過所述訓(xùn)練完成的生成網(wǎng)絡(luò)中的風(fēng)格編碼器對所述目標(biāo)文字的所述目標(biāo)風(fēng)格進(jìn)行分析，得到所述目標(biāo)文字的風(fēng)格特征向量；

通過所述訓(xùn)練完成的生成網(wǎng)絡(luò)中的形態(tài)編碼器對所述源文字的文字形態(tài)進(jìn)行分析，得到所述源文字的形態(tài)特征向量；

通過所述訓(xùn)練完成的生成網(wǎng)絡(luò)中的解碼器，基于所述目標(biāo)文字的目標(biāo)風(fēng)格特征向量和所述源文字的形態(tài)特征向量進(jìn)行文字生成，得到所述源文字的文字風(fēng)格轉(zhuǎn)換后的預(yù)測文字。