[發(fā)明專利]一種神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練方法及裝置

有效

• 申請?zhí)枺?/td>: 201711488995.0
• 申請日: 2017-12-29
• 公開（公告）號: CN109993300B
• 公開（公告）日: 2021-01-29
• 發(fā)明（設(shè)計）人: 馬濤;蘇箐;金穎
• 申請（專利權(quán)）人: 華為技術(shù)有限公司
• 主分類號: G06N3/08
• 分類號: G06N3/08;G06N3/04
• 代理公司: 北京同達信恒知識產(chǎn)權(quán)代理有限公司 11291
• 代理人: 馮艷蓮

1.一種神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練方法，其特征在于，所述方法應(yīng)用于終端設(shè)備，所述終端設(shè)備包括用于處理業(yè)務(wù)的第一神經(jīng)網(wǎng)絡(luò)模型和第二神經(jīng)網(wǎng)絡(luò)模型，所述第一神經(jīng)網(wǎng)絡(luò)模型的精度小于所述第二神經(jīng)網(wǎng)絡(luò)模型的精度；所述方法包括：

獲取所述終端設(shè)備在設(shè)定周期內(nèi)生成的所述業(yè)務(wù)的標(biāo)注數(shù)據(jù)；

使用所述設(shè)定周期內(nèi)生成的所述業(yè)務(wù)的標(biāo)注數(shù)據(jù)對所述第二神經(jīng)網(wǎng)絡(luò)模型進行訓(xùn)練，得到訓(xùn)練后的第二神經(jīng)網(wǎng)絡(luò)模型；

根據(jù)所述訓(xùn)練后的第二神經(jīng)網(wǎng)絡(luò)模型，對所述第一神經(jīng)網(wǎng)絡(luò)模型進行更新。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述得到訓(xùn)練后的第二神經(jīng)網(wǎng)絡(luò)模型之后，對所述第一神經(jīng)網(wǎng)絡(luò)模型進行更新之前，還包括：

若確定所述訓(xùn)練后的第二神經(jīng)網(wǎng)絡(luò)模型為第一版本對應(yīng)的第二神經(jīng)網(wǎng)絡(luò)模型的首次更新，則保存所述第一神經(jīng)網(wǎng)絡(luò)模型；

對所述第一神經(jīng)網(wǎng)絡(luò)模型進行更新之后，還包括：

接收云端服務(wù)器發(fā)送的第二版本軟件包；所述第二版本軟件包中包括第二版本對應(yīng)的第一神經(jīng)網(wǎng)絡(luò)模型；

若確定所述第二版本對應(yīng)的第一神經(jīng)網(wǎng)絡(luò)模型和保存的所述第一神經(jīng)網(wǎng)絡(luò)模型不相同，則對所述第二版本對應(yīng)的第一神經(jīng)網(wǎng)絡(luò)模型進行更新。

3.根據(jù)權(quán)利要求2所述的方法，其特征在于，對所述第二版本對應(yīng)的第一神經(jīng)網(wǎng)絡(luò)模型進行更新，包括：

獲取多個歷史設(shè)定周期內(nèi)生成的所述業(yè)務(wù)的標(biāo)注數(shù)據(jù)；

使用所述多個歷史設(shè)定周期內(nèi)生成的所述業(yè)務(wù)的標(biāo)注數(shù)據(jù)對所述第二版本對應(yīng)的第二神經(jīng)網(wǎng)絡(luò)模型進行訓(xùn)練，得到第二版本對應(yīng)的訓(xùn)練后的第二神經(jīng)網(wǎng)絡(luò)模型；

根據(jù)所述第二版本對應(yīng)的訓(xùn)練后的第二神經(jīng)網(wǎng)絡(luò)模型，對所述第二版本對應(yīng)的第一神經(jīng)網(wǎng)絡(luò)模型進行更新。

4.根據(jù)權(quán)利要求1至3中任一項所述的方法，其特征在于，所述終端設(shè)備在設(shè)定周期內(nèi)通過如下方式生成所述業(yè)務(wù)的標(biāo)注數(shù)據(jù)：

在設(shè)定周期內(nèi)使用所述第一神經(jīng)網(wǎng)絡(luò)模型對所述業(yè)務(wù)的第一輸入數(shù)據(jù)進行在線推理，得到在線推理結(jié)果；

若接收到用戶對所述在線推理結(jié)果的有效反饋，則根據(jù)所述第一輸入數(shù)據(jù)和所述用戶對所述在線推理結(jié)果的有效反饋生成所述業(yè)務(wù)的標(biāo)注數(shù)據(jù)；若未接收到所述用戶對所述在線推理的有效反饋，則確定所述在線推理結(jié)果的可信度大于第一閾值后，根據(jù)所述第一輸入數(shù)據(jù)和所述在線推理結(jié)果生成所述業(yè)務(wù)的標(biāo)注數(shù)據(jù)。

5.根據(jù)權(quán)利要求1至3中任一項所述的方法，其特征在于，所述終端設(shè)備在設(shè)定周期內(nèi)通過如下方式生成所述業(yè)務(wù)的標(biāo)注數(shù)據(jù)：

在設(shè)定周期內(nèi)使用第三神經(jīng)網(wǎng)絡(luò)模型對所述業(yè)務(wù)的第二輸入數(shù)據(jù)進行離線推理，得到離線推理結(jié)果；所述第三神經(jīng)網(wǎng)絡(luò)模型的精度高于所述第二神經(jīng)網(wǎng)絡(luò)模型的精度，或者，所述第三神經(jīng)網(wǎng)絡(luò)模型為所述第二神經(jīng)網(wǎng)絡(luò)模型；

若確定所述離線推理結(jié)果的可信度大于第二閾值，則根據(jù)所述第二輸入數(shù)據(jù)和所述離線推理結(jié)果生成所述業(yè)務(wù)的標(biāo)注數(shù)據(jù)。

6.根據(jù)權(quán)利要求1至3中任一項所述的方法，其特征在于，所述使用設(shè)定周期內(nèi)生成的所述業(yè)務(wù)的標(biāo)注數(shù)據(jù)對所述第二神經(jīng)網(wǎng)絡(luò)模型進行訓(xùn)練，包括：

在所述終端設(shè)備處于充電狀態(tài)時，使用設(shè)定周期內(nèi)生成的所述業(yè)務(wù)的標(biāo)注數(shù)據(jù)對所述第二神經(jīng)網(wǎng)絡(luò)模型進行訓(xùn)練。

7.一種終端設(shè)備，其特征在于，所述終端設(shè)備包括用于處理業(yè)務(wù)的第一神經(jīng)網(wǎng)絡(luò)模型和第二神經(jīng)網(wǎng)絡(luò)模型，所述第一神經(jīng)網(wǎng)絡(luò)模型的精度小于所述第二神經(jīng)網(wǎng)絡(luò)模型的精度；所述終端設(shè)備還包括：

獲取模塊，用于獲取所述終端設(shè)備在設(shè)定周期內(nèi)生成的所述業(yè)務(wù)的標(biāo)注數(shù)據(jù)；

處理模塊，用于使用所述設(shè)定周期內(nèi)生成的所述業(yè)務(wù)的標(biāo)注數(shù)據(jù)對所述第二神經(jīng)網(wǎng)絡(luò)模型進行訓(xùn)練，得到訓(xùn)練后的第二神經(jīng)網(wǎng)絡(luò)模型；以及，根據(jù)所述訓(xùn)練后的第二神經(jīng)網(wǎng)絡(luò)模型，對所述第一神經(jīng)網(wǎng)絡(luò)模型進行更新。