[發(fā)明專利]一種多任務模型的訓練方法

在審

• 申請?zhí)枺?/td>: 202010138967.1
• 申請日: 2020-03-03
• 公開（公告）號: CN111353541A
• 公開（公告）日: 2020-06-30
• 發(fā)明（設(shè)計）人: 張奎;陳清梁;王超
• 申請（專利權(quán)）人: 浙江新再靈科技股份有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/08;G06N3/04;G06K9/00
• 代理公司: 北京謹誠君睿知識產(chǎn)權(quán)代理事務所(特殊普通合伙) 11538
• 代理人: 陸鑫;延慧

1.一種多任務模型的訓練方法，包括：

S1.抽取多個數(shù)據(jù)集中的樣本數(shù)據(jù)，其中，每個所述數(shù)據(jù)集中的所述樣本數(shù)據(jù)均為單一任務的屬性；

S2.采用抽取的所述樣本數(shù)據(jù)對神經(jīng)網(wǎng)絡模型進行訓練，得到多任務模型，其中，所述神經(jīng)網(wǎng)絡模型為用于分類的神經(jīng)網(wǎng)絡模型；

S3.基于所述多任務模型的輸出結(jié)果獲取所述多任務模型的總損失函數(shù)。

2.根據(jù)權(quán)利要求1所述的訓練方法，其特征在于，還包括：

S4.重復執(zhí)行步驟S1-S3，根據(jù)所述多任務模型的輸出結(jié)果計算所述總損失函數(shù)，并根據(jù)所述總損失函數(shù)對所述多任務模型的模型參數(shù)進行優(yōu)化。

3.根據(jù)權(quán)利要求2所述的訓練方法，其特征在于，在步驟S1中，以預設(shè)規(guī)則分別隨機排列各所述數(shù)據(jù)集中的所述樣本數(shù)據(jù)后抽取各所述數(shù)據(jù)集中的所述樣本數(shù)據(jù)。

4.根據(jù)權(quán)利要求1至3所述的訓練方法，其特征在于，步驟S1中，抽取多個數(shù)據(jù)集中的樣本數(shù)據(jù)的步驟中，按照各所述數(shù)據(jù)集所包含的所述樣本數(shù)據(jù)量之間的比例抽取。

5.根據(jù)權(quán)利要求4所述的訓練方法，其特征在于，步驟S1中，每個所述數(shù)據(jù)集之間的數(shù)據(jù)重疊率小于10％。

6.根據(jù)權(quán)利要求5所述的訓練方法，其特征在于，步驟S3中，所述多任務模型的輸出結(jié)果中包括與所述數(shù)據(jù)集相對應的子任務損失函數(shù)。

7.根據(jù)權(quán)利要求6所述的訓練方法，其特征在于，步驟S3中，基于所述多任務模型的輸出結(jié)果獲取所述多任務模型的總損失函數(shù)的步驟中，所述總損失函數(shù)表示為：

L＝w_gL_g+w_cL_c+w_oL_o+…

其中，L表示總損失函數(shù)，L_g、L_c、L_o分別表示各子任務損失函數(shù)，w_g、w_c、w_o分別表示所述子任務損失函數(shù)的權(quán)重。

8.根據(jù)權(quán)利要求7所述的訓練方法，其特征在于，步驟S4中，重復執(zhí)行步驟S1-S3，根據(jù)所述多任務模型的輸出結(jié)果計算所述總損失函數(shù)，并根據(jù)所述總損失函數(shù)對所述多任務模型的模型參數(shù)進行優(yōu)化的步驟中，包括：

S41.重復執(zhí)行步驟S1-S3，獲取多個所述多任務模型的輸出結(jié)果；

S42.根據(jù)多個所述輸出結(jié)果分別獲取各子任務損失函數(shù)；

S43.根據(jù)各所述子任務損失函數(shù)的均值對所述子任務損失函數(shù)的權(quán)重進行優(yōu)化并更新所述總損失函數(shù)中的子任務損失函數(shù)的權(quán)重。