[發明專利]一種模型訓練方法和相關裝置

在審

• 申請號: 202010060009.7
• 申請日: 2020-01-19
• 公開（公告）號: CN111275170A
• 公開（公告）日: 2020-06-12
• 發明（設計）人: 曹松軍;馬龍
• 申請（專利權）人: 騰訊科技（深圳）有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08;G10L15/16
• 代理公司: 深圳市深佳知識產權代理事務所(普通合伙) 44285
• 代理人: 王兆林

1.一種模型訓練方法，其特征在于，目標模型包括m個并行的模型單元，所述m個并行的模型單元共用所述目標模型的輸入數據，所述m個并行的模型單元的輸出數據用于構成所述目標模型的輸出數據，所述方法包括：

在對所述目標模型進行訓練的過程中，包括多次訓練；在第i次訓練中，對所述目標模型中的n個目標單元進行訓練；n小于m；

通過所述多次訓練完成對所述目標模型的訓練，針對完成訓練的所述目標模型中，所述m個并行的模型單元的模型參數是通過所述多次訓練得到的。

2.根據權利要求1所述的方法，其特征在于，針對所述多次訓練中的第i次和第i+1次訓練，第i+1次訓練所訓練的模型單元為第i次訓練所訓練的n個目標單元和k個模型單元。

3.根據權利要求2所述的方法，其特征在于，針對所述第i+1次訓練的訓練模型為將所述k個模型單元添加至所述第i次訓練的訓練模型后得到的。

4.根據權利要求1所述的方法，其特征在于，所述多次訓練中的第i次訓練中所訓練的n個目標單元僅在第i次訓練中進行訓練。

5.根據權利要求4所述的方法，其特征在于，針對所述第i次訓練的訓練模型中包括所訓練的所述n個目標單元。

6.根據權利要求1-5任意一項所述的方法，其特征在于，若所述待訓練模型為串行網絡結構，所述方法還包括：

根據所述待訓練模型中的模型單元，確定所述待訓練模型對應的目標模型。

7.根據權利要求1-5任意一項所述的方法，其特征在于，通過全量訓練樣本進行所述多次訓練。

8.一種模型訓練裝置，其特征在于，所述裝置包括：

訓練單元，用于在對所述目標模型進行訓練的過程中，包括多次訓練；在第i次訓練中，對所述目標模型中的n個目標單元進行訓練；n小于m；其中，目標模型包括m個并行的模型單元，所述m個并行的模型單元共用所述目標模型的輸入數據，所述m個并行的模型單元的輸出數據用于構成所述目標模型的輸出數據；

確定單元，用于通過所述多次訓練完成對所述目標模型的訓練，針對完成訓練的所述目標模型中，所述m個并行的模型單元的模型參數是通過所述多次訓練得到的。

9.一種設備，其特征在于，所述設備包括處理器以及存儲器：

所述存儲器用于存儲程序代碼，并將所述程序代碼傳輸給所述處理器；

所述處理器用于根據所述程序代碼中的指令執行權利要求1-7任意一項所述的模型訓練方法。

10.一種計算機可讀存儲介質，其特征在于，所述計算機可讀存儲介質用于存儲計算機程序，所述計算機程序用于執行權利要求1-7任意一項所述的模型訓練方法。