[發明專利]模型訓練方法、裝置、設備、存儲介質和程序產品

在審

• 申請號: 202011563834.5
• 申請日: 2020-12-25
• 公開（公告）號: CN112580732A
• 公開（公告）日: 2021-03-30
• 發明（設計）人: 王龍飛
• 申請（專利權）人: 北京百度網訊科技有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08
• 代理公司: 北京品源專利代理有限公司 11332
• 代理人: 孟金喆

本申請公開了一種模型訓練方法、裝置、設備、存儲介質和程序產品，涉及計算機技術領域，尤其涉及人工智能和深度學習技術領域。具體實現方案為：在樣本集合中獲取本輪樣本集輸入至待訓練模型中，并根據待訓練模型的輸出結果，計算本輪訓練損失；根據所述本輪訓練損失，確定本輪擾動項，并將所述本輪擾動項加入至所述本輪樣本集中，得到本輪對抗樣本集；使用所述本輪樣本集和所述本輪對抗樣本集共同對待訓練模型進行訓練，得到本輪訓練模型；將所述本輪訓練模型確定為新的待訓練模型后，返回在樣本集合中獲取本輪樣本集輸入至待訓練模型中的操作，響應于滿足結束訓練條件，獲取目標訓練模型。本申請實施例的技術方案，提高了模型的泛化性能。

技術領域

本申請涉及計算機技術領域，尤其涉及人工智能和深度學習技術，具體涉及一種模型訓練方法、裝置、設備、存儲介質和程序產品。

背景技術

隨著計算機技術的迅速發展，深度學習技術在圖像分類識別、自然語言處理等技術領域得到廣泛應用。

在深度神經網絡模型使用過程中，經常因輸入特征的細微變化，導致分類錯誤，因此，提高深度神經網絡模型的泛化性能和魯棒性顯得十分重要。

發明內容

本申請提供了一種模型訓練方法、裝置、設備、存儲介質和程序產品。

根據本申請的一方面，提供了一種模型訓練方法，所述方法包括：

在樣本集合中獲取本輪樣本集輸入至待訓練模型中，并根據待訓練模型的輸出結果，計算本輪訓練損失；

根據所述本輪訓練損失，確定本輪擾動項，并將所述本輪擾動項加入至所述本輪樣本集中，得到本輪對抗樣本集；

使用所述本輪樣本集和所述本輪對抗樣本集共同對待訓練模型進行訓練，得到本輪訓練模型；

將所述本輪訓練模型確定為新的待訓練模型后，返回在樣本集合中獲取本輪樣本集輸入至待訓練模型中的操作，響應于滿足結束訓練條件，獲取目標訓練模型。

根據本申請的另一方面，提供了一種模型訓練裝置，所述裝置包括：

損失計算模塊，用于在樣本集合中獲取本輪樣本集輸入至待訓練模型中，并根據待訓練模型的輸出結果，計算本輪訓練損失；

對抗樣本獲取模塊，用于根據所述本輪訓練損失，確定本輪擾動項，并將所述本輪擾動項加入至所述本輪樣本集中，得到本輪對抗樣本集；

模型訓練模塊，用于使用所述本輪樣本集和所述本輪對抗樣本集共同對待訓練模型進行訓練，得到本輪訓練模型；

目標模型獲取模塊，用于將所述本輪訓練模型確定為新的待訓練模型后，返回在樣本集合中獲取本輪樣本集輸入至待訓練模型中的操作，響應于滿足結束訓練條件，獲取目標訓練模型。

根據本申請的另一方面，提供了一種電子設備，包括：

至少一個處理器；以及

與所述至少一個處理器通信連接的存儲器；其中，

所述存儲器存儲有可被所述至少一個處理器執行的指令，所述指令被所述至少一個處理器執行，以使所述至少一個處理器能夠執行本申請實施例中任一項所述的模型訓練方法。

根據本申請的另一方面，提供了一種存儲有計算機指令的非瞬時計算機可讀存儲介質，其中，所述計算機指令用于使所述計算機執行本申請實施例中任一項所述的模型訓練方法。

根據本申請的另一方面，提供了一種計算機程序產品，包括計算機程序，所述計算機程序在被處理器執行時實現本申請實施例中任一項所述的模型訓練方法。

根據本申請的技術提高了模型的泛化性能。