[發明專利]一種模型訓練的方法、裝置、存儲介質及電子設備

有效

• 申請號: 202211320460.3
• 申請日: 2022-10-26
• 公開（公告）號: CN115618964B
• 公開（公告）日: 2023-10-24
• 發明（設計）人: 趙聞飆;苗書宇;鄭霖;金宏
• 申請（專利權）人: 支付寶（杭州）信息技術有限公司
• 主分類號: G06N20/00
• 分類號: G06N20/00
• 代理公司: 北京博思佳知識產權代理有限公司 11415
• 代理人: 李威

本說明書公開了一種模型訓練的方法、裝置、存儲介質及電子設備。該模型訓練的方法包括：獲取樣本數據，將所述樣本數據輸入待訓練的數據處理模型中，得到各候選處理結果，以及每個候選處理結果對應的概率，從所述各候選處理結果中確定與所述樣本數據對應的標簽信息不匹配的目標結果，根據每個目標結果對應的概率，確定每個目標結果對應的權重，根據每個候選處理結果對應的概率以及所述權重，確定損失值，并根據所述損失值，對所述數據處理模型進行訓練。

技術領域

本說明書涉及計算機技術領域，尤其涉及一種模型訓練的方法、裝置、存儲介質及電子設備。

背景技術

隨著科技的發展，深度學習算法已經在人們的日常生活及工作中發揮了越來越重要的作用，例如人臉識別、圖像識別、自然語言處理(Natural Language Processing,NLP)、隱私數據處理、風險識別等多種業務場景，都需要應用相應的深度學習模型，以完成對數據的自動化處理。

然而，目前的模型訓練過程中，無論模型的預測結果是否正確，都只考慮模型的預測結果為實際標簽的概率，并僅根據該概率來確定模型的損失值，實現預測結果與實際標簽之間差異的最小化。但是在實際應用中，很有可能出現數據標簽標注錯誤的情況，在這種情況下，盡管模型的識別結果不是實際標簽，但是該識別結果也有可能是正確的，如果只根據模型的預測結果為實際標簽的概率來計算損失值，很有可能導致模型往錯誤的方向進行更新，從而影響訓練后的模型對數據處理的準確性。

因此，如何在模型訓練的過程中，避免標注錯誤的標簽對模型訓練結果的影響，提高訓練后模型對數據處理的準確性，是一個亟待解決的問題。

發明內容

本說明書提供一種模型訓練的方法、裝置、存儲介質及電子設備。以降低標注錯誤的標簽對模型訓練結果的影響從而提高訓練后模型對數據處理的準確性。

本說明書采用下述技術方案：

本說明書提供了一種模型訓練的方法，包括：

獲取樣本數據；

將所述樣本數據輸入待訓練的數據處理模型中，得到各候選處理結果，以及每個候選處理結果對應的概率；

從所述各候選處理結果中確定與所述樣本數據對應的標簽信息不匹配的目標結果；

根據每個目標結果對應的概率，確定每個目標結果對應的權重；

根據每個候選處理結果對應的概率以及所述權重，確定損失值，并根據所述損失值，對所述數據處理模型進行訓練。

可選地，根據每個候選處理結果對應的概率以及所述權重，確定損失值，具體包括：

確定與所述標簽信息相匹配的候選處理結果，作為命中結果；

針對每個目標結果，根據該目標結果對應的權重，對該目標結果對應的概率進行加權，得到該目標結果對應的加權后概率，以及，根據所述命中結果對應的指定權重，對所述命中結果對應的概率進行加權，得到所述命中結果對應的加權后概率；

根據每個目標結果對應的加權后概率，以及所述命中結果對應的加權后概率，確定所述損失值。

可選地，所述指定權重，大于每個目標結果對應的權重。

可選地，針對每個目標結果，該目標結果對應的概率與該目標結果對應的權重呈正相關關系。

可選地，根據每個目標結果對應的概率，確定每個目標結果對應的權重，具體包括：

針對每個目標結果，根據該目標結果對應的概率，確定該目標結果對應的初始權重；

若確定各目標結果中存在結果類別上歸屬于該目標結果的目標結果，提高所述初始權重，以確定出該目標結果對應的權重。