[發明專利]深度學習模型的在線訓練方法、裝置、設備及存儲介質

在審

• 申請號: 202210584751.7
• 申請日: 2022-05-25
• 公開（公告）號: CN114998679A
• 公開（公告）日: 2022-09-02
• 發明（設計）人: 劉娜;吳國棟;袁野;萬里紅
• 申請（專利權）人: 河南爬客智能機器人有限公司
• 主分類號: G06V10/774
• 分類號: G06V10/774;G06V10/82;G06V40/10;G06N3/04;G06N3/08
• 代理公司: 廣州三環專利商標代理有限公司 44202
• 代理人: 陳志明

本申請公開了一種深度學習模型的在線訓練方法、裝置、設備及存儲介質，方法包括：獲取原始圖像數據集，原始圖像數據集包括多個圖像數據；利用預設的不確定性量化模塊，對原始圖像數據集進行數據篩選，得到預設數量的第一高質量樣本；基于對第一高質量樣本進行標注后的第一標注樣本，對深度學習模型進行訓練，直至深度學習模型達到收斂，得到目標深度學習模型；若目標深度學習模型的模型性能參數達到目標性能參數，則判定深度學習模型在線訓練完成。本申請能夠有效減少因樣本質量差而導致出現目標類別易混淆和標注人員認知差異等情況，同時每次篩選預設數量的高質量樣本，以減少樣本標注量，并保證模型性能在有限樣本量的前提下能夠達標。

技術領域

本申請涉及人工智能技術領域，尤其涉及一種深度學習模型的在線訓練方法、裝置、設備及存儲介質。

背景技術

智能機器人的功能實現依賴于ResNet、YOLO等深度神經網絡，深度神經網絡需要龐大的標注數據集進行訓練，以使模型勝任真實場景下的任務。目前，在數據集的標注過程中，由于目標類別易混淆、標注人員認知差異等不可控因素，導致樣本類別被錯誤標注，所以不可避免的引入標簽噪聲，從而導致模型性能降低。

發明內容

本申請提供了一種深度學習模型的在線訓練方法、裝置、設備及存儲介質，以解決數據集樣本質量差導致模型性能降低的技術問題。

為了解決上述技術問題，第一方面，本申請提供了一種深度學習模型的在線訓練方法，包括：

獲取原始圖像數據集，原始圖像數據集包括多個圖像數據；

利用預設的不確定性量化模塊，對原始圖像數據集進行數據篩選，得到預設數量的第一高質量樣本；

基于對第一高質量樣本進行標注后的第一標注樣本，對深度學習模型進行訓練，直至深度學習模型達到收斂，得到目標深度學習模型；

若目標深度學習模型的模型性能參數達到目標性能參數，則判定深度學習模型在線訓練完成。

作為優選，利用預設的不確定性量化模塊，對原始圖像數據集進行數據篩選，得到預設數量的第一高質量樣本，包括：

利用預設的后驗概率分布公式，將圖像數據作為輸入值，計算圖像數據在預設超參數和目標預測值時的后驗概率分布值，目標預測值為圖像數據在預設超參數時預測的輸出值；

根據后驗概率分布值，計算圖像數據對應的預測熵和互信息，預測熵用于表征目標預測值所包含的信息量，互信息用于表征目標預測值的置信度；

若目標圖像數據的預測熵和互信息滿足預設的第一高質量樣本條件，則目標圖像數據作為第一高質量樣本。

作為優選，后驗概率分布公式為：

表示后驗概率分布，為目標預測值，為圖像數據，D_1:T為原始圖像數據集，θ為預設超參數。

作為優選，根據后驗概率分布值，計算圖像數據對應的預測熵和互信息，包括：

利用預設的預測熵公式和互信息公式，根據后驗概率分布值，計算圖像數據對應的預測熵和互信息，預測熵公式為：

互信息公式為：

其中，為預測熵，用于表征目標預測值所包含的信息量；C為圖像數據的類別；為互信息，用于表征目標預測值的置信度；表示條件熵。

作為優選，若目標圖像數據的預測熵和互信息滿足預設的第一高質量樣本條件，則將目標圖像數據作為第一高質量樣本，包括：

將預測熵與預設熵進行對比，以及將互信息與預設互信息進行對比；