[發明專利]一種基于自適應注意力的分類模型的訓練方法

在審

• 申請號: 202210031614.0
• 申請日: 2022-01-12
• 公開（公告）號: CN114330595A
• 公開（公告）日: 2022-04-12
• 發明（設計）人: 張芮溟;侯曉帥;王佳平
• 申請（專利權）人: 平安科技（深圳）有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08;G06V10/774;G06V10/764
• 代理公司: 上海漢之律師事務所 31378
• 代理人: 馮華

本發明提供一種基于自適應注意力的分類模型的訓練方法，包括步驟：獲取含有皮膚病的原始圖像集數據；提取原始圖像集數據中的原始特征向量數據與原始輸出向量數據，并得到分類損失集數據；根據原始特征向量數據構建圖像，得到重建圖像集數據，并提取重建圖像集數據的重建特征向量數據與重建輸出向量數據；根據重建特征向量數據、重建輸出向量數據、原始特征向量數據以及原始輸出向量數據，得到一致性損失集數據；根據分類損失集數據與一致性損失集數據對分類模型的訓練參數進行訓練，得到訓練好的分類模型。通過本發明公開的一種基于自適應注意力的分類模型的訓練方法、裝置、設備及介質，本發明能夠能夠顯著提升分類模型的泛化性和魯棒性。

技術領域

本發明涉及圖像分類技術領域，特別是涉及一種基于自適應注意力的分類模型的訓練方法、裝置、設備及介質。

背景技術

對于圖像分類問題，用卷積神經網絡去訓練一個分類器已經是一個魯棒且優秀的解決方案，在數據量和標注量充分的條件下，通常可以通過遷移學習獲得精度不錯的基線模型。現有的高精度分類模型都是基于圖像網數據集最優的模型，當皮膚病數據與圖像網的數據分布存在顯著差異的情況下，簡單地選擇一個分類模型進行遷移學習并不能直接獲得令人滿意的精度。

皮膚病數據相比較于圖像網的自然圖像數據的差異存在于：細粒度不同、目標尺度多樣性不同以及是否存在臟數據。細粒度、目標尺度多樣性、臟數據是皮膚病場景下的數據集的主要特點，而現有的分類模型，無法對皮膚病場景下的特殊數據進行識別。

發明內容

鑒于以上所述現有技術的缺點，本發明的目的在于提供一種基于自適應注意力的分類模型的訓練方法、裝置、設備及介質，本發明能夠能夠顯著提升分類模型的泛化性和魯棒性。

為實現上述目的及其他相關目的，本發明提供一種基于自適應注意力的分類模型的訓練方法，其應用于分類模型中，包括：

獲取含有皮膚病的原始圖像集數據；

提取原始圖像集數據中的原始特征向量數據與原始輸出向量數據，并得到分類損失集數據；

根據原始特征向量數據構建圖像，得到重建圖像集數據，并提取重建圖像集數據的重建特征向量數據與重建輸出向量數據；

根據重建特征向量數據、重建輸出向量數據、原始特征向量數據以及原始輸出向量數據，得到一致性損失集數據；

根據分類損失集數據與一致性損失集數據對分類模型的訓練參數進行訓練，得到訓練好的分類模型。

在本發明一實施例中，所述提取原始圖像集數據中的原始特征向量數據與原始輸出向量數據，并得到分類損失集數據的步驟包括：

將所述原始圖像集數據輸入到所述分類模型中的卷積神經網絡內，以提取所述原始圖像集數據中不同原始圖像的原始特征向量數據；

將所述原始特征向量數據輸入到所述分類模型中的全連接網絡內，以得到所述原始輸出向量數據；

根據所述原始圖像集數據，以得到相應的所述原始圖像的分類損失；

對多個所述分類損失進行集合，以得到分類損失集數據；其中，所述原始圖像的分類損失l(f,y)，表示為：

其中，x表示原始圖像，

y表示真實標簽，

n表示原始圖像的總數，

m表示類別數，

f表示網絡參數。

在本發明一實施例中，所述根據原始特征向量數據構建圖像，得到重建圖像集數據，并提取重建圖像集數據的重建特征向量數據與重建輸出向量數據的步驟包括：