[發明專利]一種基于自適應注意力的分類模型的訓練方法

在審

• 申請號: 202210031614.0
• 申請日: 2022-01-12
• 公開（公告）號: CN114330595A
• 公開（公告）日: 2022-04-12
• 發明（設計）人: 張芮溟;侯曉帥;王佳平
• 申請（專利權）人: 平安科技（深圳）有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08;G06V10/774;G06V10/764
• 代理公司: 上海漢之律師事務所 31378
• 代理人: 馮華

1.一種基于自適應注意力的分類模型的訓練方法，其特征在于，其應用于分類模型中，包括步驟：

獲取含有皮膚病的原始圖像集數據；

提取所述原始圖像集數據中的原始特征向量數據與原始輸出向量數據，并得到分類損失集數據；

根據所述原始特征向量數據構建圖像，得到重建圖像集數據，并提取所述重建圖像集數據的重建特征向量數據與重建輸出向量數據；

根據所述重建特征向量數據、所述重建輸出向量數據、所述原始特征向量數據以及所述原始輸出向量數據，得到一致性損失集數據；

根據所述分類損失集數據與所述一致性損失集數據對所述分類模型的訓練參數進行訓練，得到訓練好的所述分類模型。

2.根據權利要求1所述的基于自適應注意力的分類模型的訓練方法，其特征在于，所述提取原始圖像集數據中的原始特征向量數據與原始輸出向量數據，并得到分類損失集數據的步驟包括：

將所述原始圖像集數據輸入到所述分類模型中的卷積神經網絡內，以提取所述原始圖像集數據中不同原始圖像的所述原始特征向量數據；

將所述原始特征向量數據輸入到所述分類模型中的全連接網絡內，以得到所述原始輸出向量數據；

根據所述原始圖像集數據，以得到相應的所述原始圖像的分類損失；

對多個所述分類損失進行集合，以得到分類損失集數據；

其中，所述原始圖像的分類損失l(f,y)，表示為：

其中，x表示原始圖像，

y表示真實標簽，

n表示原始圖像的總數，

m表示類別數，

f表示網絡參數。

3.根據權利要求1所述的基于自適應注意力的分類模型的訓練方法，其特征在于，所述根據原始特征向量數據構建圖像，得到重建圖像集數據，并提取重建圖像集數據的重建特征向量數據與重建輸出向量數據的步驟包括：

將所述原始特征向量數據輸入到所述分類模型中的解碼器網絡內，以對原始圖像進行重建，得到重建圖像；

將多個所述重建圖像進行集合，以得到重建圖像集數據；

將所述重建圖像集數據輸入到所述分類模型中的卷積神經網絡內，以提取所述重建圖像集數據中不同重建圖像的重建特征向量數據與重建輸出向量數據。

4.根據權利要求1所述的基于自適應注意力的分類模型的訓練方法，其特征在于，所述根據重建特征向量數據、重建輸出向量數據、原始特征向量數據以及原始輸出向量數據，得到一致性損失集數據的步驟包括：

根據所述重建特征向量數據、所述重建輸出向量數據、所述原始特征向量數據以及原始輸出向量數據，以得到一致性損失；

對多個所述一致性損失進行集合，以得到一致性損失集數據；

其中，所述一致性損失D_kl(p/q)，表示為：

其中，p表示重建特征向量數據、重建輸出向量數據，

q表示原始特征向量數據、原始輸出向量數據，

p_i/q_i表示重建特征向量數據與原始特征向量數據的比值，重建輸出向量數據與原始輸出向量數據的比值。

5.根據權利要求1所述的基于自適應注意力的分類模型的訓練方法，其特征在于，所述分類模型的訓練參數包括：卷積神經網絡的訓練參數、全連接網絡的訓練參數以及解碼器網絡的訓練參數。

6.根據權利要求1所述的基于自適應注意力的分類模型的訓練方法，其特征在于，所述分類模型為efficientNet-v2s模型，所述efficientNet-v2s模型根據所述分類損失集數據與所述一致性損失集數據作為數據集進行訓練。