[發(fā)明專利]基于自蒸餾的圖像分類方法、系統(tǒng)、存儲介質(zhì)和電子設備

有效

• 申請?zhí)枺?/td>: 202310071832.1
• 申請日: 2023-01-13
• 公開（公告）號: CN116416456B
• 公開（公告）日: 2023-10-24
• 發(fā)明（設計）人: 程彥皓
• 申請（專利權）人: 北京數(shù)美時代科技有限公司;數(shù)美天下（北京）科技有限公司
• 主分類號: G06V10/764
• 分類號: G06V10/764;G06V10/82;G06N3/0464;G06N3/045;G06N3/096
• 代理公司: 北京輕創(chuàng)知識產(chǎn)權代理有限公司 11212
• 代理人: 厲洋洋

1.一種基于自蒸餾的圖像分類方法，其特征在于，包括：

基于多個圖像樣本，對用于圖像分類的卷積神經(jīng)網(wǎng)絡進行迭代訓練，得到第一圖像分類模型；

將任一圖像樣本輸入所述第一圖像分類模型，得到該圖像樣本對應的輸出特征圖，并將所述輸出特征圖輸入至特征處理模塊，得到該圖像樣本的原始特征圖，將所述輸出特征圖輸入至注意力機制模塊，得到該圖像樣本的注意力特征圖，并基于該圖像樣本的原始特征圖和注意力特征圖進行自蒸餾，得到該圖像樣本的自蒸餾損失值，直至得到每個圖像樣本的自蒸餾損失值；

基于所有的自蒸餾損失值，對所述第一圖像分類模型的參數(shù)進行優(yōu)化，得到第二圖像分類模型，將所述第二圖像分類模型作為所述第一圖像分類模型并返回執(zhí)行所述將任一圖像樣本輸入所述第一圖像分類模型的步驟，直至所述第二圖像分類模型滿足預設訓練條件時，將所述第二圖像分類模型確定為目標圖像分類模型；

將待測圖像輸入至所述目標圖像分類模型，得到所述待測圖像的圖像分類結果。

2.根據(jù)權利要求1所述的基于自蒸餾的圖像分類方法，其特征在于，所述特征處理模塊包括：依次連接設置的通道維度的第一平均池化層和第一L2歸一化層；

所述將所述輸出特征圖輸入至特征處理模塊，得到該圖像樣本的原始特征圖的步驟，包括：

將所述輸出特征圖依次通過所述通道維度的第一平均池化層和所述第一L2歸一化層進行通道維度平均池化處理和L2歸一化處理，得到該圖像樣本的原始特征圖。

3.根據(jù)權利要求1或2所述的基于自蒸餾的圖像分類方法，其特征在于，所述注意力機制模塊包括：全局平均池化層、節(jié)點權重計算模塊、通道維度的第二平均池化層和第二L2歸一化層；

所述將所述輸出特征圖輸入至注意力機制模塊，得到該圖像樣本的注意力特征圖的步驟，包括：

將所述輸出特征圖輸入至所述所述全局平均池化層進行全局平均池化處理，得到第一特征圖；

通過所述節(jié)點權重計算模塊獲取所述第一特征圖的正確預測節(jié)點所對應的權重，并將所述第一特征圖的正確預測節(jié)點所對應的權重與所述輸出特征圖相乘，得到第二特征圖；

將所述第二特征圖依次通過所述通道維度的第二平均池化層和第二L2歸一化層進行通道維度平均池化處理和L2歸一化處理，得到該圖像樣本的注意力特征圖。

4.根據(jù)權利要求3所述的基于自蒸餾的圖像分類方法，其特征在于，還包括：

對任一圖像樣本進行分類標注，得到該圖像樣本的分類標簽信息，直至得到每個圖像樣本的分類標簽信息。

5.根據(jù)權利要求4所述的基于自蒸餾的圖像分類方法，其特征在于，所述通過所述節(jié)點權重計算模塊獲取所述第一特征圖的正確預測節(jié)點所對應的權重的步驟，包括：

基于任一圖像樣本的分類標簽信息，確定該圖像樣本的第一特征圖的正確預測節(jié)點，以獲取該圖像樣本的第一特征圖的正確預測節(jié)點所對應的權重。

6.根據(jù)權利要求1所述的基于自蒸餾的圖像分類方法，其特征在于，所述預設訓練條件為：達到最大迭代訓練次數(shù)或所述第二圖像分類模型的損失值收斂。