[發明專利]圖像識別模型的訓練方法、訓練裝置和訓練網絡

在審

• 申請號: 202210110009.2
• 申請日: 2022-01-29
• 公開（公告）號: CN114445641A
• 公開（公告）日: 2022-05-06
• 發明（設計）人: 申嘯塵;周有喜
• 申請（專利權）人: 新疆愛華盈通信息技術有限公司
• 主分類號: G06V10/44
• 分類號: G06V10/44;G06V10/774;G06K9/62;G06V10/82;G06N3/04;G06N3/08
• 代理公司: 暫無信息
• 代理人: 暫無信息

1.一種圖像識別模型的訓練方法，其特征在于，包括：

通過卷積神經網絡對輸入的訓練圖像數據集進行特征提取處理，以得到所述卷積神經網絡對應的第一損失函數值；

獲取所述卷積神經網絡中多個中間層輸出的特征圖；

將各個中間層輸出的特征圖分別輸入到各自對應的預設ViT網絡進行特征提取處理，以得到各個預設ViT網絡各自對應的第二損失函數值；

根據各自對應的第二損失函數值，分別對各個預設ViT網絡進行權重和偏置更新；

根據所述第一損失函數值和各個預設ViT網絡各自對應的第二損失函數值對所述卷積神經網絡進行權重和偏置更新；

循環執行上述步驟，直至所述卷積神經網絡對應的第一預設損失函數收斂以生成對應的圖像識別模型。

2.根據權利要求1所述的訓練方法，其特征在于，所述通過卷積神經網絡對輸入的訓練圖像數據集進行特征提取處理，以得到所述卷積神經網絡對應的第一損失函數值的步驟包括：

通過卷積神經網絡對輸入的訓練圖像數據集進行特征提取處理，以生成對應的預測值；

根據第一預設損失函數、所述預測值和預設標注值，得到所述卷積神經網絡對應的第一損失函數值。

3.根據權利要求2所述的訓練方法，其特征在于，所述第一預設損失函數采用交叉熵損失函數，所述通過卷積神經網絡對輸入的訓練圖像數據集進行特征提取處理，以生成對應的預測值的步驟之前還包括：

基于所述交叉熵損失函數，將所述訓練圖像數據集輸入到初始卷積神經網絡進行訓練，直至所述交叉熵損失函數收斂，得到訓練收斂后的卷積神經網絡。

4.根據權利要求1所述的訓練方法，其特征在于，所述中間層為池化層，所述將各個中間層輸出的特征圖分別輸入到各自對應的預設ViT網絡進行特征提取處理，以得到各個預設ViT網絡各自對應的第二損失函數值的步驟包括：

將所述多個池化層輸出的特征圖分別輸入到各自對應的預設ViT網絡進行特征提取處理，以獲取各自對應的預測標簽值；

根據第二預設損失函數、各個預設ViT網絡各自對應的預測標簽值和真實標簽值，計算得到各個預設ViT網絡各自對應的第二損失函數值。

5.根據權利要求4所述的訓練方法，其特征在于，所述將各個中間層輸出的特征圖分別輸入到各自對應的預設ViT網絡進行特征提取處理，以得到各個預設ViT網絡各自對應的第二損失函數值的步驟之前還包括：

基于第二預設損失函數，將所述訓練圖像數據集輸入到分別輸入到各個初始ViT網絡進行訓練，直至所述第二預設損失函數收斂，得到訓練收斂后的各個預設ViT網絡。

6.根據權利要求1所述的訓練方法，其特征在于，所述根據所述第一損失函數值和所述第二損失函數值對所述卷積神經網絡進行權重和偏置更新的步驟包括：

將所述第一損失函數值和所述第二損失函數值按照預設比例進行加權處理，以得到加權后的損失函數值；

根據所述加權后的損失函數值，通過反向傳播求取梯度對所述卷積神經網絡進行權重和偏置更新。

7.一種圖像識別模型的訓練網絡，其特征在于，包括：

卷積神經網絡處理單元，用于對輸入的訓練圖像數據集進行特征提取處理，以得到對應的第一損失函數值以及多個中間層輸出的特征圖；

ViT網絡處理單元，與所述卷積神經網絡處理單元中的多個中間層的輸出端相連接，用于將各個中間層輸出的特征圖分別輸入到各自對應的預設ViT網絡進行特征提取處理，以得到各個預設ViT網絡各自對應的第二損失函數值；

所述ViT網絡處理單元還用于根據所述第二損失函數值對各個預設ViT網絡進行權重和偏置更新；

所述卷積神經網絡處理單元還用于根據所述第一損失函數值和各個預設ViT網絡各自對應的第二損失函數值對自身的卷積神經網絡進行權重和偏置更新，直至所述卷積神經網絡對應的第一預設損失函數收斂以生成對應的圖像識別模型。