[發(fā)明專利]圖像分類方法、裝置以及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)

在審

• 申請(qǐng)?zhí)枺?/td>: 202111642391.3
• 申請(qǐng)日: 2021-12-29
• 公開(kāi)（公告）號(hào): CN114298224A
• 公開(kāi)（公告）日: 2022-04-08
• 發(fā)明（設(shè)計(jì)）人: 姚俊榮
• 申請(qǐng)（專利權(quán)）人: 云從科技集團(tuán)股份有限公司
• 主分類號(hào): G06K9/62
• 分類號(hào): G06K9/62;G06V10/764;G06V10/774
• 代理公司: 北京瀚仁知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11482
• 代理人: 屠曉旭;陳敏

本發(fā)明涉及圖像處理技術(shù)領(lǐng)域，具體提供一種圖像分類方法、裝置以及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，旨在解決如何提高圖像分類準(zhǔn)確性與效率的問(wèn)題。為此目的，本發(fā)明的方法包括：將當(dāng)前教師模型的特征提取網(wǎng)絡(luò)劃分成至少一個(gè)第一特征提取層，將學(xué)生模型的特征提取網(wǎng)絡(luò)劃分成至少一個(gè)第二特征提取層且第一、第二特征提取層一一對(duì)應(yīng)；獲取當(dāng)前教師模型中第一特征提取層提取到的教師圖像特征以及獲取與第一特征提取層對(duì)應(yīng)的第二特征提取層提取到的學(xué)生圖像特征。采用知識(shí)蒸餾方法，使所有教師模型同時(shí)指導(dǎo)學(xué)生模型使用每個(gè)教師模型各自對(duì)應(yīng)的教師圖像特征與學(xué)生圖像特征進(jìn)行圖像分類訓(xùn)練，提高分類準(zhǔn)確性。同時(shí)學(xué)生模型的模型參數(shù)少，因而具備較高的分類效率。

技術(shù)領(lǐng)域

本發(fā)明涉及圖像處理技術(shù)領(lǐng)域，具體提供一種圖像分類方法、裝置以及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)。

背景技術(shù)

在圖像處理技術(shù)領(lǐng)域中通常采用基于神經(jīng)網(wǎng)絡(luò)的圖像分類模型進(jìn)行圖像分類，而這些圖像分類模型的模型精度與推理速度往往呈負(fù)相關(guān)關(guān)系，即模型參數(shù)越多模型精度越高而推理速度則越低，模型參數(shù)越少則模型精度越低而推理速度則越高。目前為了獲取模型參數(shù)少且模型精度高的圖像分類模型，可以通過(guò)知識(shí)蒸餾(Knowledge Distilling)方法，使用模型參數(shù)多且模型精度高的教師模型(Teacher network)指導(dǎo)模型參數(shù)少的學(xué)生模型(Student network)訓(xùn)練，實(shí)現(xiàn)從教師模型到學(xué)生模型的知識(shí)遷移(Knowledgetransfer)，提高學(xué)生模型的模型精度。雖然通過(guò)知識(shí)蒸餾方法能夠在一定程度上緩解學(xué)生模型由于模型參數(shù)少而導(dǎo)致的模型精度較低的問(wèn)題，但是學(xué)生模型與教師模型之間的模型精度差距仍然比較大，當(dāng)在對(duì)圖像分類準(zhǔn)確性與分類效率的要求都比較高的應(yīng)用場(chǎng)景中應(yīng)用這些學(xué)生模型進(jìn)行圖像分類時(shí)將無(wú)法得到準(zhǔn)確性較高的圖像分類結(jié)果，降低了這些應(yīng)用場(chǎng)景中圖像分類的準(zhǔn)確性。

相應(yīng)地，本領(lǐng)域需要一種新的圖像分類方案來(lái)解決上述問(wèn)題。

發(fā)明內(nèi)容

為了克服上述缺陷，提出了本發(fā)明，以提供解決或至少部分地解決如何同時(shí)提高圖像分類準(zhǔn)確性與效率的技術(shù)問(wèn)題的圖像分類方法、裝置以及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)。

在第一方面，本發(fā)明提供一種圖像分類方法，所述方法包括：

針對(duì)每個(gè)教師模型，將當(dāng)前教師模型的特征提取網(wǎng)絡(luò)劃分成至少一個(gè)第一特征提取層，將學(xué)生模型的特征提取網(wǎng)絡(luò)劃分成至少一個(gè)第二特征提取層且所述第一特征提取層與所述第二特征提取層一一對(duì)應(yīng)；其中，所述教師模型是訓(xùn)練好的圖像分類模型；

獲取當(dāng)前教師模型中每個(gè)第一特征提取層提取到的圖像樣本的教師圖像特征以及獲取學(xué)生模型中與每個(gè)第一特征提取層各自對(duì)應(yīng)的第二特征提取層提取到的圖像樣本的學(xué)生圖像特征；

采用知識(shí)蒸餾方法，使所有教師模型同時(shí)指導(dǎo)所述學(xué)生模型使用每個(gè)教師模型各自對(duì)應(yīng)的教師圖像特征與學(xué)生圖像特征進(jìn)行圖像分類訓(xùn)練；

采用訓(xùn)練好的學(xué)生模型進(jìn)行圖像分類。

在上述圖像分類方法的一個(gè)技術(shù)方案中，“采用知識(shí)蒸餾方法，使所有教師模型同時(shí)指導(dǎo)所述學(xué)生模型使用每個(gè)教師模型各自對(duì)應(yīng)的教師圖像特征與學(xué)生圖像特征進(jìn)行圖像分類訓(xùn)練”的步驟具體包括：

采用知識(shí)蒸餾方法并按照下式所示的知識(shí)蒸餾函數(shù)L_total進(jìn)行圖像分類訓(xùn)練：

L_total＝L_CE+L_teacher

其中，L_CE表示所述學(xué)生模型對(duì)所述圖像樣本進(jìn)行圖像分類訓(xùn)練時(shí)確定的損失函數(shù)，所述L_teacher表示同時(shí)利用所有教師模型對(duì)所述學(xué)生模型使用每個(gè)教師模型各自對(duì)應(yīng)的教師圖像特征與學(xué)生圖像特征進(jìn)行訓(xùn)練指導(dǎo)學(xué)習(xí)時(shí)確定的知識(shí)蒸餾損失函數(shù)。

在上述圖像分類方法的一個(gè)技術(shù)方案中，所述知識(shí)蒸餾損失函數(shù)L_teacher如下式所示：