[發(fā)明專利]一種基于模型剪枝的輕量化圖像分類方法、系統(tǒng)及設備

有效

• 申請?zhí)枺?/td>: 202011553183.1
• 申請日: 2020-12-24
• 公開（公告）號: CN112668630B
• 公開（公告）日: 2022-04-29
• 發(fā)明（設計）人: 陳靚影;徐如意;楊宗凱;柏寶
• 申請（專利權）人: 華中師范大學
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08
• 代理公司: 武漢東喻專利代理事務所(普通合伙) 42224
• 代理人: 雷霄

本發(fā)明公開了一種基于模型剪枝的輕量化圖像分類方法、系統(tǒng)及設備。該方法包括步驟：計算互信息評價通道的重要性；根據(jù)通道的重要性排序并分組；根據(jù)分組設置注意力正則化損失函數(shù)并優(yōu)化模型；剪枝不重要的通道；再次優(yōu)化模型，恢復模型的精度。本發(fā)明對深度神經(jīng)網(wǎng)絡的壓縮效果明顯，在降低大型深度網(wǎng)絡模型的存儲和計算消耗的同時，也減少了由于剪枝帶來的精度損失，可以更好地應用于移動端設備進行圖像分類。

技術領域

本發(fā)明屬于計算機視覺和深度學習技術領域，更具體地，涉及一種基于模型剪枝的輕量化圖像分類方法、系統(tǒng)及設備。

背景技術

近年來深度卷積神經(jīng)網(wǎng)絡以其良好的性能在計算機視覺等機器學習領域得到廣泛應用。為了提升深度卷積神經(jīng)網(wǎng)絡在圖像分類的性能，常采用極深的網(wǎng)絡結構，即含有大量的卷積層級聯(lián)而成，這導致深度神經(jīng)網(wǎng)絡模型中參數(shù)量巨大，需要消耗大量的計算和存儲資源，這限制了其在智能移動終端等邊緣設備的部署與應用。

為了解決這一問題，一個有效的解決方案是使用輕量化的神經(jīng)網(wǎng)絡模型，即對卷積層中不重要的特征通道進行剪枝，使得模型參數(shù)大量減少的同時仍然保持模型原有的性能。一種現(xiàn)有的方法提出基于信息熵裁剪卷積通道的方法，利用信息熵來排序卷積通道的重要性，進而刪減掉不重要的卷積通道達到壓縮的目的。但是，信息熵僅能度量特征通道提取特征所含的信息量，不能度量所提特征與分類任務之間的相關性。此外，這種方法雖然可以很好地壓縮卷積神經(jīng)網(wǎng)絡，但是卻不能很好地避免因為剪枝造成的精度損失。

發(fā)明內(nèi)容

針對現(xiàn)有技術的至少一個缺陷或改進需求，本發(fā)明提供了一種基于模型剪枝的輕量化圖像分類方法、系統(tǒng)及設備，利用互信息進行深度神經(jīng)網(wǎng)絡模型的剪枝，使得剪枝后模型的圖像分類性能更好。

為實現(xiàn)上述目的，按照本發(fā)明的第一方面，提供了一種基于模型剪枝的輕量化圖像分類方法，包括步驟：

獲取訓練集，將所述訓練集輸入到卷積神經(jīng)網(wǎng)絡中，通過預先訓練獲得圖像分類模型；

獲取評價集，所述評價集中的評價樣本被標記有樣本標簽，將所述評價集輸入到所述圖像分類模型，獲取所述圖像分類模型的每個卷積層的每個通道輸出的提取特征，根據(jù)所述圖像分類模型的每個卷積層的每個通道的提取特征與樣本標簽的互信息計算所述圖像分類模型的每個卷積層的每個通道的重要性指標；

根據(jù)所述重要性指標對所述圖像分類模型的卷積層的通道進行剪枝，利用剪枝后的所述圖像分類模型進行圖像分類。

優(yōu)選的，所述根據(jù)所述重要性指標對所述圖像分類模型的卷積層的通道進行剪枝包括步驟：

根據(jù)所述重要性指標和預設的剪枝比例，將所述圖像分類模型的同一卷積層的通道分為保留組和冗余組；

對所述圖像分類模型的每個卷積層的每個通道在輸出時引入尺度因子，使得所述圖像分類模型的每個卷積層的每個通道的提取特征乘以該通道對應的尺度因子后再輸入到下一卷積層；

根據(jù)每個卷積層的通道分組以及尺度因子計算每個卷積層的注意力正則化函數(shù)，根據(jù)所述注意力正則化函數(shù)和預先訓練所述圖像分類模型的原損失函數(shù)構建新的總損失函數(shù)，利用所述總損失函數(shù)再次對所述圖像分類模型的參數(shù)進行優(yōu)化；

將所述圖像分類模型的每個卷積層的屬于冗余組的通道移除；

利用所述原損失函數(shù)對剪枝后的所述圖像分類模型的參數(shù)再次進行優(yōu)化。

優(yōu)選的，所述重要性指標的計算包括步驟：

所述評價集的評價樣本記為x_i，x_i∈S,i＝1,…,N，N表示所述評價集中評價樣本的個數(shù)，所述圖像分類模型的卷積層的個數(shù)記為L，所述圖像分類模型的每個卷積層的通道數(shù)為C_l,l＝1,…,L,所述圖像分類模型的第l層輸出的提取特征記為F_l；