[發明專利]基于優化通道剪枝的快速目標檢測方法及系統

在審

• 申請號: 202011337992.9
• 申請日: 2020-11-25
• 公開（公告）號: CN112465114A
• 公開（公告）日: 2021-03-09
• 發明（設計）人: 郭偉;李偉紅;龔衛國
• 申請（專利權）人: 重慶大學
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08;G06K9/62
• 代理公司: 重慶華科專利事務所 50123
• 代理人: 康海燕

本發明公開一種基于優化通道剪枝的快速目標檢測方法及系統，屬于計算機視覺、圖像處理、模式識別領域，本發明方法首先通過稀疏訓練，得到原始的目標檢測模型。稀疏訓練可以訓練尺度因子，其中尺度因子訓練結果的大小決定檢測模型中稀疏層通道的重要程度。然后，利用層級加權閾值進行通道剪枝。該層級加權閾值同時考慮了某個通道在對應網絡層的重要程度，以及其在整個網絡結構中的重要程度。通過合理的通道剪枝，本發明能實現更有效的模型壓縮，其目標檢測網絡模型的參數數量會大大降低，并且顯著提高檢測效率。實驗結果表明，本發明與目前優秀的方法相比具有更先進的性能。

技術領域

本發明屬于計算機視覺、圖像處理、模式識別領域。具體涉及基于通道剪枝的圖像快速目標檢測技術。

背景技術

基于深度學習的目標檢測方法，通常需要更大、更復雜的網絡模型才能獲得更好的檢測精度。然而，較大的網絡模型往往體積較大，這將影響檢測效率，并且難以在資源有限的設備上部署網絡模型進行實時檢測和實際應用。

根據經驗可知，較大的網絡模型通常包含大量冗余信息，因此一些研究者提出了一些模型壓縮方法，以減少模型體積，加快目標檢測速度。在這些模型壓縮方法中，結構剪枝，特別是通道剪枝，被廣泛用于減少模型參數數量和計算復雜度。然而，現有的通道剪枝方法，通常為所有網絡模型層設計一個預定義的全局通道剪枝閾值，或者為每層設計一個獨立的局部通道剪枝閾值，以刪除不重要的通道，實現節省模型內存占用和減少模型推理時間。值得注意的是，通道剪枝方法通常使用模型中批處理歸一化(Batch Normalization)層的尺度因子來度量各通道的重要性，同時也根據該尺度因子來設計通道剪枝閾值。但在設計通道剪枝閾值時，上述方法要么只考慮全局尺度因子的大小分布情況，要么只考慮局部尺度因子在對應稀疏層的大小分布情況。所以之前的通道剪枝閾值不能同時達到針對所有層的全局最優，和針對每一層的局部最優。由此，之前的通道剪枝效果不是最優的。

因此，如何在不影響目標檢測模型精度的前提下，發明一種更適合的、具有更優通道剪枝閾值的通道剪枝方法，實現更高效的模型壓縮，提高圖像目標檢測速度，是目前亟待解決的問題。

發明內容

有鑒于此，本發明提供一種基于優化通道剪枝的快速目標檢測方法及系統，以改進現有技術對目標檢測中通道剪枝模型壓縮不夠合理的問題，提高圖像目標檢測速度。

為實現上述目的，本發明采用以下技術方案：

一種基于優化通道剪枝的快速目標檢測方法，所述方法包括以下步驟：

(1)采用基于卷積神經網絡(Convolutional Neural Network)的單階段目標檢測模型(YOLOv3)對待檢測的目標圖像進行稀疏訓練。稀疏訓練可以訓練尺度因子，其中尺度因子訓練結果的大小決定檢測模型中稀疏層通道的重要程度。稀疏訓練得到原始的稀疏檢測模型，所述原始的稀疏檢測模型中的每個卷積層后面都有一個BN層。

在結構化通道剪枝中，稀疏訓練是獲取剪枝層系數尺度因子的關鍵。而稀疏訓練是模型檢測精度和稀疏性的博弈過程。稀疏訓練時，通常會設置一個懲罰因子，來使得模型在具有較高檢測精度的同時，實現相對較高的稀疏性。為了實現高效的通道剪枝，本發明方法為每個剪枝層通道設置一個靜態尺度因子，該靜態尺度因子的絕對值表示該通道的重要性。更具體地說，除了檢測頭的最后一層之外，本發明方法的網絡模型中的每個卷積層后面都有一個BN(Batch Normalization)層，用以加速訓練收斂和提高模型泛化能力。因此，本發明方法使用BN層的尺度因子作為對應卷積層通道的尺度因子。BN層歸一化卷積層的特征，如式(1)所示。

和σ²是一個批次輸入特征的均值和方差，γ_i和β_i是BN層中第i個尺度因子和偏差。x_i和y_i是BN層中第i個輸入和歸一化后的輸出，ε表示一個極小的整數，通常設置為1e-5。