[發明專利]一種輕量化網絡架構系統

在審

• 申請號: 202111166836.5
• 申請日: 2021-09-30
• 公開（公告）號: CN113902904A
• 公開（公告）日: 2022-01-07
• 發明（設計）人: 張文利;劉鈺昕;趙庭松
• 申請（專利權）人: 北京工業大學
• 主分類號: G06V10/25
• 分類號: G06V10/25;G06N3/04
• 代理公司: 北京動力號知識產權代理有限公司 11775
• 代理人: 林超

本發明公開了一種輕量化網絡架構系統，包括：多個輕量化的網絡卷積塊，將CSPNet的部分塊中堆疊的多個Res block或Dense block替換為微型跨階段網絡結構輕量化部分塊，并且減少了一個部分過渡層，同時將雙融合操作替換為單融合操作；以及基于特征圖大小變化的下采樣模塊。輕量化的網絡卷積塊作為主干網絡，將傳統CSPNet中不同尺度下使用的block的內部結構進行了輕量化處理，替換為用輕量化的網絡卷積塊提取特征，避免了檢測耗時長的問題；計算效率高的輕量級CSP目標檢測網絡，用于輕量化檢測和物體分離，是一種計算效率高的輕量級CSP目標檢測網絡，提升了檢測和分離的準確性和速度。

技術領域

本發明涉及計算機視覺和圖像處理領域，尤其涉及目標識別視覺領域中實現有效目標檢測的網絡架構，具體涉及一種輕量化網絡架構系統。

背景技術

物體檢測是一種利用計算機技術檢測并識別出圖像或視頻中感興趣目標(如農作物、包裹等)的類別與位置信息的方法，是計算機視覺領域中重要研究課題之一。近年來隨著計算機視覺領域的飛速發展以及智慧農業建設、智慧物流等概念的相繼提出，基于計算機視覺的物體分離檢測技術作為智慧農業建設和智慧物流建設的一項尤為重要的技術，在水果品質檢測、成熟度識別、產量預測和自動采摘、包裹的識別和分離，分揀等方面有著廣泛的應用。

此外，隨著深度學習技術的不斷完善與發展，基于深度學習的物體檢測技術已經廣泛地應用在無人駕駛、輔助駕駛、人臉識別、無人安防、人機交互、行為識別等諸多現實領域中。卷積神經網絡(Convolutional Neural Networks，簡稱CNN，有時也稱ConvNet)是一類包含卷積計算且具有深度結構的前饋神經網絡(Feedforward Neural Networks)，是深度學習(deep learning)的代表算法之一。

作為深度學習技術中的重要研究方向之一，深度卷積神經網絡在物體檢測應用上已經取得了顯著成果，以及能夠在圖像數據中實現對感興趣目標的實時檢測與識別。現有的技術就是改變卷積神經網絡的參數，目前通用的幾種方法是放大卷積神經網絡的深度、寬度以及分辨率，現有的放大卷積網絡方法，常用手段就是單獨放大這三個維度中的一個，盡管任意放大兩個或者三個維度也是可能的，但是任意縮放需要繁瑣的人工調參，同時可能產生的是一個次優的精度和效率，使得最后輸出圖像的精度和識別效率并沒有達到理想的值，例如導致目標識別率降低；與此同時，由于識別網絡框架的限制，反而會造成目標檢測的識別效率降低。

例如，現有技術采取了模型縮放的方法提高目標檢測的精度：如縮放CNN神經網絡以適應不同的資源約束；再或者ResNet通過調整網絡深度(層)來縮小(例如ResNet-18)或增大(例如ResNet-200)；再或者WideResNet、MobileNets通過網絡寬度(頻道)來縮放CNN來提高識別圖像的識別率。放大網絡寬度、深度或分辨率的任何維度都可以提高精度，但對于更大的網絡架構模型，其輸出的圖像目標物識別率反而會有所降低。

現在主流的CNN架構例如ResNet、Densenet每一層的輸出都是由該層的卷積運算以及先前所有層的輸出共同組成。然而，這樣做會導致在模型的第k層中(k＝1，k＝2，......)，梯度流每次都要從第一層開始重新走到k層以此來更新和使用權重，導致重復學習冗余的信息。

近年來也有研究學者在提高模型的學習能力和參數信息利用率方面進行了研究，其中CSPNet在MS COCO目標檢測數據集上達到了最先進的測試結果。該算法通過跨階段部分連接的方式將第k-1層卷積運算的輸出x_k-1在下一層中映射為兩個通道，并且通過一個跨階段的層次結構后進行合并，使得其中一個通道進行梯度的更新而另一個通道保持原本的梯度信息不變，以此來保證傳播的梯度信息保持著較大的相關性差異，減少梯度復用的問題。CSPNet優化后的網絡結構可以表示為：

x_k＝M{[x′_k-1，T(F(x″_k-1))]} (1)