[發明專利]一種微型神經網絡模型

在審

• 申請號: 202010771817.4
• 申請日: 2020-08-04
• 公開（公告）號: CN111882043A
• 公開（公告）日: 2020-11-03
• 發明（設計）人: 律方成;金潮偉;王勝輝
• 申請（專利權）人: 華北電力大學
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08
• 代理公司: 北京化育知識產權代理有限公司 11833
• 代理人: 尹均利

本發明公開了一種微型神經網絡模型，包括高度優化的Core卷積核子網絡和基于SSD的輔助特征提取子網絡，所述Core卷積核子網絡包括Core卷積核子網絡方法，包括以下步驟：S1、將Core卷積核初步提取后生成多個特征圖，S2、經過選取特定特征圖傳入輔助特征提取子網絡用于預測，S3、在保證目標檢測精度的同時最小化模型，所述S1中Core卷積組包含3×3卷積核，所述Core卷積組中的3×3卷積核的數量比正常卷積組的數量減少。本發明，Core卷積組均由低維度卷積核組成，極大的壓縮了神經網絡計算參數量，該卷積組方便將神經網絡模型部署于嵌入式邊緣計算設備，更小的Core卷積組網絡結構體系實現更為高效的特征提取。

技術領域

本發明涉及卷積組技術領域，尤其涉及一種微型神經網絡模型。

背景技術

組卷積是把輸入特征圖在通道方向分成若干組，對每一組的特征分別做卷積后再拼接起來，以減少參數數量，提高運算速度。

傳統目標檢測算法大都將VGG16等模型用于底層特征提取，此類模型多采用3×3卷積核作為特征圖的濾波器，具有兩方面弊端：一方面卷積的深度不足；另一方面若卷積核的數量過多，導致輸出特征圖的通道數過多，產生大量的參數，對硬件的算力和內存要求高。

發明內容

本發明的目的是為了解決現有技術中卷積的深度不足和卷積核的數量過多，導致輸出特征圖的通道數過多的缺點，而提出的一種微型神經網絡模型。

為了實現上述目的，本發明采用了如下技術方案：

一種微型神經網絡模型，包括高度優化的Core卷積核子網絡和基于SSD的輔助特征提取子網絡，所述Core卷積核子網絡包括Core 卷積核子網絡方法，包括以下步驟：

S1、將Core卷積核初步提取后生成多個特征圖，

S2、經過選取特定特征圖傳入輔助特征提取子網絡用于預測，

S3、在保證目標檢測精度的同時最小化模型。

優選地，所述S1中Core卷積組包含3×3卷積核，所述Core卷積組中的3×3卷積核的數量比正常卷積組的數量減少，所述3×3卷積核輸入特征圖的通道數量比正常卷積組的數量減少。

優選地，所述Core卷積組共由10個Core卷積核組成且分別為 Core1-Core10，每個所述Core卷積核包含兩個卷積層：壓縮卷積層 S和擴張卷積層E，所述壓縮卷積層中均為1×1卷積核，所述擴張卷積層為1×1卷積和3×3卷積的混合。

優選地，所述S3中在保證模型精度的前提下，盡可能減少了S 層和E層中卷積核的數量，并在多次Core卷積后增加Pool下采樣層以降低特征圖的通道數。

優選地，所述Core卷積組均由低維度卷積核組成，極大的壓縮了神經網絡計算參數量，假設卷積核的輸入通道數為M，輸出通道數為N，優化卷積，參數量為：

表中s1x1、e1x1、 e3x3分別代表S層中1×1卷積核的數量、E層中1×1卷積核的數量和E層中3×3卷積核的數量。

優選地，所述輔助特征提取網絡中的每一層再使用一組卷積來預測該特征層上每個預測框的位置以及預測框內目標對應的種類。

優選地，所述Core卷積組均由低維度卷積核組成。

相比現有技術，本發明的有益效果為：

1、Core卷積組均由低維度卷積核組成，極大的壓縮了神經網絡計算參數量，該卷積組方便將神經網絡模型部署于嵌入式邊緣計算設備，更小的Core卷積組網絡結構體系實現更為高效的特征提取。