[發明專利]一種適用于嵌入式設備的改進目標實時識別網絡結構的方法

在審

• 申請號: 202011077925.8
• 申請日: 2020-10-10
• 公開（公告）號: CN112163628A
• 公開（公告）日: 2021-01-01
• 發明（設計）人: 曾國奇;潘圣睿;范崢
• 申請（專利權）人: 北京航空航天大學
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08
• 代理公司: 北京永創新實專利事務所 11121
• 代理人: 易卜

1.一種適用于嵌入式設備的改進目標實時識別網絡結構的方法，其特征在于，包括以下步驟：

步驟一、正常運行未經壓縮的目標識別網絡模型，計算出各層級的卷積模塊的權重參數量在總模型所有卷積層權重參數量之和中的占比；

步驟二、選出占比50％—70％的卷積模塊并替換為深度可分離卷積模塊，完成模型的初次壓縮；迭代運行初次壓縮模型，直到損失曲線上的損失值波動小于0.01；

步驟三、針對損失值穩定的壓縮模型，將每個通道的影響因子引入到損失函數中，并對損失函數進行稀疏正則化；

首先，針對每層卷積網絡內的各個通道，將各通道對應的影響因子的理論值γ與每個通道的輸出進行乘積，從而將影響因子引入到損失函數中，并加入稀疏懲罰項進行稀疏正則化；

計算公式如下：

其中，x為卷積網絡的輸入，y為卷積網絡的輸出，W是網絡的權重矩陣；

∑_(x,y)l(f(x,W),y)是卷積網絡的常規Loss計算式；g(·)采用了L1正則項，為損失函數Loss引入了稀疏性懲罰項；λ為稀疏懲罰項在總體損失函數中所占的比例系數；Γ為各通道對應的影響因子γ集合；

然后，將引入γ后的損失函數進行多次逆向傳播訓練，得到各影響因子γ的真實值；

步驟四、設定裁剪比例閾值，選出稀疏正則化后低于該比例閾值的影響因子，將各影響因子對應的網絡通道裁剪掉，重新迭代運行裁剪后的網絡模型，直到損失曲線不再發生變化或者損失值的變化波動程度小于0.01為止，完成通道剪枝壓縮過程；

步驟五、在神經網絡每次讀取圖片進入訓練前，加入圖像增強模塊隨機調整圖像的亮度，對比度，飽和度和色相相關屬性；

步驟六、針對壓縮和剪枝處理后的模型，加入SENet模塊進一步提升識別精度；

步驟七、利用圖像增強模塊調整后的訓練圖像，輸入到加入SENet模塊的神經網絡中進行訓練；

訓練過程中，使用學習率動態調整模塊設置分界點形成不同的訓練階段，并利用性能優化模塊對訓練過程中的誤差損失函數進行優化；

具體過程為：

首先，根據0.8和0.9兩個分界點分別設置三個不同的訓練階段：0—0.8，0.8—0.9和0.9—1，并使得不同階段的學習率依次下降10倍；

然后，對誤差損失函數進行優化的過程為：

采用IOU或GIOU作為損失的計量方式，并加入縮放系數k，計算公式如下：

Loss＝k×Localization loss+Confidence loss+Classification loss

Localization loss為邊界框損失誤差函數；Confidence loss為置信度損失函數；Classification loss為目標的類別損失函數；

步驟八、利用訓練好的目標識別網絡模型，對實時采集的圖像進行目標識別。

2.如權利要求1所述的一種適用于嵌入式設備的改進目標實時識別網絡結構的方法，其特征在于，步驟二中所述的深度可分離卷積模塊是將標準卷積分解為深度卷積和點卷積；

深度卷積為輸入的每個通道都提供不同的卷積核濾波器，繼而輸出與輸入通道數目相匹配的輸出權重矩陣；

點卷積讓輸出的權重矩陣和一個1×1的卷積核做普通卷積運算，從而得到最終的輸出值。

3.如權利要求1所述的一種適用于嵌入式設備的改進目標實時識別網絡結構的方法，其特征在于，所述步驟四中裁剪比例的設定為：基于不同的通道裁剪率對識別率的影響圖像，找到識別率和通道裁剪率曲線的拐點作為最終的裁剪比例閾值；

根據影響因子γ的真實值，選出低于設定閾值的各影響因子，將對應的網絡通道進行修剪和微調，實現通道級別的模型剪枝，并去掉其對應輸入和輸出的權重參數。

4.如權利要求1所述的一種適用于嵌入式設備的改進目標實時識別網絡結構的方法，其特征在于，所述步驟六中加入SE模塊的原則是：在淺層卷積網絡即第一、二層卷積層前面加入SE注意力機制模塊，讓淺層神經網絡自動識別出不同特征信息通道對結果的影響程度，并有選擇性對產生重要影響的通道進行增強或對影響較小的通道進行抑制處理。

5.如權利要求1所述的一種適用于嵌入式設備的改進目標實時識別網絡結構的方法，其特征在于，所述步驟七中GIOU計算公式如下：

A損失函數計算式中的真實框，B代表損失函數計算式中的預測框；因而A∩B就代表了真實框和預測框的交集面積，同理A∪B代表了真實框和預測框的并集面積，C代表了A和B的最小閉包面積。