[發明專利]一種基于深度學習的目標檢測YOLOv3的模型優化算法

在審

• 申請號: 202010568883.1
• 申請日: 2020-06-19
• 公開（公告）號: CN112001477A
• 公開（公告）日: 2020-11-27
• 發明（設計）人: 李宋順;周俊瑋;杜振華;華宇浩;王建宇;湯徐星;何新
• 申請（專利權）人: 南京理工大學;江蘇慧宇誠智能裝備研究院有限公司;南京榮新智能科技有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08;G06K9/62
• 代理公司: 北京勁創知識產權代理事務所(普通合伙) 11589
• 代理人: 張鐵蘭

1.一種基于深度學習的目標檢測YOLOv3的模型優化算法，其特征在于，包括以下步驟：

S1，采用K-means++聚類算法重新設置合適商品數據集的Anchor box；

S2，進行一般訓練：設定YOLOv3的Darknet-53網絡結構，載入數據集圖片、標簽和權重參數，進行前向推理，利用loss值反向求導更新權重參數，迭代一定次數，結束訓練，挑選最終模型；

S3，進行稀疏化訓練：對YOLOv3進行200個epoch的稀疏訓練，其中使用懲罰因子值為0.001，稀疏訓練的其余超參數與正常訓練相同；

S4，將YOLOv3稀疏化后的最終模型作為基準，疊加使用通道剪枝和層剪枝進行雙重剪枝，修剪不重要的特征通道和層；

S5，對剪枝后的模型進行微調，根據mAP曲線圖取較好效果的值，對得到的值再次進行評估，如果滿足優化要求，則結束優化過程，如果不滿足，則需重復步驟S1-S4進一步優化，直到滿足要求。

2.根據權利要求1所述的基于深度學習的目標檢測YOLOv3的模型優化算法，其特征在于，所述步驟S1中，采用K-means++聚類算法重新設置合適商品數據集的Anchor box，具體包括：

S101，隨機選取一個Anchor box的寬高作為第一個聚類中心；

S102，基于第一個聚類中心開始，逐個確定第n個聚類中心，第n個聚類中心選取原則是與當前第n-1個聚類中心IoU越大的框被選取的概率越大；

S103，循環步驟S102直到所有初始聚類中心被確定；

S104，剩下其它Anchor box逐一與聚類中心計算IoU，得到兩個框之間的IoU，將Anchorbox劃分到與其IoU最大的聚類中心所屬的類中；

S105，所有Anchor box都遍歷后，計算各類Anchor box寬、高的均值，作為下輪迭代的聚類中心；

S106，重復步驟S104、S105，直到大于閾值，或達到迭代次數。

3.根據權利要求1所述的基于深度學習的目標檢測YOLOv3的模型優化算法，其特征在于，所述步驟S4中，將YOLOv3稀疏化后的最終模型作為基準，疊加使用通道剪枝和層剪枝進行雙重剪枝，修剪不重要的特征通道和層，具體包括：

將YOLOv3稀疏化后的最終模型作為基準，基于BN層系數進行通道剪枝，達到理想精度后進行稀疏訓練，對需要剪枝的層對應的BN的系數進行大幅壓縮，然后設定剪枝率，對值進行排序，根據選取的剪枝率剪除不重要的通道剪枝，修剪過程中，忽略上采樣層，因為采樣層沒有卷積通道，忽略快捷鏈路層；層剪枝是在通道剪枝基礎上針對每一個快捷鏈路前一個帶BN的卷積層進行評價，對各層的γ最高值進行排序，取最小的進行層剪枝。

4.根據權利要求3所述的基于深度學習的目標檢測YOLOv3的模型優化算法，其特征在于，通過將通道修剪模塊的剪枝率PR設置為0.492，0.787，0.885和0.968得到了4個通道剪枝后的模型。

5.根據權利要求3所述的基于深度學習的目標檢測YOLOv3的模型優化算法，其特征在于，通過層修剪模塊的shortcut剪枝數SC設置為8，12和16得到了3個層剪枝后的模型。

6.根據權利要求1所述的基于深度學習的目標檢測YOLOv3的模型優化算法，其特征在于，對剪枝后的模型進行微調，根據mAP曲線圖取較好效果的值，具體包括：

剪枝后，mAP下降比較多，對剪枝后的模型進行微調，取PR＝0.885，SC＝8，epoch為50，根據mAP曲線圖取較好效果的值。