[發明專利]一種yolo目標檢測模型壓縮方法、系統及存儲介質

在審

• 申請號: 202110795623.2
• 申請日: 2021-07-14
• 公開（公告）號: CN113537340A
• 公開（公告）日: 2021-10-22
• 發明（設計）人: 李衛東;劉平濤;羅博文;張招
• 申請（專利權）人: 深圳思悅創新有限公司;武漢萊克斯瑞科技發展有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06F17/16;G06F17/11
• 代理公司: 北京知呱呱知識產權代理有限公司 11577
• 代理人: 胡樂

本發明實施例公開了一種yolo目標檢測模型壓縮方法、系統及存儲介質，首先對搭建并訓練好的yolo目標檢測模型每層的輸出值進行量化得到yolo目標檢測模型每層的輸出值的縮放尺度因子和偏置因子，再將yolo目標檢測模型的BN層和卷積層進行融合，然后對融合后的yolo目標檢測模型的模型參數進行量化得到權重和偏置的縮放尺度因子和偏置因子，根據yolo目標檢測模型每層的輸出值的縮放尺度因子和偏置因子，以及權重和偏置的縮放尺度因子和偏置因子，對融合后的yolo目標檢測模型的模型參數進行量化，得到融合后的yolo目標檢測模型的整體量化因子，最后根據整體量化因子，搭建yolo的int8型目標檢測模型，得到通過int8參數進行前向推理的yolo目標檢測模型。

技術領域

本發明實施例涉及數據處理技術領域，具體涉及一種yolo目標檢測模型壓縮方法、系統及存儲介質。

背景技術

在yolo目標檢測模型的邊緣計算中，邊緣設備的計算能力通常較低，并且計算會受限于邊緣設備的內存和電量消耗。此外，為了降低將yolo目標檢測模型傳輸給邊緣設備的通信量以及網絡連接需求，需要將yolo目標檢測模型量化使其尺寸更小、推斷更快、耗電量更低。由于yolo目標檢測模型的計算量以及計算復雜度較大，現有的yolo目標檢測模型通常在云端進行計算，并且以浮點型運算為主。然而該方法對將yolo目標檢測模型傳輸給邊緣設備的通信量以及網絡連接需求較高，使得在很多工程應用場景中有較大的局限性。

發明內容

為此，本發明實施例提供一種yolo目標檢測模型壓縮方法、系統及存儲介質，以解決上述背景技術中出現的至少一個問題。

為了實現上述目的，第一方面，本發明實施例提供了一種yolo目標檢測模型壓縮方法，包括如下步驟：

利用深度學習框架搭建yolo目標檢測模型；

對yolo目標檢測模型進行訓練，并保存訓練后的yolo目標檢測模型的模型參數；

利用模型參數，量化yolo目標檢測模型每層的輸出值，得到yolo目標檢測模型每層的輸出值的縮放尺度因子和偏置因子；

導出模型參數，并將yolo目標檢測模型的BN層和卷積層進行融合，得到融合后的yolo目標檢測模型；

對融合后的yolo目標檢測模型的模型參數進行量化，得到權重和偏置的縮放尺度因子和偏置因子；

根據yolo目標檢測模型每層的輸出值的縮放尺度因子和偏置因子，以及權重和偏置的縮放尺度因子和偏置因子，對融合后的yolo目標檢測模型的模型參數進行量化，得到融合后的yolo目標檢測模型的整體量化因子；

根據整體量化因子，搭建yolo的int8型目標檢測模型，得到通過int8參數進行前向推理的yolo目標檢測模型。

進一步地，利用深度學習框架搭建yolo目標檢測模型包括：

計算數據集的均值和標準差，并對數據集進行歸一化處理，得到預處理后的數據集；

寫出文件讀取函數，并利用文件讀取函數讀取yolo目標檢測模型各層的數據參數；

利用深度學習框架搭建yolo目標檢測模型的yolo層；

定義yolo層的模塊函數；

利用數據參數和模塊函數，搭建yolo目標檢測模型。

進一步地，對yolo目標檢測模型進行訓練包括：

利用數據集對yolo目標檢測模型進行N次訓練，其中N為整數，且N≥100；

對第N次訓練后的yolo目標檢測模型的平均精度進行測試；

若第N次訓練后的yolo目標檢測模型的平均精度大于或等于標準精度，則停止訓練。