[發(fā)明專利]一種yolo目標(biāo)檢測(cè)模型壓縮方法、系統(tǒng)及存儲(chǔ)介質(zhì)

在審

• 申請(qǐng)?zhí)枺?/td>: 202110795623.2
• 申請(qǐng)日: 2021-07-14
• 公開（公告）號(hào): CN113537340A
• 公開（公告）日: 2021-10-22
• 發(fā)明（設(shè)計(jì)）人: 李衛(wèi)東;劉平濤;羅博文;張招
• 申請(qǐng)（專利權(quán)）人: 深圳思悅創(chuàng)新有限公司;武漢萊克斯瑞科技發(fā)展有限公司
• 主分類號(hào): G06K9/62
• 分類號(hào): G06K9/62;G06N3/04;G06F17/16;G06F17/11
• 代理公司: 北京知呱呱知識(shí)產(chǎn)權(quán)代理有限公司 11577
• 代理人: 胡樂

1.一種yolo目標(biāo)檢測(cè)模型壓縮方法，其特征在于，包括如下步驟：

利用深度學(xué)習(xí)框架搭建yolo目標(biāo)檢測(cè)模型；

對(duì)所述yolo目標(biāo)檢測(cè)模型進(jìn)行訓(xùn)練，并保存訓(xùn)練后的yolo目標(biāo)檢測(cè)模型的模型參數(shù)；

利用所述模型參數(shù)，量化所述yolo目標(biāo)檢測(cè)模型每層的輸出值，得到所述yolo目標(biāo)檢測(cè)模型每層的輸出值的縮放尺度因子和偏置因子；

導(dǎo)出所述模型參數(shù)，并將所述yolo目標(biāo)檢測(cè)模型的BN層和卷積層進(jìn)行融合，得到融合后的yolo目標(biāo)檢測(cè)模型；

對(duì)所述融合后的yolo目標(biāo)檢測(cè)模型的模型參數(shù)進(jìn)行量化，得到權(quán)重和偏置的縮放尺度因子和偏置因子；

根據(jù)所述yolo目標(biāo)檢測(cè)模型每層的輸出值的縮放尺度因子和偏置因子，以及所述權(quán)重和偏置的縮放尺度因子和偏置因子，對(duì)所述融合后的yolo目標(biāo)檢測(cè)模型的模型參數(shù)進(jìn)行量化，得到所述融合后的yolo目標(biāo)檢測(cè)模型的整體量化因子；

根據(jù)所述整體量化因子，搭建yolo的int8型目標(biāo)檢測(cè)模型，得到通過int8參數(shù)進(jìn)行前向推理的yolo目標(biāo)檢測(cè)模型。

2.根據(jù)權(quán)利要求1所述的yolo目標(biāo)檢測(cè)模型壓縮方法，其特征在于，所述利用深度學(xué)習(xí)框架搭建yolo目標(biāo)檢測(cè)模型包括：

計(jì)算數(shù)據(jù)集的均值和標(biāo)準(zhǔn)差，并對(duì)所述數(shù)據(jù)集進(jìn)行歸一化處理，得到預(yù)處理后的數(shù)據(jù)集；

寫出文件讀取函數(shù)，并利用所述文件讀取函數(shù)讀取yolo目標(biāo)檢測(cè)模型各層的數(shù)據(jù)參數(shù)；

利用所述深度學(xué)習(xí)框架搭建所述yolo目標(biāo)檢測(cè)模型的yolo層；

定義所述yolo層的模塊函數(shù)；

利用所述數(shù)據(jù)參數(shù)和所述模塊函數(shù)，搭建所述yolo目標(biāo)檢測(cè)模型。

3.根據(jù)權(quán)利要求2所述的yolo目標(biāo)檢測(cè)模型壓縮方法，其特征在于，所述對(duì)所述yolo目標(biāo)檢測(cè)模型進(jìn)行訓(xùn)練包括：

利用所述數(shù)據(jù)集對(duì)所述yolo目標(biāo)檢測(cè)模型進(jìn)行N次訓(xùn)練，其中N為整數(shù)，且N≥100；

對(duì)第N次訓(xùn)練后的yolo目標(biāo)檢測(cè)模型的平均精度進(jìn)行測(cè)試；

若第N次訓(xùn)練后的yolo目標(biāo)檢測(cè)模型的平均精度大于或等于標(biāo)準(zhǔn)精度，則停止訓(xùn)練。

4.根據(jù)權(quán)利要求3所述的yolo目標(biāo)檢測(cè)模型壓縮方法，其特征在于，在所述停止訓(xùn)練之后還包括：

根據(jù)所述yolo目標(biāo)檢測(cè)模型的類型，選擇對(duì)應(yīng)的保存格式保存第N次訓(xùn)練后的yolo目標(biāo)檢測(cè)模型的模型參數(shù)。

5.根據(jù)權(quán)利要求1所述的yolo目標(biāo)檢測(cè)模型壓縮方法，其特征在于，對(duì)所述yolo目標(biāo)檢測(cè)模型進(jìn)行訓(xùn)練后得到的模型參數(shù)為浮點(diǎn)型，所述yolo的int8型目標(biāo)檢測(cè)模型的模型參數(shù)為int型。

6.根據(jù)權(quán)利要求1所述的yolo目標(biāo)檢測(cè)模型壓縮方法，其特征在于，所述根據(jù)所述整體量化因子，搭建yolo的int8型目標(biāo)檢測(cè)模型，得到通過int8參數(shù)進(jìn)行前向推理的yolo目標(biāo)檢測(cè)模型包括：

將所述yolo目標(biāo)檢測(cè)模型的浮點(diǎn)型卷積運(yùn)算轉(zhuǎn)換成int型卷積運(yùn)算，使浮點(diǎn)型矩陣轉(zhuǎn)換成int型矩陣；

將所述yolo目標(biāo)檢測(cè)模型中的卷積操作通過所述int型矩陣進(jìn)行卷積運(yùn)算；

通過將所述整體量化因子和int型矩陣卷積運(yùn)算后的輸出進(jìn)行相乘，并做截?cái)啵顾鰕olo目標(biāo)檢測(cè)模型中的運(yùn)算均為int型運(yùn)算，得到int型輸出值；

利用所述整體量化因子將浮點(diǎn)運(yùn)算轉(zhuǎn)換為整數(shù)運(yùn)算。

7.一種yolo目標(biāo)檢測(cè)模型壓縮系統(tǒng)，其特征在于，所述系統(tǒng)包括：處理器和存儲(chǔ)器；

所述存儲(chǔ)器用于存儲(chǔ)一個(gè)或多個(gè)程序指令；

所述處理器，用于運(yùn)行一個(gè)或多個(gè)程序指令，用以執(zhí)行如權(quán)利要求1-6任一項(xiàng)所述的方法。

8.一種計(jì)算機(jī)存儲(chǔ)介質(zhì)，其特征在于，所述計(jì)算機(jī)存儲(chǔ)介質(zhì)中包含一個(gè)或多個(gè)程序指令，所述一個(gè)或多個(gè)程序指令用于被一種yolo目標(biāo)檢測(cè)模型壓縮系統(tǒng)執(zhí)行如權(quán)利要求1-6任一項(xiàng)所述的方法。