[發(fā)明專利]網(wǎng)絡(luò)模型的剪枝量化處理方法、裝置、設(shè)備及存儲(chǔ)介質(zhì)

在審

• 申請(qǐng)?zhí)枺?/td>: 202110598683.5
• 申請(qǐng)日: 2021-05-31
• 公開（公告）號(hào): CN113205158A
• 公開（公告）日: 2021-08-03
• 發(fā)明（設(shè)計(jì)）人: 詹雁;潘柳華;徐麟
• 申請(qǐng)（專利權(quán)）人: 上海眼控科技股份有限公司
• 主分類號(hào): G06K9/62
• 分類號(hào): G06K9/62;G06N3/04
• 代理公司: 北京品源專利代理有限公司 11332
• 代理人: 孟金喆

本申請(qǐng)公開了一種網(wǎng)絡(luò)模型的剪枝量化處理方法、裝置、設(shè)備及存儲(chǔ)介質(zhì)，該方法可以包括：基于通道注意力機(jī)制和權(quán)重注意力機(jī)制對(duì)卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行剪枝處理；對(duì)剪枝處理后的卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行二次剪枝處理；對(duì)二次剪枝處理后的卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行量化操作。通過(guò)這樣的處理方式可以剔除卷積神經(jīng)網(wǎng)絡(luò)模型中貢獻(xiàn)量小的參數(shù)，實(shí)現(xiàn)以較少的參數(shù)量接近原始模型的精度的前提下，保證網(wǎng)絡(luò)模型的響應(yīng)速度。

技術(shù)領(lǐng)域

本申請(qǐng)實(shí)施例涉及網(wǎng)絡(luò)模型處理領(lǐng)域，尤其涉及一種網(wǎng)絡(luò)模型的剪枝量化處理方法、裝置、設(shè)備及存儲(chǔ)介質(zhì)。

背景技術(shù)

執(zhí)法記錄儀器是一種集實(shí)時(shí)錄音、拍照、攝像等功能為一體的便攜式設(shè)備，可以廣泛應(yīng)用于公安(例如，交警、治安、消防、刑偵等)、交通、城管、司法等執(zhí)法單位的現(xiàn)場(chǎng)執(zhí)法或者其他任務(wù)中去，對(duì)實(shí)時(shí)錄制執(zhí)法過(guò)程、異常事件檢測(cè)以及特殊事件的回溯取證發(fā)揮重要的作用。但是作為移動(dòng)端設(shè)備，在算力有限的情況下，能夠?qū)Ξ惓Ｊ录l(fā)出快速響應(yīng)，實(shí)現(xiàn)快速反饋成為需要解決的突出問(wèn)題。

發(fā)明內(nèi)容

本申請(qǐng)?zhí)峁┝艘环N網(wǎng)絡(luò)模型的剪枝量化處理方法、裝置、設(shè)備及存儲(chǔ)介質(zhì)，可以剔除卷積神經(jīng)網(wǎng)絡(luò)模型中貢獻(xiàn)量小的參數(shù)，實(shí)現(xiàn)以較少的參數(shù)量接近原始模型的精度的前提下，保證網(wǎng)絡(luò)模型的響應(yīng)速度。

第一方面，本申請(qǐng)實(shí)施例提供了一種網(wǎng)絡(luò)模型的剪枝量化處理方法，該方法包括：

基于通道注意力機(jī)制和權(quán)重注意力機(jī)制對(duì)卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行剪枝處理；

對(duì)剪枝處理后的卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行二次剪枝處理；

對(duì)二次剪枝處理后的卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行量化操作。

可選地，所述基于通道注意力機(jī)制和權(quán)重注意力機(jī)制對(duì)卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行剪枝處理，包括：

基于通道注意力機(jī)制對(duì)所述卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行剪枝處理，得到第一概率矩陣；

基于權(quán)重注意力機(jī)制和輸入圖像對(duì)所述卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行剪枝處理，得到第二概率矩陣；

根據(jù)所述第一概率矩陣和所述第二概率矩陣對(duì)所述卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行剪枝處理。

可選地，所述基于通道注意力機(jī)制對(duì)所述卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行剪枝處理，得到第一概率矩陣，包括：

對(duì)所述卷積神經(jīng)網(wǎng)絡(luò)的通道進(jìn)行降維變換，得到通道權(quán)重；

將所述通道與所述通道對(duì)應(yīng)的通道權(quán)重相乘，得到所述通道對(duì)應(yīng)的注意力矩陣；

利用第一函數(shù)和所述注意力矩陣獲取第一概率矩陣。

可選地，基于權(quán)重注意力機(jī)制和輸入圖像對(duì)所述卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行剪枝處理，得到第二概率矩陣，包括：

對(duì)所述卷積神經(jīng)網(wǎng)絡(luò)中當(dāng)前卷積層輸出的特征圖像與所述當(dāng)前卷積層上一層的卷積層輸出的特征圖像進(jìn)行線性相加，得到特征圖像矩陣；

基于激活函數(shù)對(duì)所述特征圖像矩陣進(jìn)行非線性化處理；

基于卷積核對(duì)處理后的特征圖像矩陣進(jìn)行降維運(yùn)算，得到降維圖像矩陣；

利用第二函數(shù)獲取所述降維圖像矩陣的權(quán)重矩陣；

將所述權(quán)重矩陣與所述上一層的卷積層輸出的特征圖像相乘，得到乘積矩陣；

根據(jù)所述乘積矩陣和第一函數(shù)獲取第二概率矩陣。

可選地，根據(jù)所述第一概率矩陣和所述第二概率矩陣對(duì)所述卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行剪枝處理，包括：

確定所述第一概率矩陣中小于第一閾值的通道數(shù)值；

從所述卷積神經(jīng)網(wǎng)絡(luò)中剔除所述通道數(shù)值對(duì)應(yīng)的通道，并將其余通道作為保留通道；

根據(jù)所述保留通道確定所述第二概率矩陣中相同的通道；