[發(fā)明專利]網(wǎng)絡(luò)模型的剪枝量化處理方法、裝置、設(shè)備及存儲介質(zhì)

在審

• 申請?zhí)枺?/td>: 202110598683.5
• 申請日: 2021-05-31
• 公開（公告）號: CN113205158A
• 公開（公告）日: 2021-08-03
• 發(fā)明（設(shè)計(jì)）人: 詹雁;潘柳華;徐麟
• 申請（專利權(quán)）人: 上海眼控科技股份有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04
• 代理公司: 北京品源專利代理有限公司 11332
• 代理人: 孟金喆

1.一種網(wǎng)絡(luò)模型的剪枝量化處理方法，其特征在于，包括：

基于通道注意力機(jī)制和權(quán)重注意力機(jī)制對卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行剪枝處理；

對剪枝處理后的卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行二次剪枝處理；

對二次剪枝處理后的卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行量化操作。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述基于通道注意力機(jī)制和權(quán)重注意力機(jī)制對卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行剪枝處理，包括：

基于通道注意力機(jī)制對所述卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行剪枝處理，得到第一概率矩陣；

基于權(quán)重注意力機(jī)制和輸入圖像對所述卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行剪枝處理，得到第二概率矩陣；

根據(jù)所述第一概率矩陣和所述第二概率矩陣對所述卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行剪枝處理。

3.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述基于通道注意力機(jī)制對所述卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行剪枝處理，得到第一概率矩陣，包括：

對所述卷積神經(jīng)網(wǎng)絡(luò)的通道進(jìn)行降維變換，得到通道權(quán)重；

將所述通道與所述通道對應(yīng)的通道權(quán)重相乘，得到所述通道對應(yīng)的注意力矩陣；

利用第一函數(shù)和所述注意力矩陣獲取第一概率矩陣。

4.根據(jù)權(quán)利要求2所述的方法，其特征在于，基于權(quán)重注意力機(jī)制和輸入圖像對所述卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行剪枝處理，得到第二概率矩陣，包括：

對所述卷積神經(jīng)網(wǎng)絡(luò)中當(dāng)前卷積層輸出的特征圖像與所述當(dāng)前卷積層上一層的卷積層輸出的特征圖像進(jìn)行線性相加，得到特征圖像矩陣；

基于激活函數(shù)對所述特征圖像矩陣進(jìn)行非線性化處理；

基于卷積核對處理后的特征圖像矩陣進(jìn)行降維運(yùn)算，得到降維圖像矩陣；

利用第二函數(shù)獲取所述降維圖像矩陣的權(quán)重矩陣；

將所述權(quán)重矩陣與所述上一層的卷積層輸出的特征圖像相乘，得到乘積矩陣；

根據(jù)所述乘積矩陣和第一函數(shù)獲取第二概率矩陣。

5.根據(jù)權(quán)利要求2所述的方法，其特征在于，根據(jù)所述第一概率矩陣和所述第二概率矩陣對所述卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行剪枝處理，包括：

確定所述第一概率矩陣中小于第一閾值的通道數(shù)值；

從所述卷積神經(jīng)網(wǎng)絡(luò)中剔除所述通道數(shù)值對應(yīng)的通道，并將其余通道作為保留通道；

根據(jù)所述保留通道確定所述第二概率矩陣中相同的通道；

確定所述第二概率矩陣中相同的通道對應(yīng)的權(quán)重值中小于第二閾值的權(quán)重值，從所述卷積神經(jīng)網(wǎng)絡(luò)中剔除所述權(quán)重值。

6.根據(jù)權(quán)利要求1所述的方法，其特征在于，對剪枝處理后的卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行二次剪枝處理，包括：

刪除所述卷積神經(jīng)網(wǎng)絡(luò)模型的權(quán)重參數(shù)中小于剪枝閾值的權(quán)重參數(shù)。

7.根據(jù)權(quán)利要求1-6任一項(xiàng)所述的方法，其特征在于，對二次剪枝處理后的卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行量化操作，包括：

通過快速卷積算法、網(wǎng)絡(luò)層合并、多線程運(yùn)行中的至少之一對所述二次剪枝處理后的卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行量化處理。

8.一種網(wǎng)絡(luò)模型的剪枝量化處理裝置，其特征在于，包括：

剪枝模塊，用于基于通道注意力機(jī)制和權(quán)重注意力機(jī)制對卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行剪枝處理；

所述剪枝模塊，還用于對剪枝處理后的卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行二次剪枝處理；

量化模塊，用于對二次剪枝處理后的卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行量化操作。

9.一種電子設(shè)備，包括存儲器、處理器及存儲在存儲器上并可在處理器上運(yùn)行的計(jì)算機(jī)程序，其特征在于，所述處理器執(zhí)行所述計(jì)算機(jī)程序時，實(shí)現(xiàn)如權(quán)利要求1-7任一項(xiàng)所述的網(wǎng)絡(luò)模型的剪枝量化處理方法。

10.一種計(jì)算機(jī)可讀存儲介質(zhì)，其上存儲有計(jì)算機(jī)程序，其特征在于，所述計(jì)算機(jī)程序被處理器執(zhí)行時，實(shí)現(xiàn)如權(quán)利要求1-7任一項(xiàng)所述的網(wǎng)絡(luò)模型的剪枝量化處理方法。