[發(fā)明專利]神經(jīng)網(wǎng)絡(luò)的通道剪枝方法及裝置、電子設(shè)備和存儲(chǔ)介質(zhì)

有效

• 申請(qǐng)?zhí)枺?/td>: 202110637218.8
• 申請(qǐng)日: 2021-06-08
• 公開（公告）號(hào): CN113255912B
• 公開（公告）日: 2022-07-12
• 發(fā)明（設(shè)計(jì)）人: 劉李洋;張士龍;曠章輝;王新江;陳益民;張偉
• 申請(qǐng)（專利權(quán)）人: 深圳市商湯科技有限公司
• 主分類號(hào): G06N3/08
• 分類號(hào): G06N3/08;G06N3/04
• 代理公司: 北京林達(dá)劉知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11277
• 代理人: 劉新宇

本公開涉及一種神經(jīng)網(wǎng)絡(luò)的通道剪枝方法及裝置、電子設(shè)備和存儲(chǔ)介質(zhì)。所述方法包括：對(duì)神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)層進(jìn)行分組，得到所述神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)層分組結(jié)果；根據(jù)所述網(wǎng)絡(luò)層分組結(jié)果，對(duì)所述神經(jīng)網(wǎng)絡(luò)的通道進(jìn)行分組，得到所述神經(jīng)網(wǎng)絡(luò)中的多個(gè)通道組；通過所述神經(jīng)網(wǎng)絡(luò)對(duì)訓(xùn)練圖像進(jìn)行處理，獲得所述訓(xùn)練圖像對(duì)應(yīng)的損失函數(shù)值；基于所述訓(xùn)練圖像對(duì)應(yīng)的損失函數(shù)值，分別確定所述多個(gè)通道組的重要性值；根據(jù)所述多個(gè)通道組的重要性值，對(duì)所述多個(gè)通道組中的至少一個(gè)通道組進(jìn)行剪枝，得到剪枝后的神經(jīng)網(wǎng)絡(luò)，其中，所述剪枝后的神經(jīng)網(wǎng)絡(luò)用于圖像處理。

技術(shù)領(lǐng)域

本公開涉及圖像處理技術(shù)領(lǐng)域，尤其涉及一種神經(jīng)網(wǎng)絡(luò)的通道剪枝方法及裝置、電子設(shè)備和存儲(chǔ)介質(zhì)。

背景技術(shù)

用于圖像處理的深度學(xué)習(xí)模型與用于圖像處理的非深度學(xué)習(xí)模型相比，通常能夠取得更高的圖像處理的準(zhǔn)確率。然而，用于圖像處理的深度學(xué)習(xí)模型通常需要耗費(fèi)大量的顯存和計(jì)算資源，導(dǎo)致難以在缺乏高端硬件的邊緣設(shè)備上部署。另外，用于圖像處理的深度學(xué)習(xí)模型的能耗較大且延遲較嚴(yán)重，導(dǎo)致可能限制云服務(wù)的吞吐量。對(duì)用于圖像處理的神經(jīng)網(wǎng)絡(luò)進(jìn)行通道剪枝，是指在可以接受的圖像處理準(zhǔn)確率損失的前提下，盡可能地提升神經(jīng)網(wǎng)絡(luò)進(jìn)行圖像處理的推理效率。

發(fā)明內(nèi)容

本公開提供了一種神經(jīng)網(wǎng)絡(luò)的通道剪枝技術(shù)方案。

根據(jù)本公開的一方面，提供了一種神經(jīng)網(wǎng)絡(luò)的通道剪枝方法，包括：

對(duì)神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)層進(jìn)行分組，得到所述神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)層分組結(jié)果；

根據(jù)所述網(wǎng)絡(luò)層分組結(jié)果，對(duì)所述神經(jīng)網(wǎng)絡(luò)的通道進(jìn)行分組，得到所述神經(jīng)網(wǎng)絡(luò)中的多個(gè)通道組；

通過所述神經(jīng)網(wǎng)絡(luò)對(duì)訓(xùn)練圖像進(jìn)行處理，獲得所述訓(xùn)練圖像對(duì)應(yīng)的損失函數(shù)值；

基于所述訓(xùn)練圖像對(duì)應(yīng)的損失函數(shù)值，分別確定所述多個(gè)通道組的重要性值；

根據(jù)所述多個(gè)通道組的重要性值，對(duì)所述多個(gè)通道組中的至少一個(gè)通道組進(jìn)行剪枝，得到剪枝后的神經(jīng)網(wǎng)絡(luò)，其中，所述剪枝后的神經(jīng)網(wǎng)絡(luò)用于圖像處理。

通過對(duì)神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)層進(jìn)行分組，得到所述神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)層分組結(jié)果，根據(jù)所述網(wǎng)絡(luò)層分組結(jié)果，對(duì)所述神經(jīng)網(wǎng)絡(luò)的通道進(jìn)行分組，得到所述神經(jīng)網(wǎng)絡(luò)中的多個(gè)通道組，通過所述神經(jīng)網(wǎng)絡(luò)對(duì)訓(xùn)練圖像進(jìn)行處理，獲得所述訓(xùn)練圖像對(duì)應(yīng)的損失函數(shù)值，基于所述訓(xùn)練圖像對(duì)應(yīng)的損失函數(shù)值，分別確定所述多個(gè)通道組的重要性值，并根據(jù)所述多個(gè)通道組的重要性值，對(duì)所述多個(gè)通道組中的至少一個(gè)通道組進(jìn)行剪枝，得到剪枝后的神經(jīng)網(wǎng)絡(luò)，其中，所述剪枝后的神經(jīng)網(wǎng)絡(luò)用于圖像處理，由此在對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行通道剪枝的過程中，能夠充分利用所述神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)信息進(jìn)行通道分組，并以通道組為最小剪枝單位進(jìn)行通道剪枝，從而有助于剪枝后的神經(jīng)網(wǎng)絡(luò)在維持圖像處理準(zhǔn)確率的前提下，達(dá)到更高的圖像處理速度。

在一種可能的實(shí)現(xiàn)方式中，所述對(duì)神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)層進(jìn)行分組，得到所述神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)層分組結(jié)果，包括：

確定神經(jīng)網(wǎng)絡(luò)中的多個(gè)待分組網(wǎng)絡(luò)層的父網(wǎng)絡(luò)層；

根據(jù)所述多個(gè)待分組網(wǎng)絡(luò)層的父網(wǎng)絡(luò)層，對(duì)所述多個(gè)待分組網(wǎng)絡(luò)層進(jìn)行分組，得到所述神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)層分組結(jié)果。

通過采用該實(shí)現(xiàn)方式，能夠準(zhǔn)確地確定所述神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)層之間的數(shù)據(jù)傳遞關(guān)系，從而有助于實(shí)現(xiàn)快速準(zhǔn)確的網(wǎng)絡(luò)層分組。

在一種可能的實(shí)現(xiàn)方式中，所述根據(jù)所述多個(gè)待分組網(wǎng)絡(luò)層的父網(wǎng)絡(luò)層，對(duì)所述多個(gè)待分組網(wǎng)絡(luò)層進(jìn)行分組，包括：

響應(yīng)于所述多個(gè)待分組網(wǎng)絡(luò)層中的第一待分組網(wǎng)絡(luò)層和第二待分組網(wǎng)絡(luò)層具有共同的父網(wǎng)絡(luò)層，將所述第一待分組網(wǎng)絡(luò)層和所述第二待分組網(wǎng)絡(luò)層劃分至同一網(wǎng)絡(luò)層組，其中，所述第一待分組網(wǎng)絡(luò)層和所述第二待分組網(wǎng)絡(luò)層為所述多個(gè)待分組網(wǎng)絡(luò)層中的任意兩個(gè)待分組網(wǎng)絡(luò)層；

和/或，