[發明專利]神經網絡的通道剪枝方法及裝置、電子設備和存儲介質

有效

• 申請號: 202110637218.8
• 申請日: 2021-06-08
• 公開（公告）號: CN113255912B
• 公開（公告）日: 2022-07-12
• 發明（設計）人: 劉李洋;張士龍;曠章輝;王新江;陳益民;張偉
• 申請（專利權）人: 深圳市商湯科技有限公司
• 主分類號: G06N3/08
• 分類號: G06N3/08;G06N3/04
• 代理公司: 北京林達劉知識產權代理事務所(普通合伙) 11277
• 代理人: 劉新宇

1.一種用于圖像處理的神經網絡的通道剪枝方法，其特征在于，包括：

對神經網絡的網絡層進行分組，得到所述神經網絡的網絡層分組結果；

根據所述網絡層分組結果，對所述神經網絡的通道進行分組，得到所述神經網絡中的多個通道組；

通過所述神經網絡對訓練圖像進行處理，獲得所述訓練圖像對應的損失函數值；

基于所述訓練圖像對應的損失函數值，分別確定所述多個通道組的重要性值；

根據所述多個通道組的重要性值，對所述多個通道組中的至少一個通道組進行剪枝，得到剪枝后的神經網絡，其中，所述剪枝后的神經網絡用于圖像處理；

其中，所述根據所述多個通道組的重要性值，對所述多個通道組中的至少一個通道組進行剪枝，包括：

對于所述多個通道組中的任意一個通道組，確定所述通道組對應的顯存占用量，其中，所述通道組對應的顯存占用量表示所述通道組對應的特征圖所占用的顯存的容量；

根據所述顯存占用量，對所述通道組的重要性值進行歸一化，得到所述通道組的歸一化的重要性值；

根據所述多個通道組的歸一化的重要性值，對所述多個通道組中的至少一個通道組進行剪枝。

2.根據權利要求1所述的方法，其特征在于，所述對神經網絡的網絡層進行分組，得到所述神經網絡的網絡層分組結果，包括：

確定神經網絡中的多個待分組網絡層的父網絡層；

根據所述多個待分組網絡層的父網絡層，對所述多個待分組網絡層進行分組，得到所述神經網絡的網絡層分組結果。

3.根據權利要求2所述的方法，其特征在于，所述根據所述多個待分組網絡層的父網絡層，對所述多個待分組網絡層進行分組，包括：

響應于所述多個待分組網絡層中的第一待分組網絡層和第二待分組網絡層具有共同的父網絡層，將所述第一待分組網絡層和所述第二待分組網絡層劃分至同一網絡層組，其中，所述第一待分組網絡層和所述第二待分組網絡層為所述多個待分組網絡層中的任意兩個待分組網絡層；

和/或，

響應于所述第一待分組網絡層為第一預設類型的網絡層，且所述第一待分組網絡層為所述第二待分組網絡層的父網絡層，將所述第一待分組網絡層和所述第二待分組網絡層劃分至同一網絡層組。

4.根據權利要求3所述的方法，其特征在于，所述第一預設類型的網絡層包括分組卷積層和/或深度可分離卷積層。

5.根據權利要求1至4中任意一項所述的方法，其特征在于，所述基于所述訓練圖像對應的損失函數值，分別確定所述多個通道組的重要性值，包括：

對于所述多個通道組中的任意一個通道組，根據所述訓練圖像對應的損失函數值在所述通道組中的通道的掩碼上的梯度，確定所述通道組的重要性值。

6.根據權利要求1至4中任意一項所述的方法，其特征在于，所述對于所述多個通道組中的任意一個通道組，確定所述通道組對應的顯存占用量，包括：

對于所述多個通道組中的任意一個通道組，根據所述通道組中的通道對應的特征圖的數量、特征圖的高度和特征圖的寬度中的至少之一，確定所述通道組對應的顯存占用量。

7.根據權利要求1或4所述的方法，其特征在于，所述神經網絡進行多次迭代；

所述根據所述多個通道組的歸一化的重要性值，對所述多個通道組中的至少一個通道組進行剪枝，包括：

根據所述多個通道組的至少兩次迭代的歸一化的重要性值，確定所述多個通道組的累積重要性值；

根據所述多個通道組的累積重要性值，對所述多個通道組中的至少一個通道組進行剪枝。

8.根據權利要求7所述的方法，其特征在于，所述根據所述多個通道組的累積重要性值，對所述多個通道組中的至少一個通道組進行剪枝，包括：

響應于本次迭代與上一次進行剪枝的迭代之間的迭代次數達到預設的間隔迭代數，根據所述多個通道組的累積重要性值，對所述多個通道組中的至少一個通道組進行剪枝，其中，所述預設的間隔迭代數大于0。