[發明專利]基于剪枝卷積神經網絡的分類方法及相關設備

在審

• 申請號: 202210458103.7
• 申請日: 2022-04-27
• 公開（公告）號: CN114881135A
• 公開（公告）日: 2022-08-09
• 發明（設計）人: 陸強
• 申請（專利權）人: 際絡科技（上海）有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08
• 代理公司: 北京路浩知識產權代理有限公司 11002
• 代理人: 周淑娟

1.一種基于剪枝卷積神經網絡的分類方法，其特征在于，包括：

基于訓練數據以及訓練數據對應的標簽訓練得到預先訓練好的分類模型；

在預設的模型目標性能基礎上通過對所述預先訓練好的分類模型分別進行結構化剪枝與非結構化剪枝后得到剪枝后的分類模型；

獲取待分類的圖片；

將所述待分類的圖片輸入剪枝后的分類模型，得到對應的分類結果。

2.根據權利要求1所述的基于剪枝卷積神經網絡的分類方法，其特征在于，所述結構化剪枝包括卷積層剪枝與過濾器剪枝；

相應地，在預設的模型目標性能基礎上通過對所述預先訓練好的分類模型分別進行結構化剪枝與非結構化剪枝后得到剪枝后的分類模型，包括：

S1、對預先訓練好的分類模型中的每個卷積層的各個過濾器進行過濾器剪枝敏感度分析，得到滿足預設的模型目標性能的最大卷積層剪枝率；

S2、判斷所述最大卷積層剪枝率是否大于預設的卷積層剪枝率閾值；

在所述最大卷積層剪枝率大于預設的卷積層剪枝率閾值的情況下，對所述最大卷積層剪枝率所對應的卷積層進行卷積層剪枝；

在所述最大卷積層剪枝率不大于預設的卷積層剪枝率閾值的情況下，對所述最大卷積層剪枝率所對應的過濾器進行過濾器剪枝；

S3、重復所述S2直到窮盡所有最大卷積層剪枝率，從而得到第一剪枝后模型；

S4、對所述第一剪枝后模型進行非結構化剪枝，得到第二剪枝后模型作為剪枝后的分類模型。

3.根據權利要求2所述的基于剪枝卷積神經網絡的分類方法，其特征在于，所述對預先訓練好的分類模型中的每個卷積層的各個過濾器進行過濾器剪枝敏感度分析，得到滿足預設的模型目標性能的最大卷積層剪枝率，包括：

為每個卷積層配置待分析剪枝率集合；其中，所述待分析剪枝率集合包括多個待分析剪枝率；

依次計算每個卷積層在各個待分析剪枝率下的模型性能，并判斷計算得到的模型性能是否滿足所述預設的模型目標性能；

在計算得到的模型性能滿足所述預設的模型目標性能的情況下，將每個卷積層中數值最大的待分析剪枝率作為最大卷積層剪枝率。

4.根據權利要求2所述的基于剪枝卷積神經網絡的分類方法，其特征在于，所述非結構剪枝為卷積核剪枝；

相應地，所述S4、對所述第一剪枝后模型進行非結構化剪枝，得到第二剪枝后模型作為剪枝后的分類模型，包括：

S41、對所述第一剪枝后模型中所有權重進行規范化處理，得到規范后參數；

S42、按照數值大小對所述規范后參數進行排序，得到規范后參數序列；

S43、利用預定的權重剪枝定位方法，從所述規范后參數序列中確定待剪枝權重；

S44、判斷所述待剪枝權重對應的核剪枝率是否大于預設的核剪枝率閾值，

在所述待剪枝權重對應的核剪枝率大于預設的核剪枝率閾值的情況下，對所述核剪枝率對應的卷積核進行卷積核剪枝；

在所述待剪枝權重對應的核剪枝率不大于預設的核剪枝率閾值的情況下，對所述待剪枝權重進行權重剪枝；

S45、重復所述S44直到窮盡所有待剪枝權重，從而得到第二剪枝后模型，將第二剪枝后模型作為剪枝后的分類模型。

5.根據權利要求4所述的基于剪枝卷積神經網絡的分類方法，其特征在于，所述按照數值大小對所述規范后參數進行排序是從小到大對所述規范后參數進行排序，從而得到規范后參數序列；

相應地，所述S43、利用預定的權重剪枝定位方法，從所述規范后參數序列中確定待剪枝權重，包括：

S431、對所述規范后參數序列中前i個規范后參數進行剪枝，得到初始第二剪枝后模型，其中，i初始值為1且小于所述規范后參數序列中所有規范后參數的總數量；

S432、判斷所述初始第二剪枝后模型是否滿足所述預設的模型目標性能；

S433、在所述初始第二剪枝后模型滿足所述預設的模型目標性能的情況下，將i+1作為新的i，并重復所述S431至所述S432，直到所述初始第二剪枝后模型不滿足所述預設的模型目標性能，根據所述新的i將所述規范后參數序列中前i個規范后參數對應的權重確定為待剪枝權重。