[發明專利]特征提取模塊壓縮方法、圖像處理方法、裝置、介質

在審

• 申請號: 202011278495.6
• 申請日: 2020-11-16
• 公開（公告）號: CN112287950A
• 公開（公告）日: 2021-01-29
• 發明（設計）人: 羅壯;何云龍
• 申請（專利權）人: 北京沃東天駿信息技術有限公司;北京京東世紀貿易有限公司
• 主分類號: G06K9/46
• 分類號: G06K9/46;G06K9/62;G06N3/04;G06N3/08
• 代理公司: 北京律智知識產權代理有限公司 11438
• 代理人: 王輝;闞梓瑄

1.一種特征提取模塊壓縮方法，其特征在于，包括：

獲取待壓縮的特征提取模塊；

從所述待壓縮的特征提取模塊中確定一個或多個待剪枝層數據；

利用強化學習模型加載所述特征提取模塊，并在每個所述待剪枝層數據下，確定當前的剪枝狀態數據；

基于所述剪枝狀態數據，確定每個所述待剪枝層數據的剪枝動作數據；

根據每個所述待剪枝層數據的剪枝動作數據對所述待壓縮的特征提取模塊的數據進行剪枝，以得到數據壓縮后的特征提取模塊。

2.根據權利要求1所述的方法，其特征在于，所述特征提取模塊為卷積神經網絡；

所述從所述待壓縮的特征提取模塊中確定一個或多個待剪枝層數據，包括：

將所述待壓縮的卷積神經網絡中的批歸一化層數據確定為待剪枝層數據。

3.根據權利要求2所述的方法，其特征在于，在利用強化學習模型加載所述特征提取模塊前，所述方法還包括：

對所述批歸一化層數據的尺度系數進行正則化約束。

4.根據權利要求1所述的方法，其特征在于，所述利用強化學習模型加載所述特征提取模塊包括：

利用初始的強化學習模型加載所述特征提取模塊；

對于每個所述待剪枝層數據，通過以下步驟訓練強化學習模型：

確定當前待剪枝層數據的剪枝狀態數據；

通過所述強化學習模型輸出當前的剪枝狀態數據對應的當前的剪枝動作數據；

計算當前的剪枝動作數據對應的獎勵值，根據所述獎勵值更新所述強化學習模型的參數；

在完成訓練所述強化學習模型后，將所述特征提取模塊輸入所述強化學習模型，以輸出每個所述待剪枝層數據的剪枝動作數據。

5.根據權利要求4所述的方法，其特征在于，所述當前的剪枝狀態數據包括以下任意一種或多種：

當前待剪枝層數據在全部待剪枝層數據中的序數；

當前待剪枝層數據的參數量占全部待剪枝層數據的總參數量的比例；

在當前待剪枝層數據之前，已確定裁剪的參數量占全部待剪枝層數據的總參數量的比例；

在當前待剪枝層數據之后，需要裁剪的參數量占全部待剪枝層數據的總參數量的比例。

6.根據權利要求4所述的方法，其特征在于，計算當前的剪枝動作數據對應的獎勵值，包括：

采用當前的剪枝動作數據對所述特征提取模塊進行剪枝，得到中間特征提取模塊；

計算所述中間特征提取模塊的準確率損失值和參數裁剪值；

根據所述準確率損失值和參數裁剪值確定當前的剪枝動作數據對應的獎勵值。

7.根據權利要求6所述的方法，其特征在于，所述根據所述準確率損失值和參數裁剪值確定當前的剪枝動作數據對應的獎勵值，包括：

當所述準確率損失值大于第一閾值時，確定所述獎勵值為第一預設值，所述第一預設值小于0；

當所述準確率損失值處于0到所述第一閾值以內、且所述參數裁減值小于第二閾值時，確定所述獎勵值為第二預設值，所述第二預設值大于所述第一閾值且小于0；

當所述準確率損失值處于0到所述第一閾值以內、且所述參數裁減值大于等于所述第二閾值時，確定所述獎勵值為所述參數裁減值；

當所述準確率損失值小于0時，確定所述獎勵值為所述準確率損失值和參數裁剪值之和。

8.根據權利要求1-7任一項所述的方法，其特征在于，所述特征提取模塊為圖像處理模型、語音處理模型、或目標檢測模型中的任意一種。

9.一種圖像處理方法，其特征在于，包括：

獲取待處理圖像，并提取所述待處理圖像中的特征數據；

確定初始圖像處理模型，并根據權利要求1至7任一項所述的方法，對所述初始圖像處理模型進行壓縮，得到目標圖像處理模型；

基于所述目標圖像處理模型對所述特征數據進行處理，得到所述待處理圖像的處理結果。