[發明專利]針對超分辨率網絡的剪枝量化壓縮方法、系統及介質

有效

• 申請號: 202110660271.X
• 申請日: 2021-06-15
• 公開（公告）號: CN113379604B
• 公開（公告）日: 2022-09-20
• 發明（設計）人: 譚明奎;國雍;鄧澤帥
• 申請（專利權）人: 華南理工大學
• 主分類號: G06T3/40
• 分類號: G06T3/40;G06N3/04;G06N3/08
• 代理公司: 廣州嘉權專利商標事務所有限公司 44205
• 代理人: 鄭宏謀

1.一種針對超分辨率網絡的剪枝量化壓縮方法，其特征在于，包括以下步驟：

獲取原始超分辨率模型；

對原始超分辨率模型進行閉環對偶重構訓練；

對獲得訓練的原超分辨率模型進行閉環對偶剪枝，獲得剪枝模型；

對剪枝模型進行參數優化，獲得輕量的超分辨率剪枝模型；

對超分辨率剪枝模型進行量化壓縮，獲得壓縮超分辨率模型；

所述對原始超分辨率模型進行閉環對偶重構訓練，包括：

在原始超分辨率模型的回歸任務基礎上，增加一個對偶回歸任務，形成閉環對偶約束；

所述對偶回歸任務用于將重構圖片重新投影到低分辨率空間，所述重構圖片與原始圖片保持一致；

所述對獲得訓練的原超分辨率模型進行閉環對偶剪枝，包括：

將閉環對偶約束和特征重構損失函數進行結合，獲得結合損失函數；

在通道剪枝過程中，根據結合損失函數選擇保留通道或去除通道；

所述特征重構損失函數用于使得剪枝模型和原始超分辨率模型中間輸出的特征保持一致。

2.根據權利要求1所述的一種針對超分辨率網絡的剪枝量化壓縮方法，其特征在于，所述閉環對偶約束的目標函數為：

其中，N為訓練樣本對的數量，x_i和y_i是第i個樣本對中的低分辨率圖片和高分辨率圖片，||·||₁是L1范數。

3.根據權利要求1所述的一種針對超分辨率網絡的剪枝量化壓縮方法，其特征在于，所述特征重構損失函數的表達式為：

其中，和分別代表剪枝模型和原始超分辨率模型第l層卷積網絡的輸出特征。

4.根據權利要求1所述的一種針對超分辨率網絡的剪枝量化壓縮方法，其特征在于，所述對超分辨率剪枝模型進行量化壓縮，包括：

采用8比特線性量化方式，對超分辨率剪枝模型的參數進行量化壓縮，將模型參數數據類型從浮點數轉為8比特整數；

在量化壓縮過程中，采用閉環對偶約束和特征重構損失函數對超分辨率剪枝模型進行調優。

5.根據權利要求1所述的一種針對超分辨率網絡的剪枝量化壓縮方法，其特征在于，所述剪枝量化壓縮方法還包括獲取數據集的步驟，具體為：

采用DIV2K數據集和Flickr2K數據集作為訓練集；

采用Set5數據集、Set14數據集、BSDS100數據集、Urban10數據集以及Manga109數據集作為測試集；

其中，訓練集和測試集中的低分辨率圖片均是從原始高分辨率圖片進行特定倍數的bicubic下采樣獲得。

6.一種針對超分辨率網絡的剪枝量化壓縮系統，其特征在于，包括：

模型構建模塊，用于獲取原始超分辨率模型；

模型訓練模塊，用于對原始超分辨率模型進行閉環對偶重構訓練；

模型剪枝模塊，用于對獲得訓練的原超分辨率模型進行閉環對偶剪枝，獲得剪枝模型；

參數優化模塊，用于對剪枝模型進行參數優化，獲得輕量的超分辨率剪枝模型；

量化壓縮模塊，用于對超分辨率剪枝模型進行量化壓縮，獲得壓縮超分辨率模型；

所述對原始超分辨率模型進行閉環對偶重構訓練，包括：

在原始超分辨率模型的回歸任務基礎上，增加一個對偶回歸任務，形成閉環對偶約束；

所述對偶回歸任務用于將重構圖片重新投影到低分辨率空間，所述重構圖片與原始圖片保持一致；

所述對獲得訓練的原超分辨率模型進行閉環對偶剪枝，包括：

將閉環對偶約束和特征重構損失函數進行結合，獲得結合損失函數；

在通道剪枝過程中，根據結合損失函數選擇保留通道或去除通道；

所述特征重構損失函數用于使得剪枝模型和原始超分辨率模型中間輸出的特征保持一致。

7.一種針對超分辨率網絡的剪枝量化壓縮系統，其特征在于，包括：

至少一個處理器；

至少一個存儲器，用于存儲至少一個程序；

當所述至少一個程序被所述至少一個處理器執行，使得所述至少一個處理器實現權利要求1-5任一項所述方法。

8.一種存儲介質，其中存儲有處理器可執行的程序，其特征在于，所述處理器可執行的程序在由處理器執行時用于執行如權利要求1-5任一項所述方法。