[發明專利]一種針對圖像復原卷積神經網絡的壓縮方法及裝置

在審

• 申請號: 202011207721.1
• 申請日: 2020-11-03
• 公開（公告）號: CN112288829A
• 公開（公告）日: 2021-01-29
• 發明（設計）人: 金枝;肖潔;龐雨賢
• 申請（專利權）人: 中山大學
• 主分類號: G06T9/00
• 分類號: G06T9/00
• 代理公司: 深圳市創富知識產權代理有限公司 44367
• 代理人: 李思坪

1.一種針對圖像復原卷積神經網絡的壓縮方法，其特征在于，包括以下步驟：

獲取待壓縮的圖像復原卷積神經網絡并以非正方形卷積核的側窗核代替正方形卷積核，得到側窗核替換后的卷積神經網絡；

將側窗核替換后的卷積神經網絡的卷積層分解為通道方向空間卷積和線性投影卷積，得到卷積層分解后的卷積神經網絡；

基于對稱擴張卷積和注意力機制對卷積層分解后的卷積神經網絡進行性能補償，得到壓縮后的圖像復原卷積神經網絡。

2.根據權利要求1所述一種針對圖像復原卷積神經網絡的壓縮方法，其特征在于，所述側窗核包括上側窗核、下側窗核、左側窗核和右側窗核。

3.根據權利要求2所述一種針對圖像復原卷積神經網絡的壓縮方法，其特征在于，側窗核替換后的卷積神經網絡使用側窗核卷積的壓縮率計算公式如下：

所述CR₁表示使用側窗核卷積的壓縮率，所述N_in表示為輸入通道數，所述N_out表示為輸出通道數，所述k×k表示為原始卷積核尺寸，所述表示為側窗核尺寸。

4.根據權利要求3所述一種針對圖像復原卷積神經網絡的壓縮方法，其特征在于，所述基于對稱擴張卷積和注意力機制對卷積層分解后的卷積神經網絡進行性能補償，得到壓縮后的圖像復原卷積神經網絡這一步驟，其具體包括：

獲取卷積層分解后的卷積神經網絡并按預設規則對卷積層分解后的卷積神經網絡中的卷積層設置不同的擴張率；

在卷積層分解后的卷積神經網絡網絡末端添加注意力塊，得到壓縮后的圖像復原卷積神經網絡。

5.根據權利要求4所述一種針對圖像復原卷積神經網絡的壓縮方法，其特征在于，所述預設規則具體包括擴張卷積的擴張率為對稱且順序為先增加后減少，擴張卷積中每隔一段插入擴張率為1的卷積層。

6.根據權利要求5所述一種針對圖像復原卷積神經網絡的壓縮方法，其特征在于，所述注意力塊中的注意力機制包括加權步驟和縮放步驟。

7.根據權利要求6所述一種針對圖像復原卷積神經網絡的壓縮方法，其特征在于，所述加權步驟采用核大小為預設值的卷積層學習注意力圖，所述縮放步驟為對輸入特征圖和注意力圖之間進行矩陣點乘，生成輸出特征圖。

8.根據權利要求7所述一種針對圖像復原卷積神經網絡的壓縮方法，其特征在于，所述卷積層分解后的卷積神經網絡的壓縮率計算公式如下：

所述CR₂表示為卷積層分解后的卷積神經網絡的壓縮率，所述N_in表示為輸入通道數，所述N_out表示為輸出通道數，所述k×k表示為原始卷積核尺寸，所述表示為側窗核尺寸。

9.一種針對圖像復原卷積神經網絡的壓縮裝置，其特征在于，包括：

至少一個處理器；

至少一個存儲器，用于存儲至少一個程序；

當所述至少一個程序被所述至少一個處理器執行，使得所述至少一個處理器實現如權利要求1-8任一項所述一種針對圖像復原卷積神經網絡的壓縮方法。