[發明專利]基于離散小波變換的雙向特征融合深度卷積神經網絡構建方法

有效

• 申請號: 202110760099.5
• 申請日: 2021-07-05
• 公開（公告）號: CN113435376B
• 公開（公告）日: 2023-04-18
• 發明（設計）人: 李亞峰;孫潔琪;張文博;劉鵬輝
• 申請（專利權）人: 寶雞文理學院
• 主分類號: G06V10/80
• 分類號: G06V10/80;G06V10/82;G06V10/764;G06N3/045;G06N3/0464;G06N3/08
• 代理公司: 北京精金石知識產權代理有限公司 11470
• 代理人: 強紅剛

本發明公開了一種基于離散小波變換的雙向特征融合深度卷積神經網絡構建方法，屬于圖像分類和人工智能技術領域。該方法包括以下具體步驟：S101、構建雙向特征融合模塊，所述雙向特征融合模塊由空域特征融合模塊，池化操作以及通道域特征融合模塊構成；S102、將雙向特征融合模塊嵌入到主流網絡架構中替換原始池化方法；S103、利用嵌入到主流網絡架構中的雙向特征融合模塊的網絡在經典圖像分類數據集上進行特征圖訓練及測試。本發明利用離散小波變換和逆離散小波變換給出一種新穎的空域特征融合方法，能夠有效抑制直接使用池化操作帶來的信息損失問題并提高圖像的分類精確率。

技術領域

本發明屬于圖像分類和人工智能技術領域，具體為一種基于離散小波變換的雙向特征融合深度卷積神經網絡構建方法。

背景技術

深度卷積神經網絡目前已成為圖像分類、目標檢測和圖像恢復等計算機視覺任務和圖像處理任務的重要工具之一。池化層是深度卷積神經網絡的重要組成部分，它可以增大網絡的感受野、降低網絡的復雜度，增加網絡非線性及提高模型泛化能力。在深度卷積神經網絡中，常用的池化方法有最大池化、平均池化、混合池化及隨機池化等。其中，經典的最大池化和平均池化，因其設計原理簡潔高效而被廣泛應用于深度卷積神經網絡中。然而這兩類池化操作的一個主要局限性是隨著圖像分辨率的降低導致圖像中部分特征信息丟失和弱化。混合池化和隨機池化通過利用概率統計的方式建立起最大池化和平均池化之間的聯系。盡管混合池化和隨機池化繼承了平均池化和最大池化的優勢，但仍存在信息丟失和弱化問題。深度卷積神經網絡在提取特征的過程中池化操作引起的特征信息丟失和弱化將會直接影響網絡的表達能力，分類的準確率也同樣受到影響。

研究者們針對池化操作的特征信息丟失問題進行了不斷的改進。帶步長的卷積在不丟棄數據的同時降低特征圖的分辨率，但步長卷積使得訓練網絡的計算量和參數量大幅增加。研究者還觀察到，直接進行下采樣的池化操作忽略了低頻特征和高頻特征在空域與通道間的位置分布差異，造成了頻域特征間的混疊效應。因此，提出先利用低通濾波去除高頻特征再進行下采樣，能夠有效地避免混疊效應。由于特征圖中的高頻部分包含了大量的細節信息和邊緣信息，將高頻特征直接舍棄依然會造成特征信息丟失問題，并影響網絡的表達能力。

為了解決上述問題，我們提出了一種基于離散小波變換的雙向特征融合深度卷積神經網絡構建方法。

發明內容

針對現有技術的不足，本發明提供了一種基于離散小波變換的雙向特征融合深度卷積神經網絡構建方法，以解決上述背景技術中提出的問題。

為實現上述目的，本發明提供如下技術方案：一種基于離散小波變換的雙向特征融合深度卷積神經網絡構建方法，包括以下具體步驟：

S101、構建基于離散小波變換及逆離散小波變換的雙向特征融合模塊，所述雙向特征融合模塊由空域特征融合模塊，池化操作以及通道域特征融合模塊構成；

S102、將雙向特征融合模塊嵌入到主流網絡架構中替換原始池化方法；

S103、利用嵌入到主流網絡架構中的雙向特征融合模塊的深度卷積神經網絡在經典圖像分類數據集上進行特征圖訓練及測試。

進一步優化本技術方案，所述空域特征融合模塊在實現空域特征間的融合時包括以下步驟：

S201、利用離散小波變換分解輸入特征，得到低頻特征、水平方向的高頻特征、垂直方向的高頻特征以及對角方向的高頻特征；

S202、利用逆離散小波變換分組重構，得到與原始特征空域維度相同的四類特征，以實現空域特征間的融合。

進一步優化本技術方案，所述分組重構是指對低頻特征單頻重構，低頻和水平方向高頻進行重構，低頻和垂直方向高頻進行重構及低頻和對角方向高頻進行重構。

進一步優化本技術方案，所述空域特征融合模塊得到的四組特征為空域特征且分布特征近似，對損失函數影響相當，同時對于從空域獲取到的四組融合特征，分別對其進行池化。