[發明專利]一種基于注意力機制的脈沖卷積神經網絡的圖像分類方法

在審

• 申請號: 202010517660.2
• 申請日: 2020-06-09
• 公開（公告）號: CN111858989A
• 公開（公告）日: 2020-10-30
• 發明（設計）人: 趙雪青;張軍軍
• 申請（專利權）人: 西安工程大學
• 主分類號: G06F16/55
• 分類號: G06F16/55;G06N3/04;G06N3/08
• 代理公司: 西安弘理專利事務所 61214
• 代理人: 燕肇琪

本發明公開一種基于注意力機制的脈沖卷積神經網絡的圖像分類方法，其特征在于，具體的步驟為：步驟1，下載數據集；步驟2，對數據集進行預處理，得到預處理數據集；步驟3，建立脈沖卷積神經網絡模型，所述脈沖卷積神經網絡模型采用漏積分點火神經元模型；步驟4，采用所述脈沖卷積神經網絡模型對預處理數據集進行訓練，得到訓練好的脈沖卷積神經網絡模型；步驟5，輸入待分類的圖片，采用訓練好的脈沖卷積神經網絡模型對待分類進行分類，得到分類結果。本發明解決了現有技術中存在的圖片分類效果不好的問題。

技術領域

本發明屬于圖像分類技術領域，涉及一種基于注意力機制的脈沖卷積神經網絡的圖像分類方法。

背景技術

視覺注意力機制是人類視覺所特有的大腦信號處理機制。大腦在進行視覺任務時，總是會優先獲取認為有用的信息，而將次要的內容直接拋棄。注意力機制具有使神經網絡只專注于選擇特定的特征輸入的能力。應用注意力機制，可以提高神經網絡信息處理的效率和準確率。目前注意力機制在深度學習領域應用廣泛且取得了不錯的效果。

圖像分類是計算機視覺領域的基本研究問題，對圖像分類的研究具有廣泛的應用價值。傳統圖像分類技術需要消耗大量時間來進行人工特征的提取，算法的效率低下。隨著計算機計算能力的提升，GPU加速技術的發展，深度卷積神經網絡在圖像分類問題上取得了質的飛躍。但由于卷積神經網絡深度和復雜度的不斷提高，需要大量的計算成本和存儲需求，導致卷積神經網絡在處理圖像問題上功耗往往比較高，阻礙了卷積神經網絡在實際應用上的發展。雖然已有許多研究通過改進網絡優化算法，提高了參數的尋優能力，但也無法在不丟失大量精度的前提下降低網絡參數的復雜度。如何做到分類準確率高、低功耗且適用于硬件的人工神經網絡，是目前圖像分類所要解決的問題。

被稱為第三代神經網絡的脈沖神經網絡是目前最具有生物解釋性的人工神經網絡，是類腦智能領域的核心組成部分。生物學研究表明，生物神經元實際上是以一種電脈沖的形式來進行信息交流的，生物能夠快速的對外界刺激做出反應是因為生物神經網絡的信息傳遞依賴于具體的脈沖時間。基于此，Maass提出了基于脈沖神經元的新型神經網絡，即脈沖神經網絡。從理論上來說，相比于傳統神經網絡，脈沖神經網絡更加強大。現有的利用脈沖神經網絡處理圖像分類問題中，僅使用一層脈沖神經網絡應用于圖像，很難模擬大腦特性，很難得到更好的分類效果。

發明內容

本發明的目的是提供一種基于注意力機制的脈沖卷積神經網絡的圖像分類方法，解決了現有技術中存在的圖片分類效果不好的問題。

本發明所采用的技術方案是，

一種基于注意力機制的脈沖卷積神經網絡的圖像分類方法，具體的步驟為：

步驟1，下載數據集；

步驟2，對數據集進行預處理，得到預處理數據集；

步驟3，建立脈沖卷積神經網絡模型，所述脈沖卷積神經網絡模型的拓撲結構為依次連接的輸入層、高斯差分時序編碼層、第一脈沖卷積注意力層、第一脈沖池化層、第二脈沖卷積注意力層、第二脈沖池化層、分類層；所述脈沖卷積神經網絡模型采用漏積分點火神經元模型；

步驟4，采用所述脈沖卷積神經網絡模型對預處理數據集進行訓練，得到訓練好的脈沖卷積神經網絡模型；

步驟5，輸入待分類的圖片，采用訓練好的脈沖卷積神經網絡模型對待分類進行分類，得到分類結果。

本發明的特點還在于，

所述漏積分點火神經元模型中膜電位V_m(t)的變化過程由一個一階微分方程描述，如公式(1)所示：