[發明專利]一種基于隨機計算和稀疏計算的圖像識別卷積層結構

在審

• 申請號: 202210093892.9
• 申請日: 2022-01-26
• 公開（公告）號: CN114429553A
• 公開（公告）日: 2022-05-03
• 發明（設計）人: 熊興中;董亞;駱忠強
• 申請（專利權）人: 四川輕化工大學
• 主分類號: G06V10/44
• 分類號: G06V10/44;G06V10/764;G06V10/82;G06K9/62;G06N3/04;G06N3/08
• 代理公司: 西安銘澤知識產權代理事務所(普通合伙) 61223
• 代理人: 韓曉娟

本發明公開了一種基于隨機計算和稀疏計算的圖像識別卷積層結構，涉及深度學習技術領域，通過稀疏計算對輸入的圖像特征圖和對應的權值進行稀疏化處理，將稀疏化處理結果中出非零值傳入到隨機計算模塊完成乘累加運算，最后，利用稀疏計算和隨機計算搭建高效并行的卷積層結構，進行卷積，輸出卷積結果；本發明提供的一種基于隨機計算和稀疏計算的圖像識別卷積層結構，構建基于隨機計算和稀疏計算的低復雜度卷積層架構，保障卷積運算精度的同時，降低硬件實現的復雜度，使輸入的圖像特征圖和權重稀疏帶來的加速優勢被充分利用。

技術領域

本發明涉及深度學習技術領域，特別涉及一種基于隨機計算和稀疏計算的圖像識別卷積層結構。

背景技術

卷積神經網絡(CNN)作為深度學習中最重要的模型之一，廣泛應用于圖像識別、語音識別、計算機視覺等領域。一般來說，神經網絡層數越多，所需要的參數增多，在進行前向推理時得到的準確率就越高。然而，網絡層數和參數量的增長也意味著消耗的計算資源和存儲資源就越多。從觀察卷積神經網絡的眾多參數中，發現部分參數，如零值，對最終的輸出結果影響不大，可以在進行運算時剪枝掉以減少存儲空間。

由于卷積神經網絡需要大量的存儲空間存儲數據，尤其是在進行計算時，其龐大的計算量阻礙了它發展的步伐，因此，如何減少卷積神經網絡計算量是深度學習中較為受歡迎的研究思路。卷積神經網絡中的計算量主要集中在卷積層中，該層中的卷積運算占整個計算量的十分之九，而卷積運算與參數容量呈正比關系，可以通過剪枝方法減去冗余參數。但直接進行剪枝后，網絡中運算的不規則性增加了神經網絡硬件實現的復雜度，這使得輸入的圖像特征圖和權重稀疏帶來的加速優勢不能充分利用。另一方面，在卷積運算過程中，還涉及到大量計算資源消耗以及數據存儲，因此，實現卷積神經網絡所需的硬件消耗十分巨大。如何對卷積神經網絡中的運算進行有效的硬件設計，并將其應用到計算資源和內存帶寬受限的嵌入式設備中是一個值得討論的問題。

基于上述問題，本申請提供了一種基于隨機計算和稀疏計算的圖像識別卷積層結構，構建基于隨機計算和稀疏計算的低復雜度卷積層架構，保障卷積運算精度的同時，降低硬件實現的復雜度，使輸入的圖像特征圖和權重稀疏帶來的加速優勢被充分利用。

發明內容

本發明的目的在于提供一種基于隨機計算和稀疏計算的圖像識別卷積層結構，構建基于隨機計算和稀疏計算的低復雜度卷積層架構，保障卷積運算精度的同時，降低硬件實現的復雜度，使輸入的圖像特征圖和權重稀疏帶來的加速優勢被充分利用。

本發明提供了一種基于隨機計算和稀疏計算的圖像識別卷積層結構，包括：

稀疏處理模塊：對輸入的圖像特征圖和對應的權值進行與邏輯處理，與邏輯結果為1時，輸出該位置的輸入的圖像特征圖和對應的權值，與邏輯結果為0時，輸出結果0；

隨機計算模塊：接收稀疏處理模塊輸出的輸入的圖像特征圖和對應的權值，將輸入的圖像特征圖和對應的權值從二進制域轉換至概率域，在概率域中，執行輸入的圖像特征圖和對應的權值的乘法計算，并將若干個乘法計算結果相加；

卷積模塊：包括若干個并行的卷積核，并行的多個所述卷積核通過稀疏處理模塊和隨機計算模塊完成卷積計算，輸出卷積結果。

進一步地，所述隨機計算模塊，包括：

前向轉換模塊：接收稀疏處理模塊輸出的輸入的圖像特征圖和對應的權值，將輸入的圖像特征圖和對應的權值從二進制域轉換至概率域，其中，輸入的圖像特征圖的轉換公式為：

其中，P(x_i)是x_i的概率表達式，x_i表示輸入的圖像特征圖的值，m是x_i的位寬，b_mi是x_i的最高有效位；

對應的權值的轉換函數為：