[發明專利]三值神經網絡稀疏性權重的壓縮計算單元

有效

• 申請號: 202110034136.4
• 申請日: 2021-01-12
• 公開（公告）號: CN112865804B
• 公開（公告）日: 2023-10-10
• 發明（設計）人: 劉波;楊海川;錢俊逸;王梓羽;蔡浩;龔宇;楊軍
• 申請（專利權）人: 東南大學
• 主分類號: H03M7/30
• 分類號: H03M7/30
• 代理公司: 南京瑞弘專利商標事務所(普通合伙) 32249
• 代理人: 徐激波

本發明公開了一種三值神經網絡稀疏性權重的壓縮計算單元，涉及神經網絡硬件加速領域，包括依次連接的權重近似處理單元、哈夫曼編碼單元、權重整合單元、序列檢測譯碼模塊和計算優化配置模塊；本發明的近似壓縮計算單元，通過對權重進行近似處理獲得更高的稀疏性，通過對網絡中大量重復出現的權重進行壓縮編碼，通過卷積計算結果的復用以及針對三值神經網絡近似計算降低計算工作量，從而減少系統整體面積與功耗。

技術領域

本發明涉及神經網絡硬件加速領域，尤其是三值神經網絡稀疏性權重的壓縮計算單元。

背景技術

目前在關鍵詞識別的技術領域中深度神經網絡、循環神經網絡、卷積神經網絡是幾個比較主流的方向。其中卷積神經網絡較為主流，這是因為卷積神經網絡的特性與語音關鍵詞識別的需求較為符合。在語音音頻中，想要提高語音識別率就需要克服語音信號中各種各樣的干擾。而卷積神經網絡能提供時間和空間上的不變性，可以利用卷積的不變性來克服語音信號本身的多樣性。

卷積神經網絡存在較大的問題是，乘法操作過多導致數據計算量過大。于是又有了二值化權重卷積神經網絡，它將卷積神經網絡中的權重量化為1bit，這樣可以將網絡中的乘法操作替換為反向和移位操作，這在硬件實現上帶來了巨大的便利性，相比于乘法操作將節省許多執行周期與功耗。而二值化權重卷積神經網絡也因為權重量化過多導致對于多種場景以及高噪聲環境下的適應性不好。因此可以又有三值化權重神經網絡，它在二值權重神經網絡中增加了0權重，帶來了權重數據信息量的提升可以提高對于多種場景以及高噪聲環境下的適應性。并且新增加的0權重也不會帶來乘法操作，但也帶來了新的問題，就是三值化權重神經網絡的權重存儲至少需要2bit，比二值化的權重多了一倍。

發明內容

發明目的：本發明是為了解決三值化權重神經網絡中權重存儲所需要的存儲空間過大以及計算單元中對于三值化權重神經網絡的優化問題。本發明對三值神經網絡稀疏性權重的壓縮計算單元，主要用于對三值化權重神經網絡的權重進行壓縮存儲，以降低整體存儲單元的靜態功耗，并且通過對計算單元的優化，采用減少數據讀取、近似存儲等方法來減少功耗，以降低計算單元的動態功耗。

本發明的三值神經網絡稀疏性權重的壓縮計算單元，包括權重近似處理單元和計算優化配置模塊；權重近似處理單元的輸出端連接計算優化配置模塊的輸入端。

所述的權重近似處理單元用于對權重矩陣進行近似處理，形成近似權重矩陣；輸入待處理數據矩陣和處理后的權重矩陣到計算優化配置模塊，所述計算優化配置模塊包括近似計算單元，近似計算單元對輸入的權重矩陣進行讀取，讀取到權重矩陣中權重數據是‘0’時，不再讀取輸入待處理數據矩陣中的數據，在對應的計算結果存儲單元中直接寫‘0’；讀取到權重是‘1’時，讀取輸入待處理數據矩陣中的數據，在對應的計算結果存儲單元中直接寫待處理數據矩陣中對應的數據；讀取到權重是‘-1’時，讀取輸入待處理數據矩陣中的數據，對待處理數據矩陣中對應的數據取反后寫到對應的存儲單元中。所述近似計算單元用于減少數據讀取次數和加法器的翻轉次數來實現跳0操作，在對于三值權重中的負值進行計算中采用近似計算以減少計算功耗和信號翻轉。

優選的，在權重近似處理單元和計算優化配置模塊之間還依次連接有哈夫曼編碼單元、權重整合單元和序列檢測譯碼模塊；權重近似處理單元的輸出端連接哈夫曼編碼單元的輸入端，序列檢測譯碼模塊的輸出端連接計算優化配置模塊的輸入端；權重近似處理單元的輸出端連接哈夫曼編碼單元的輸入端，序列檢測譯碼模塊的輸出端連接計算優化配置模塊的輸入端；所述的權重近似處理單元用于對權重矩陣進行近似處理，形成近似權重矩陣，具有更高的稀疏性；所述哈夫曼編碼單元用于對近似權重矩陣中的重復權重數據進行哈夫曼編碼，所述的哈夫曼編碼是屬于對重復權重數據的不定長編碼。

權重整合單元用于對重復權重數據的哈夫曼編碼不定長編碼結果與非重復權重數據的定長編碼結果整合，形成編碼權重矩陣，存儲在序列檢測譯碼模塊中；所述序列檢測譯碼模塊用于對編碼權重矩陣進行譯碼恢復，將所編的定長與不定長的編碼進行解碼。