[發明專利]一種神經網絡的計算方法、系統、設備以及介質

有效

• 申請號: 202010876952.5
• 申請日: 2020-08-27
• 公開（公告）號: CN112116066B
• 公開（公告）日: 2022-12-20
• 發明（設計）人: 郭韶燕
• 申請（專利權）人: 蘇州浪潮智能科技有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/063;G06N5/04;G06T1/60;G06T1/20
• 代理公司: 北京連和連知識產權代理有限公司 11278
• 代理人: 楊帆;李紅蕭

本發明公開了一種神經網絡的計算方法，包括以下步驟：將存儲設備分為多個存儲空間以存儲特征圖；向當前卷積層發送用于存儲待計算的特征圖的存儲空間對應的地址；利用所述當前卷積層獲取并計算所述對應的地址中的待計算的特征圖；判斷向所述當前卷積層發送的存儲空間中的待計算的特征圖是否需要作為其他卷積層的輸入；響應于不需要作為其他卷積層的輸入且所述當前卷積層計算完成，釋放用于存儲當前卷積層對應的待計算的特征圖的存儲空間。本發明還公開了一種系統、計算機設備以及可讀存儲介質。本發明提出的方案可以在計算資源受限的邊緣計算設備上正常推理的同時，提高其特征圖的讀寫速率以及存儲空間的利用率。

技術領域

本發明涉及神經網絡領域，具體涉及一種神經網絡的計算方法、系統、設備以及存儲介質。

背景技術

神經網絡的計算是自上而下，也就是下一層的計算輸入來自于上一層的計算輸出。因此在整個計算過程中，一張特征圖需要寫入內存和讀取內存兩個操作。DDR和SRAM是常用的存儲器。SRAM具有較高的性能，其讀寫速度要快于DDR，但是SRAM也有它的缺點，即它的集成度較低，功耗較DDR高，相同容量的DDR內存可以設計為較小的體積，但是SRAM卻需要很大的體積。同樣面積的硅片可以做出更大容量的DDR，因此SRAM顯得更貴。由于受限于硬件成本以及功耗等因素，對于計算量較大的網絡，通常將其特征圖存放在DDR中。

通常針對神經網絡計算，在邊緣計算端，通常有以下兩種存儲方式，第一，對于小網絡比如Lenet，計算其feature與SRAM的大小關系，若小于SRAM空間，則將feature(特征圖)存放在SRAM上；第二，對于大型網絡，其feature顯然超過SRMA的空間大小，則將所有的feature存放在DDR上，其存儲方式有兩種，第一種是無限堆疊方式，即有多個feature則開辟多個DDR內存，第二種是采用DDR內存共享方式。第三，在FPGA上增加編碼以及解碼模塊，對特征圖進行編碼以達到數據壓縮的目的，減少特征圖的存儲空間大小。

如上所述技術方法，方法一，雖然利用了SRAM的高速存儲特性，但只適用于小網絡的計算，而通常小網絡應用面很窄。方法二，顯然不管是使用無線堆疊還是使用內存共享方式，其存儲單元都在DDR上，而大量的數據寫入和讀取識別成為整體推理時間的瓶頸之一。方法三，通過加入壓縮模塊，可解決部分中型網絡的存儲問題，但增加壓縮和解壓縮模塊，會降低網絡的推理時間。

發明內容

有鑒于此，為了克服上述問題的至少一個方面，本發明實施例提出一種神經網絡的計算方法，包括以下步驟：

將存儲設備分為多個存儲空間并分別存儲特征圖；

向當前卷積層發送用于存儲待計算的特征圖的存儲空間對應的地址；

利用所述當前卷積層獲取并計算所述對應的地址中的待計算的特征圖；

判斷向所述當前卷積層發送的存儲空間中的待計算的特征圖是否需要作為其他卷積層的輸入；

響應于不需要作為其他卷積層的輸入且所述當前卷積層計算完成，釋放用于存儲當前卷積層對應的待計算的特征圖的存儲空間。

在一些實施例中，還包括：

檢查所述多個存儲空間的使用狀態；

將所述當前卷積層計算輸出的特征圖存儲到未使用的存儲空間并記錄對應關系以向利用所述當前卷積層輸出的特征圖進行計算的下一層卷積層發送對應的存儲空間的地址。

在一些實施例中，將存儲設備分為多個存儲空間并分別存儲特征圖，進一步包括：

統計神經網絡的最大分支數和單層卷積層輸出的特征圖所需的最大存儲空間；

根據所述最大分支數和所述最大存儲空間計算理論所需緩存空間大小；

比較所述理論所需緩存空間與所述存儲設備的大小；