[發明專利]神經網絡加速控制方法、裝置、電子設備及存儲介質

在審

• 申請號: 202011440214.2
• 申請日: 2020-12-07
• 公開（公告）號: CN112613605A
• 公開（公告）日: 2021-04-06
• 發明（設計）人: 陳海波;鄧新峰
• 申請（專利權）人: 深蘭人工智能（深圳）有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06N3/04;G06N3/08
• 代理公司: 北京路浩知識產權代理有限公司 11002
• 代理人: 程琛

本申請涉及計算機技術領域，提供一種神經網絡加速控制方法、裝置、電子設備及存儲介質，應用于與任務處理器連接的加速器，其中方法包括：基于神經網絡中當前層的參數，讀取當前層的輸入特征圖和權重，執行所述當前層的計算，同時基于所述神經網絡的參數文件，確定所述神經網絡中下一層的參數，讀取下一層的輸入特征圖和權重；所述當前層的計算結束后，將所述當前層的下一層更新為當前層，直至所述當前層為所述神經網絡的最后一層；其中，所述參數文件預先存儲在所述加速器的存儲器中。本申請提供的方法、裝置、電子設備及存儲介質，節省了神經網絡的整體運行時間，提高了神經網絡的計算效率。

技術領域

本申請涉及計算機技術領域，尤其涉及一種神經網絡加速控制方法、裝置、電子設備及存儲介質。

背景技術

神經網絡算法在人工智能領域中得到了廣泛的應用，尤其是在語音識別、圖像處理和自動駕駛等細分領域。卷積神經網絡算法在模型訓練和應用需要大量的計算，但受限于器算法和計算本身的特性，傳統的計算芯片已經無法滿足計算需求，需要通過加速算法對神經網絡進行加速。

現有技術中，已有為GPU(Graphics Processing Unit,圖形處理器)/DPU(Deeplearning Processing Unit,深度學習處理器)/NPU(Neural Network Processing Unit，神經網絡處理器)設計的神經網絡加速算法，但是，此類神經網絡加速算法基于處理器內部的指令集架構，采用串行工作方式執行神經網絡計算指令，計算時間較長，計算效率低下。

發明內容

本申請提供一種神經網絡加速控制方法、裝置、電子設備及存儲介質，節省了神經網絡的整體運行時間，提高了神經網絡的計算效率。

本申請提供一種神經網絡加速控制方法，應用于與任務處理器連接的加速器，所述方法包括：

基于神經網絡中當前層的參數，讀取當前層的輸入特征圖和權重，執行所述當前層的計算，同時基于所述神經網絡的參數文件，確定所述神經網絡中下一層的參數，讀取下一層的輸入特征圖和權重；

所述當前層的計算結束后，將所述當前層的下一層更新為當前層，直至所述當前層為所述神經網絡的最后一層；

其中，所述參數文件預先存儲在所述加速器的存儲器中。

根據本申請提供的一種神經網絡加速控制方法，所述基于所述神經網絡的參數文件，確定所述神經網絡中下一層的參數，包括：

基于所述神經網絡中各層的計算順序、當前層的序號以及所述參數文件中各層的參數，確定所述神經網絡中下一層的參數。

根據本申請提供的一種神經網絡加速控制方法，所述參數包括地址參數和結構參數。

根據本申請提供的一種神經網絡加速控制方法，所述基于神經網絡中當前層的參數，讀取當前層的輸入特征圖和權重，執行所述當前層的計算，包括：

基于所述當前層的地址參數，從所述任務處理器中讀取當前層的輸入特征圖和權重；

基于所述當前層的結構參數、所述當前層的輸入特征圖、所述當前層的權重以及上一層的輸出結果，確定所述當前層的輸出結果。

根據本申請提供的一種神經網絡加速控制方法，所述基于所述當前層的結構參數、所述輸入特征圖和權重以及上一層的輸出結果，確定所述當前層的輸出結果，之后還包括：

將所述當前層的輸出結果輸出至所述任務處理器中。

根據本申請提供的一種神經網絡加速控制方法，所述神經網絡為預先訓練好的圖像識別模型，所述圖像識別模型的輸入為待識別的圖像，所述圖像識別模型中每層的參數存儲在所述參數文件中。

本申請還提供一種神經網絡加速控制裝置，與任務處理器連接，包括：