[發明專利]基于可配置卷積層的卷積神經網絡的算法優化方法及裝置

有效

• 申請號: 201811525557.1
• 申請日: 2018-12-13
• 公開（公告）號: CN109558944B
• 公開（公告）日: 2021-02-19
• 發明（設計）人: 朱明;班華忠;李志國;王正;李黨
• 申請（專利權）人: 北京智芯原動科技有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/063
• 代理公司: 暫無信息
• 代理人: 暫無信息

本發明提供了基于可配置卷積層的卷積神經網絡的算法優化方法，該方法包括：對卷積神經網絡的每個卷積層，分別采用基于Neon指令的定點化卷積濾波優化法和基于Neon指令的定點化卷積矩陣乘優化法，對卷積層進行優化處理，獲取對應卷積層的第一性能評測數據和第二性能評測數據；針對卷積神經網絡的每個卷積層，如果第一性能評測數據優于第二性能評測數據，則認為對應的卷積層最佳配置為基于Neon指令的定點化卷積濾波優化法，否則認為對應的卷積層最佳配置為基于Neon指令的定點化卷積矩陣乘優化法；根據卷積神經網絡的每個卷積層的最佳配置，對卷積神經網絡進行優化處理。與現有技術相比，本發明可以有效地提升卷積神經網絡的運算性能。

技術領域

本發明涉及圖像處理、視頻監控以及卷積神經網絡，特別涉及基于可配置卷積層的卷積神經網絡的算法優化方法及裝置。

背景技術

隨著人工智能的快速發展，深度學習技術被越來越多地引入到圖像處理、視頻分析領域中，如人機交互，環境感知，智慧商業分析，自動駕駛以及安防監控等應用場景，它們通常是嵌入式視覺的應用，要求智能分析的實時處理。其中，卷積神經網絡(convolutionalneural networks，簡稱CNN)作為深度學習的一種模型結構，尤其擅長處理圖像特別是大圖像的相關機器學習問題，已被廣泛應用，得到最深入研究。然而深度學習算法，計算量非常大，這就對前端嵌入式運行提出了非常高的要求，這也成為嵌入式視覺的機遇與挑戰。因此，深度學習針對嵌入式平臺的優化，即提供客戶硬件+算法一體化的最優性價比的解決方案，就成為了嵌入式視覺解決方案的核心競爭力。如何對CNN算法在嵌入式ARM平臺進行效率優化，提高算法性能，就成為本領域技術人員需要解決的關鍵技術問題。

目前CNN在嵌入式平臺方面的優化，主要有網絡結構優化，定點化(如模型量化)，二值化，SIMD(如Neon)，緩存(如cache命中率)，多線程，異構計算等方法。其中任何一種方法都其自身的優勢與局限性，在實際的CNN算法優化過程中，僅使用一種方法進行優化，其效率提升情況達到一定瓶頸，已經很難滿足性能優化需求。

Neon指令是適用于ARM Cortex-A系列處理器的一種128位SIMD(SingleInstruction,Multiple Data，單指令、多數據)擴展結構。從智能手機和移動計算設備到HDTV，它已被公認為是多媒體應用領域中最為優越的處理器之一。Neon指令采用專門設計，簡化了軟件在不同平臺之間的移植，為類似Dolby Mobile的密集型多媒體應用提供了低能耗和靈活的加速功能。

綜上所述，目前需要提出一種能夠提升性能優化的基于可配置卷積層的卷積神經網絡的算法優化方法。

發明內容

有鑒于此，本發明的主要目的在于降低計算資源消耗，實現卷積神經網絡的算法優化。

為達到上述目的，按照本發明的第一個方面，提供了基于可配置卷積層的卷積神經網絡的算法優化方法，該方法包括：

第一步驟，對卷積神經網絡的每個卷積層，分別采用基于Neon指令的定點化卷積濾波優化法，對卷積層進行優化處理，獲取對應卷積層的第一性能評測數據；

第二步驟，對卷積神經網絡的每個卷積層，分別采用基于Neon指令的定點化卷積矩陣乘優化法，對卷積層進行優化處理，獲取對應卷積層的第二性能評測數據；

第三步驟，針對卷積神經網絡的每個卷積層，如果第一性能評測數據優于第二性能評測數據，則認為對應的卷積層最佳配置為基于Neon指令的定點化卷積濾波優化法，否則認為對應的卷積層最佳配置為基于Neon指令的定點化卷積矩陣乘優化法；

第四步驟，根據卷積神經網絡的每個卷積層的最佳配置，對卷積神經網絡進行優化處理。