[發明專利]一種用于卷積神經網絡的可配置型卷積計算電路

在審

• 申請號: 202110804282.0
• 申請日: 2021-07-16
• 公開（公告）號: CN113592067A
• 公開（公告）日: 2021-11-02
• 發明（設計）人: 劉冬生;魏來;陸家昊;成軒;朱令松
• 申請（專利權）人: 華中科技大學
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/063
• 代理公司: 華中科技大學專利中心 42201
• 代理人: 祝丹晴

本發明公開了一種用于卷積神經網絡的可配置型卷積計算電路，其中，計算控制模塊對卷積層四重循環計算中的三重循環，即感受野內的循環、輸入特征圖間的循環和輸出特征圖間的循環進行展開，并將各循環進行卷積計算所需的像素數據和權值數據輸入到卷積計算模塊中；并將對應的偏置數據輸入到加法樹模塊中；卷積計算模塊分別在不同方向上對上述三重循環同時進行并行運算；加法樹模塊針對不同工作模式進行加法計算；其中，加法樹模塊包括單通道模式和多通道模式，計算控制模塊可根據進行卷積計算的像素數據為單通道數據還是多通道數據隨時切換加法樹模塊的工作模式，提升了針對單通道數據輸入時電路資源的利用率，從而提高了卷積計算電路的運算效率。

技術領域

本發明屬于人工智能算法電路實現領域，更具體地，涉及一種用于卷積神經網絡的可配置型卷積計算電路。

背景技術

隨著計算能力的發展和數據量的增加，人工智能算法中的多種深度神經網絡模型已經廣泛應用在計算機視覺、生物特征信息、自然語言處理等領域，其中卷積神經網絡在目標識別、特征信息處理等多個應用場景上達到了前所未有的精度；然而目前應用場景下卷積神經網絡在使用計算處理核心CPU、圖形處理器GPU單元計算分別存在著運算效率低和能耗高等問題，為提高硬件端卷積神經網絡前向推理的能效性，設計用于卷積神經網絡電路的ASIC(特殊應用集成電路)，以達到降低其整體電路功耗以及提高電路吞吐量的同時控制電路面積的目的是十分必要的。

卷積神經網絡模型是由卷積層、池化層和全連接層所構建的，其中卷積層以及池化層負責對輸入的序列數據進行特征提取，全連接層將提取的特征進行非線性組合輸出。卷積層為整個卷積神經網絡的核心部分，其計算的流程由四重循環計算組成，由內到外依次為：第一重循環：感受野內卷積計算；第二重循環：輸入特征圖間的卷積計算，即輸入通道循環；第三重循環：輸出特征圖上的卷積計算；第四重循環：輸出特征圖間的卷積計算，即輸出通道循環。卷積神經網絡的重復權值的特性以及激活值的冗余性使其在硬件電路結構實現過程中存在大量的優化方式。

針對卷積運算的四重循環所展現的權值共享特性，現有的卷積計算電路中對于輸入像素數據和權值數據以及卷積計算的方式存在多種展開循環方式，通常采用展開循環并行計算的結構，但在進行卷積層四重循環計算中的第二重循環時，即展開通道數進行計算過程中，在輸入數據通道數為單通道數時，其通道數小于展開通道數，會導致并行計算過程中出現計算資源浪費的現象，硬件資源的利用率較低，從而造成整體電路計算效率下降，吞吐量降低。

發明內容

針對現有技術的以上缺陷或改進需求，本發明提供一種用于卷積神經網絡的可配置型卷積計算電路，用以解決現有技術硬件資源的利用率較低的技術問題。

為了實現上述目的，本發明提供了一種用于卷積神經網絡的可配置型卷積計算電路，包括：卷積計算模塊、加法樹模塊和計算控制模塊；

計算控制模塊用于對卷積層四重循環計算中的感受野內的循環、輸入特征圖間的循環和輸出特征圖間的循環進行展開，并將各循環進行卷積計算所需的像素數據和權值數據輸入到卷積計算模塊中；將對應的偏置數據輸入到加法樹模塊中，并對加法樹模塊的工作模式進行控制；當進行卷積計算的像素數據為單通道數據時，設置加法樹模塊的工作模式為單通道模式；當進行卷積計算的像素數據為多通道數據時，設置加法樹模塊的工作模式為多通道模式；

卷積計算模塊用于分別在第一方向、第二方向和第三方向上對感受野內的循環、輸入特征圖間的循環和輸出特征圖間的循環同時進行并行運算；上述第一方向、第二方向和第三方向均不同；

加法樹模塊用于在單通道模式下，將卷積計算模塊第二方向上并行輸出的結果分別與偏置數據進行加法運算；在多通道模式下，將卷積計算模塊第二方向上并行輸出的結果進行累加后，與偏置數據進行加法運算；