[發明專利]基于Winograd算法的卷積神經網絡硬件加速器及計算方法

有效

• 申請號: 202110666106.5
• 申請日: 2021-06-16
• 公開（公告）號: CN113255898B
• 公開（公告）日: 2022-08-02
• 發明（設計）人: 倪偉;袁子昂;冉敬楠;宋宇鯤;張多利
• 申請（專利權）人: 合肥工業大學
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/063
• 代理公司: 安徽省合肥新安專利代理有限責任公司 34101
• 代理人: 陸麗莉;何梅生

本發明公開了一種基于Winograd算法的卷積神經網絡硬件加速器及計算方法，該加速器包括：輸入緩沖模塊、PE陣列、后處理模塊，數據分配器、控制模塊、配置模塊、輸出緩沖模塊、存儲層；配置模塊將指令譯碼成配置信息；控制模塊用于控制PE陣列、數據分配器等模塊完成不同計算；數據分配器采用不同的地址映射方式和數據分配方式從存儲層中讀取數據，并將數據分配到輸入緩沖中；輸入緩沖模塊將緩沖的計算數據發送到PE陣列進行計算；PE陣列根據配置信息進行計算通路重構并對數據進行計算；后處理模塊將計算結果進行多通道累加、激活函數處理等操作。本發明能提高卷積計算速度，減少數據搬移損耗，從而提高整個加速器的性能。

技術領域

本發明涉及深度卷積神經網絡計算領域，尤其是一種基于Winograd算法的卷積流水線并行加速計算方法和裝置。

背景技術

當前的神經網絡結構的愈加復雜使得神經網絡的計算量和數據搬移量劇增，而CPU其串行計算的特性和較少的核心數使得其計算效率較低，而GPU能耗比較低，因此需要設計高效的硬件神經網絡加速器來提升神經網絡計算效率。

卷積計算是神經網絡的基本計算，傳統上一般通過滑窗卷積進行，該計算方法給整個神經網絡帶來了巨大的計算量和數據搬移量。Winograd算法源自一種小波變換算法，Lavin,Andrew等人將其移植到了卷積計算中。其基本思想是將輸入特征圖和卷積核變換到Winograd域進行卷積計算，以減少乘法數目，提高計算速度。

Winograd算法中含有連續的矩陣乘，會增加中間結果的訪存時間，降低計算速度，同時Winograd算法需要進行較長的計算流程來得到計算結果，且會占用大量的硬件資源。

發明內容

為了解決上述不足之處，本發明提出了一種基于Winograd算法的可重構神經網絡加速器及計算方法，以期能提高卷積計算速度，減少數據搬移損耗，從而提高整個加速器的性能。

本發明為達到上述發明目的，采用如下技術方案：

本發明一種基于Winograd算法的卷積神經網絡硬件加速器的特點包括：存儲層、計算層、控制層、數據分配器、輸入緩沖、輸出緩沖；

所述存儲層包括：片外的DDR存儲器和片上存儲；

所述控制層包括：配置模塊和控制模塊；

所述計算層包括：多路PE陣列和后處理模塊；

所述后處理模塊包含：激活函數模塊和卷積通道累加模塊；

所述DDR存儲器接收外部發送的卷積核、輸入特征圖并完成存儲后，觸發所述控制模塊，使得所述配置模塊在所述控制模塊的控制下，從自身RAM中讀取計算指令，用于獲取計算任務并將其譯碼成配置信息；

所述數據分配器根據所述配置信息中的當前計算模式，判斷當前計算模式是否為卷積計算模式，若是，則從DDR存儲器中讀取所需的輸入特征圖、所需的卷積核并分配到輸入緩沖中；否則，將當前計算模式所需的數據發送給輸入緩沖中；

在卷積計算模式下，多路PE陣列從輸入緩沖中獲取所述卷積核、輸入特征圖并進行計算，得到輸出特征圖并傳遞給所述后處理模塊；

在其他計算模式下，多路PE陣列從輸入緩沖中獲取當前計算模式所需的數據并進行計算，得到當前計算結果并傳遞給所述后處理模塊；

在卷積計算模式下，所述卷積通道累加模塊對所述輸出特征圖進行多通道累加處理后，再利用激活函數模塊進行計算，得到當前卷積塊并傳遞給所述輸出緩沖；

在其他計算模式下，所述卷積通道累加模塊根據配置信息，選擇是否對所述當前計算結果進行通道累加計算，以及是否利用激活函數模塊對所述當前計算結果進行計算，從而得到當前處理結果并傳輸到所述輸出緩沖中；