[發明專利]卷積神經網絡加速方法及相關設備

在審

• 申請號: 201810981303.4
• 申請日: 2018-08-27
• 公開（公告）號: CN109117187A
• 公開（公告）日: 2019-01-01
• 發明（設計）人: 楊宏斌;方興;董剛;程云;劉栩辰
• 申請（專利權）人: 鄭州云海信息技術有限公司
• 主分類號: G06F9/30
• 分類號: G06F9/30;G06N3/04
• 代理公司: 北京集佳知識產權代理有限公司 11227
• 代理人: 王寶筠

本申請實施例公開了一種卷積神經網絡加速裝置，用于通過將大量的乘法運算轉化為加法運算，從而提高卷積神經網絡的運算速度。本申請實施例還提供了相應的方法和濾波器。本申請實施例方法包括：該裝置包括濾波器和存儲器，該濾波器用于從特征圖中獲取第一行數據，并將該第一行數據存儲于該存儲器，該存儲器存儲一行寬度的該第一行數據；該濾波器還用于對該第一行數據進行維諾格拉德變換，得到第一計算結果；該濾波器還用于將至少兩個第二計算結果相加，得到卷積結果，其中，該第二計算結果為對第二行數據進行維諾格拉德變換獲得，該第一行數據和該第二行數據歸屬于同一特征圖，且寬度均為一行。

技術領域

本申請涉及數據處理領域，尤其涉及一種卷積神經網絡加速方法及相關設備。

背景技術

得益于深度學習的進步以及大數據技術的發展，作為其中的核心算法卷積神經網絡(convolutional neural network，CNN)廣泛被應用到圖片分類、人臉識別、圖像語義理解、無人駕駛等諸多應用領域。伴隨著海量的矢量計算和頻繁的訪存操作，傳統的中央處理器(central processing unit，CPU)計算平臺無法滿足CNN在很多應用場合下的低延時需求。現場可編程門陣列(field-programmable gate array，FPGA)平臺以其低成本、低延時、高能效、高可靠的特點，為CNN的硬件加速提出了一種全新的嘗試。

在FPGA平臺上對卷積神經網絡進行硬件加速時，通常采用二維濾波器，通過濾波器窗口滑動的方式依次將特征圖上包含的數據和濾波器系數進行卷積。比如常見的3*3濾波器窗口，需要提取窗口里的9個數和濾波器中的9個系數做卷積運算。

由于在進行二維卷積運算過程中需要進行大量的乘法運算，而FPGA平臺中的乘法器資源有限，因此需要花費較長時間才能利用較少的乘法器完成大量的乘法運算，降低了卷積運算的速度。

發明內容

本申請實施例提供了一種卷積神經網絡加速裝置，用于通過將大量的乘法運算轉化為加法運算，從而提高卷積神經網絡的運算速度。本申請實施例還提供了相應的方法和濾波器。

第一方面，本申請實施例提供一種卷積神經網絡加速裝置，該裝置包括濾波器和存儲器，

該濾波器用于從特征圖中獲取第一行數據，并將該第一行數據存儲于該存儲器，該存儲器存儲一行寬度的該第一行數據；

該濾波器還用于對該第一行數據進行維諾格拉德變換，得到第一計算結果；

該濾波器還用于將至少兩個第二計算結果相加，得到卷積結果，其中，該第二計算結果為對第二行數據進行維諾格拉德變換獲得，該第一行數據和該第二行數據歸屬于同一特征圖，且寬度均為一行。

第二方面，本申請實施例提供一種濾波器，該濾波器包括：

獲取單元，用于從特征圖中獲取第一行數據，該第一行數據的寬度為一行；

變換單元，用于對該第一行數據進行維諾格拉德變換，得到第一計算結果；

相加單元，用于將至少兩個第二計算結果相加，得到卷積結果，其中，該第二計算結果為對第二行數據進行行維諾格拉德變換獲得，該第一行數據和該第二行數據歸屬于同一特征圖，且寬度均為一行。

第三方面，本申請實施例提供一種卷積神經網絡加速方法，該方法應用于濾波器，該方法包括：

從特征圖中獲取第一行數據，該第一行數據的寬度為一行；

對該第一行數據進行維諾格拉德變換，得到第一計算結果；

將至少兩個第二計算結果相加，得到卷積結果，其中，該第二計算結果為對第二行數據進行行維諾格拉德變換獲得，該第一行數據和該第二行數據歸屬于同一特征圖，且寬度均為一行。