[發明專利]基于FPGA的深度神經網絡的定點化計算方法及裝置

在審

• 申請號: 201810690696.3
• 申請日: 2018-06-28
• 公開（公告）號: CN109002881A
• 公開（公告）日: 2018-12-14
• 發明（設計）人: 于福海;張紀偉;景璐
• 申請（專利權）人: 鄭州云海信息技術有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08;G06K9/62
• 代理公司: 北京集佳知識產權代理有限公司 11227
• 代理人: 羅滿

本發明公開了一種基于FPGA的深度神經網絡的定點化計算方法及裝置，該方法包括：對圖像數據進行定點化處理，將圖像數據中的浮點數轉化為定點數；將神經網絡的濾波器中的全部數值均量化為0或2的指數次冪；對定點化處理后的圖像數據和量化后的濾波器進行位移加和操作，獲取卷積結果；本發明通過將神經網絡的濾波器中的全部數值均量化為0或2的指數次冪，可以使深度神經網絡卷積過程中的點積操作轉化為了較為廉價的移位加法操作，由于FPGA設備上的移位加法操作是基于邏輯單元進行實現的，因此能夠從根本上使得神經網絡在運算過程中擺脫對于硬件DSP的依賴，拓展了FPGA設備上神經網絡單元的并行度、計算效率以及能耗比。

技術領域

本發明涉及計算機信息技術領域，特別涉及一種基于FPGA的深度神經網絡的定點化計算方法及裝置。

背景技術

隨著現代社會科技的發展，盡管當前的FPGA(Field－Programmable Gate Array，現場可編程門陣列)設備已經在一定程度上支持了各種復雜的浮點或定點運算，但是浮點運算效率對于FPGA設備上DSP(Digital Signal Processing，數字信號處理)的數目存在嚴重的依賴性，而且FPGA設備本身通過硬件電路來實現程序中的計算，其資源一旦消耗不會再進行回收重分配。

現有技術中，當前的FPGA設備的總體計算效率在很大程度上受到FPGA設備上硬件DSP數目的限制，盡管可以通過定點化運算來替代浮點運算能夠在一定程度上降低DSP的使用量，但是復雜程序的并行度仍然受限于DSP的數目。因此，如何對FPGA的神經網絡卷積過程中的定點化計算進行優化，降低FPGA設備上硬件DSP的使用量以及能耗，是現今亟需解決的問題。

發明內容

本發明的目的是提供一種基于FPGA的深度神經網絡的定點化計算方法及裝置，以優化FPGA的神經網絡卷積過程中的定點化計算，降低FPGA設備上硬件DSP的使用量以及能耗。

為解決上述技術問題，本發明提供一種基于FPGA的深度神經網絡的定點化計算方法，包括：

對圖像數據進行定點化處理，將所述圖像數據中的浮點數轉化為定點數；

將神經網絡的濾波器中的全部數值均量化為0或2的指數次冪；

對定點化處理后的圖像數據和量化后的濾波器進行位移加和操作，獲取卷積結果。

可選的，所述對圖像數據進行定點化處理，將所述圖像數據中的浮點數轉化為定點數，包括：

通過快速定點化方法對所述圖像數據進行定點化處理，將所述圖像數據中的浮點數轉化為預設精度的定點數。

可選的，所述將神經網絡的濾波器中的全部數值均量化為0或2的指數次冪，包括：

將所述濾波器中的全部數值逐步量化為0或2的指數次冪。

可選的，所述將所述濾波器中的全部數值逐步量化為0或2的指數次冪，包括：

依次將所述濾波器中未量化為0或2的指數次冪的數值中的數值較大的部分的數值量化為0或2的指數次冪。

此外，本發明還提供了一種基于FPGA的深度神經網絡的定點化計算裝置，包括：

定點化模塊，用于對圖像數據進行定點化處理，將所述圖像數據中的浮點數轉化為定點數；

量化模塊，用于將神經網絡的濾波器中的全部數值均量化為0或2的指數次冪；

卷積模塊，用于對定點化處理后的圖像數據和量化后的濾波器進行位移加和操作，獲取卷積結果。

可選的，所述定點化模塊，包括：

定點化子模塊，用于通過快速定點化方法對所述圖像數據進行定點化處理，將所述圖像數據中的浮點數轉化為預設精度的定點數。