[發明專利]一種卷積神經網絡中計算資源的調度方法及裝置

在審

• 申請號: 201811198549.0
• 申請日: 2018-10-15
• 公開（公告）號: CN109255434A
• 公開（公告）日: 2019-01-22
• 發明（設計）人: 曾建;肖立波;徐昕
• 申請（專利權）人: 旺微科技（上海）有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/063;G06F9/48
• 代理公司: 合肥市浩智運專利代理事務所(普通合伙) 34124
• 代理人: 丁瑞瑞

本發明公開了一種卷積神經網絡中計算資源的調度方法，方法包括：1)、獲取卷積神經網絡中的原始矩陣以及核矩陣；2)、根據核矩陣的尺寸從原始矩陣中獲取當前子矩陣，逐行分別將當前子矩陣中的每一行以及核矩陣調度至一個乘法器進行計算，或者逐列分別將當前子矩陣中的每一列以及核矩陣調度至一個乘法器進行計算；再根據子矩陣獲取方法獲取當前子矩陣的在行方向上或者列方向上的下一個子矩陣，并返回前述步驟；3)、根據乘法器的運算結果，與卷積后的矩陣中的元素位置的對應關系，將乘法器的運算結果組合成卷積后的矩陣。本發明公開了一種卷積神經網絡中計算資源的調度裝置。應用本發明實施例，降低了硬件開銷。

技術領域

本發明涉及一種資源調度方法及裝置，更具體涉及一種卷積神經網絡中計算資源的調度方法及裝置。

背景技術

CNN(Convolutional Neural Network，卷積神經網絡)，是一種前饋神經網絡。目前，CNN已經成為眾多科學領域的研究熱點之一，特別是在模式分類領域，由于該網絡避免了對圖像的復雜前期預處理，可以直接輸入原始圖像，因而得到了更為廣泛的應用。由于CNN的特征檢測層通過訓練數據進行學習，所以在使用CNN時，避免了顯式的特征抽取，而隱式地從訓練數據中進行學習；再者由于同一特征映射面上的神經元權值相同，所以網絡可以并行學習，這也是卷積網絡相對于神經元彼此相連網絡的一大優勢。卷積神經網絡以其局部權值共享的特殊結構在語音識別和圖像處理方面有著獨特的優越性，其布局更接近于實際的生物神經網絡，權值共享降低了網絡的復雜性，特別是多維輸入向量的圖像可以直接輸入網絡這一特點避免了特征提取和分類過程中數據重建的復雜度。

但是，現有的卷積神經網絡在對原始矩陣的卷積運算的過程如下，原始矩陣為6*6的矩陣，核矩陣為3*3的矩陣。將原始矩陣的第一行第一列至第三行第三列的方形區域內的元素組成的子矩陣1，將子矩陣的第一行第一列元素與核矩陣調度至乘法器1，并將運算結果作為卷積后的矩陣中的第一行第一列的元素的值；將子矩陣的第一行第二列元素與核矩陣調度至乘法器2，并將運算結果作為卷積后的矩陣中的第一行第二列的元素的值；依次類推直至子矩陣1中的元素都被調度。然后將原始矩陣中第一行第二列至第三行第四列的方形區域內的元素組成的子矩陣2，按照前述方式進行元素的調度，依此類推，得到卷積后的矩陣的各個元素的值。

從上述計算過程可以看出，現有技術進行原始矩陣的卷積計算時，每進行一次子矩陣的計算，就要用到3*3＝9個乘法器。使用的乘法器的數量為核矩陣中元素的個數，進而導致硬件的開銷較大，因此，現有技術存在針對乘法器的硬件開銷較大的技術問題。

發明內容

本發明所要解決的技術問題在于提供了一種卷積神經網絡中計算資源的調度方法及裝置，以降低針對乘法器的硬件開銷。

本發明是通過以下技術方案解決上述技術問題的：

本發明實施例提供了一種卷積神經網絡中計算資源的調度方法，所述方法包括：

1)、獲取卷積神經網絡中的原始矩陣以及核矩陣；

2)、根據核矩陣的尺寸從原始矩陣中獲取當前子矩陣，逐行分別將當前子矩陣中的每一行以及核矩陣調度至一個目標乘法器進行計算，或者逐列分別將當前子矩陣中的每一列以及核矩陣調度至一個目標乘法器進行計算，直至當前子矩陣中的元素被調度完；再根據子矩陣獲取方法獲取當前子矩陣的在行方向上或者列方向上的下一個子矩陣，并將該子矩陣作為當前子矩陣，并返回執行所述逐行分別將當前子矩陣中的每一行以及核矩陣調度至一個目標乘法器進行計算，或者逐列分別將當前子矩陣中的每一列以及核矩陣調度至一個目標乘法器進行計算的步驟；

3)、根據所述乘法器的運算結果，與卷積后的矩陣中的元素位置的對應關系，將所述乘法器的運算結果組合成卷積后的矩陣。

可選的，所述卷積運算的過程包括：