[發明專利]神經網絡運算裝置和方法

有效

• 申請號: 201711360244.0
• 申請日: 2017-12-15
• 公開（公告）號: CN108205700B
• 公開（公告）日: 2021-07-30
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 上海寒武紀信息科技有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/063
• 代理公司: 中科專利商標代理有限責任公司 11021
• 代理人: 任巖

1.一種神經網絡運算裝置，其特征在于包括：

子矩陣劃分模塊，用于以卷積核矩陣為滑動窗口在神經元矩陣上滑動，每滑動一次，得到一個神經元矩陣中與卷積核矩陣規模相同的子矩陣，將卷積核矩陣作為第一矩陣，將每個子矩陣作為第二矩陣；

矩陣元素存儲模塊，包含多個存儲空間，該多個存儲空間用于按規則接收第一矩陣中的M×N個矩陣元素的M×N個二進制數，該規則為：所述多個存儲空間的編號依次為第0個至第i-1個存儲空間，i為所述二進制數的位寬，每個存儲空間大小為K比特，K等于第一矩陣中的矩陣元素的個數且K＝M×N，其中，第0個存儲空間用于存儲K個二進制數的符號位，第j個存儲空間用于存儲每個二進制數中第i-j+1位的比特，所述i、j、k、M和N均為正整數，并且，i≥2，1≤j≤i；

符號運算模塊，用于將所述第0個存儲空間中每個比特所表示的符號分別與第二矩陣中對應元素的符號進行異或運算，并將運算結果作為第二矩陣中對應元素的符號位；

數值運算模塊，包括至少一個移位運算器和至少一個加法器，用于根據第j個存儲空間中比特值為1的位所對應矩陣元素在矩陣中的位置，從第二矩陣中提取相應位置的矩陣元素，將所述相應位置的矩陣元素相加，將相加結果左移i-j位，得到運算中間結果；

累加模塊，用于將第1～i-1個存儲空間中的運算中間結果相加，得到第一矩陣與第二矩陣的乘加運算結果；

卷積結果獲取模塊，用于按照滑動順序，將所述多個乘加運算結果組成矩陣，作為卷積運算結果。

2.根據權利要求1所述的神經網絡運算裝置，其特征在于，所述矩陣元素存儲模塊中，第一矩陣中矩陣元素與每個所述存儲空間中各個比特位的對應關系為：每個存儲空間中第k個比特位分別存儲第一矩陣中第m行第n列的矩陣元素的比特，其中，1≤k≤K，并且，k＝(m-1)×N+n，N為第一矩陣的總列數，1≤m≤M，1≤n≤N；或者

所述第一矩陣中矩陣元素與每個存儲空間中各個比特位的對應關系為：第k個比特位存儲卷積核矩陣A中第m行第n列的矩陣元素的比特，其中，1≤k≤K，并且，k＝m+(n-1)×M，M為第一矩陣的總行數，1≤m≤M，1≤n≤N。

3.根據權利要求2所述的神經網絡運算裝置，其特征在于，所述數值運算模塊根據所述對應關系從第二矩陣中對應元素所在位置提取相應的矩陣元素。

4.根據權利要求1所述的神經網絡運算裝置，其特征在于，所述數值運算模塊還用于：當根據存儲空間獲取中間結果時，如存在相同位置矩陣元素加法操作時，則調取已計算的結果。

5.根據權利要求4所述的神經網絡運算裝置，其特征在于，還包括中間存儲模塊，用于存儲0～i-1個存儲空間中具有至少兩個相同位的比特值為1時對應的第二矩陣元素相加后的結果，以供所述數值運算模塊調取。

6.根據權利要求1所述的神經網絡運算裝置，其特征在于，所述加法器用于根據第j個存儲空間中比特值為1所對應矩陣元素在矩陣中的位置，從第二矩陣中提取相應位置的矩陣元素，將所述相應位置的矩陣元素相加；所述移位運算器用于將加法器中矩陣元素的相加結果左移i-j位，得到運算中間結果。

7.根據權利要求6所述的神經網絡運算裝置，其特征在于，所述加法器還用于當根據存儲空間獲取中間結果時，如存在相同位置矩陣元素加法操作時，從中間存儲模塊獲取已計算的結果作為加法器的輸入數據。

8.根據權利要求1所述的神經網絡運算裝置，其特征在于，所述第一矩陣和第二矩陣中矩陣行列數相同且矩陣元素為定點數。