[發明專利]卷積計算方法、裝置、設備及存儲介質

在審

• 申請號: 201911425674.5
• 申請日: 2019-12-31
• 公開（公告）號: CN111199273A
• 公開（公告）日: 2020-05-26
• 發明（設計）人: 曹慶新;黎立煌;李煒
• 申請（專利權）人: 深圳云天勵飛技術有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/063
• 代理公司: 深圳中一聯合知識產權代理有限公司 44414
• 代理人: 劉永康

1.一種卷積計算方法，其特征在于，適用于一種神經網絡處理器，所述神經網絡處理器包括多個卷積計算單元，所述待處理數據包含x個輸入通道；

所述方法包括：

將所述x個輸入通道中每個輸入通道的數據劃分為y個數據塊；

將劃分后的x個輸入通道的相同位置的數據塊組成一個數據塊集，生成y個數據塊集；

將所述y個數據塊集分批發送至所述多個卷積計算單元；

所述多個卷積計算單元分別讀取權重矩陣中不同區域的卷積核，并基于讀取到的卷積核對每個數據塊集進行并行卷積計算，得到每個數據塊集的運算結果；

對所述y個數據塊集的運算結果進行數據拼接，生成卷積結果。

2.如權利要求1所述的卷積計算方法，其特征在于，所述將所述x個輸入通道中每個輸入通道的數據劃分為y個數據塊，包括：

將每個輸入通道的數據劃分為y個大小相同的數據塊；其中，每個數據塊的長度方向包含的數據個數與每個卷積計算單元的乘累加器個數相同。

3.如權利要求1所述的卷積計算方法，其特征在于，所述方法還包括：

根據所述神經網絡處理器包含的卷積計算單元的個數，確定每個卷積計算單元需讀取的卷積核的區域；

根據每個卷積計算單元的數據存儲能力以及需讀取的卷積核的區域，確定每個卷積計算單元計算所述每個數據塊集的卷積核讀取次數。

4.如權利要求3所述的卷積計算方法，其特征在于，所述多個卷積計算單元分別讀取權重矩陣中不同區域的卷積核，并基于讀取到的卷積核對每個數據塊集進行并行卷積計算，得到每個數據塊集的運算結果，包括：

針對每個卷積計算單元，所述卷積計算單元按照預設順序讀取該卷積計算單元對應的預設區域的卷積核，并根據讀取得到的卷積核計算當前數據塊集的中間卷積結果；所述預設順序根據所述卷積計算單元的卷積讀取次數確定；

對所述多個卷積計算單元的計算獲得的中間卷積結果進行拼接處理，得到當前數據塊集的運算結果。

5.如權利要求1所述的卷積計算方法，其特征在于，所述將所述y個數據塊集分批發送至所述多個卷積計算單元，包括：

針對每個數據塊集，按照所述x個輸入通道的排布順序依次將所述數據塊集中的x個數據塊發送至所述多個卷積計算單元。

6.如權利要求1所述的卷積計算方法，其特征在于，所述對所述y個數據塊集的運算結果進行數據拼接，生成卷積結果，包括：

按照所述y個數據塊集的運算順序進行拼接處理，生成卷積結果。

7.如權利要求1所述的卷積計算方法，其特征在于，所述神經網絡處理器還包括全局數據存儲單元；

所述方法還包括：

將劃分后的x個輸入通道的待處理數據保存至所述全局數據存儲單元。

8.一種卷積計算裝置，其特征在于，適用于一種神經網絡處理器，所述神經網絡處理器包括多個卷積計算單元，所述待處理數據包含x個輸入通道；

所述裝置包括：

劃分模塊，用于將所述x個輸入通道中每個輸入通道的數據劃分為y個數據塊；

組合模塊，用于將劃分后的x個輸入通道的相同位置的數據塊組成一個數據塊集，生成y個數據塊集；

發送模塊，用于將所述y個數據塊集分批發送至所述多個卷積計算單元；

計算模塊，用于通過所述多個卷積計算單元分別讀取權重矩陣中不同區域的卷積核，并基于讀取到的卷積核對每個數據塊集進行并行卷積計算，得到每個數據塊集的運算結果；

拼接模塊，用于對所述y個數據塊集的運算結果進行數據拼接，生成卷積結果。

9.一種卷積計算設備，包括存儲器、處理器以及存儲在所述存儲器中并可在所述處理器上運行的計算機程序，其特征在于，所述處理器執行所述計算機程序時實現如權利要求1至7任一項所述方法的步驟。

10.一種計算機可讀存儲介質，所述計算機可讀存儲介質存儲有計算機程序，其特征在于，所述計算機程序被處理器執行時實現如權利要求1至7任一項所述方法的步驟。