[發明專利]一種基于卷積神經網絡算法的集成電路加速計算的方法及系統

有效

• 申請號: 201910368448.1
• 申請日: 2019-05-05
• 公開（公告）號: CN110188869B
• 公開（公告）日: 2021-08-10
• 發明（設計）人: 王成;龍舟
• 申請（專利權）人: 北京中科匯成科技有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06N3/04
• 代理公司: 北京市廣友專利事務所有限責任公司 11237
• 代理人: 張仲波

本發明屬于人工智能技術領域，尤其涉及一種基于卷積神經網絡算法的集成電路加速計算的方法及系統，其中，該系統包括將卷積核數據和外部數據從不同方向并行地輸入到乘法累加器單元隊列，乘法累加器單元隊列中每個乘法累加器單元同時并行地對流經其內部的卷積核數據和外部數據分別進行相應的乘法累加處理，并分別輸出于數據存儲單元，本發明解決了現有技術存在由于卷積神經網絡的一個缺點是其運算量巨大，在集成電路或嵌入式設備上不容易實時運算，以串行架構為主的傳統處理器不容易達到要求，因此，如何快速完成卷積神經網絡運算就是需要解決的重要問題，本發明具有讀取次數少和運算吞吐率高、寬帶要求低的特點，并大幅提高了卷積神經網絡運算的實時性的有益技術效果。

技術領域

本發明屬于人工智能技術領域，尤其涉及一種基于卷積神經網絡算法的集成電路加速計算的方法，同時，本發明還提供一種基于卷積神經網絡算法的集成電路加速計算的系統。

背景技術

卷積神經網絡是一種前饋神經網絡，常應用于圖像識別，一般包括卷積層、池化層和全連接層，卷積層的卷積操作是，卷積核中的每一個權值與其對應的輸入數據點對點相乘，然后將點乘結果累加，得到輸出的一個數據，之后，根據卷積層的步長設定，滑動卷積核，重復上述操作，現有技術存在由于卷積神經網絡的一個缺點是其運算量巨大，在集成電路或嵌入式設備上不容易實時運算，以串行架構為主的傳統處理器不容易達到要求，因此，如何快速完成卷積神經網絡運算就是需要解決的重要問題。

發明內容

本發明提供一種基于卷積神經網絡算法的集成電路加速計算的方法及系統，以解決上述背景技術中提出現有技術存在由于卷積神經網絡的一個缺點是其運算量巨大，在集成電路或嵌入式設備上不容易實時運算，以串行架構為主的傳統處理器不容易達到要求，因此，如何快速完成卷積神經網絡運算就是需要解決的重要問題。

本發明所解決的技術問題采用以下技術方案來實現：一種基于卷積神經網絡算法的集成電路加速計算的方法，包括：

將卷積核數據和外部數據從不同方向并行地輸入到乘法累加器單元隊列；

乘法累加器單元隊列中每個乘法累加器單元同時并行地對流經其內部的卷積核數據和外部數據分別進行相應的乘法累加處理，并分別輸出于數據存儲單元。

進一步，所述方法還包括：

將至少一個卷積核數據分別輸入相應的乘法累加器單元；

將輸入隊列中的外部數據按照隊列順序分別輸入相應的乘法累加器單元；

通過多級流水線技術，將每列乘法累加器單元中的卷積核數據和外部數據同時并行地進行卷積運算。

進一步，所述方法還包括：

所述卷積核數據為預先設計的卷積核矩陣，所述外部數據為外部輸入設備連續產生的數據；

將預先設計的卷積核矩陣和外部輸入設備連續產生的數據經外部存儲讀取引擎讀入，將讀取引擎讀入的數據中的卷積核和外部數據通過數據分配分別分配于卷積核數據輸入隊列和首部數據預處理緩沖區以及相應的數據輸入隊列，其中，外部數據的首部數據分配于首部數據預處理緩沖區，其非首部數據分配于相應的數據輸入隊列，卷積核數據輸入隊列將每一個卷積核相應分配于一列乘法累加器單元隊列的相應的乘法累加器單元，數據預處理緩沖區將外部數據的首部數據輸出于乘法累加器單元隊列的相應的乘法累加器單元，相應的數據輸入隊列將外部數據的非首部數據循環輸出于乘法累加器單元隊列的相應的乘法累加器單元，乘法累加器單元隊列的相應的乘法累加器進行相應的乘法累加運算并將相應的乘法累加運算的結果分別輸出于輸出數據存儲。

進一步，所述外部輸入設備連續產生的數據為外部數據，則卷積神經網絡CNN運算函數為：

卷積運算的結果＝卷積核矩陣x外部數據矩陣；

卷積核矩陣：線性關系的卷積核數據矩陣；