[發明專利]一種基于存內計算的卷積加速計算系統及方法

有效

• 申請號: 202011380470.7
• 申請日: 2020-11-30
• 公開（公告）號: CN112487750B
• 公開（公告）日: 2023-06-16
• 發明（設計）人: 婁冕;謝成民;楊靚;李立;金玉琳;朱吉喆
• 申請（專利權）人: 西安微電子技術研究所
• 主分類號: G06F30/39
• 分類號: G06F30/39;G06F17/15
• 代理公司: 西安通大專利代理有限責任公司 61200
• 代理人: 張海平

1.一種基于存內計算的卷積加速計算方法，其特征在于，包括以下步驟：

S1，在存儲模式下，將卷積核和輸入特征圖數據按行串行加載進存內計算IP中；

S2，當數據加載完畢后，在存內計算IP內首先以元素為單位逐位進行乘法運算，當一個元素乘法完成后再逐位進行加法運算獲得部分和累加結果；

S3，當一個元素的乘加運算結束后，如果一次卷積沒有結束，則保持卷積核不變，將輸入特征圖元素地址移動至下一個元素起始地址，重復進行乘法和加法運算，直至整個卷積核元素均執行完畢得到計算結果，將計算結果在存儲模式下進行讀取，即可完成存內計算的卷積加速計算。

2.根據權利要求1所述的一種基于存內計算的卷積加速計算方法，其特征在于，將卷積核與輸入特征圖的對應區域進行乘累加得到一個位置輸出結果，然后按步長在輸入特征圖上移動并進行相同操作。

3.根據權利要求1所述的一種基于存內計算的卷積加速計算方法，其特征在于，具體的，將卷積核的元素寫入SRAM每行固定位置，同時將輸入特征圖不同的數據加載到SRAM各行中，最終在列方向將形成初始化結果。

4.根據權利要求1所述的一種基于存內計算的卷積加速計算方法，其特征在于，當數據加載完畢后，在SRAM中進行列操作，并行執行乘法操作。

5.根據權利要求1所述的一種基于存內計算的卷積加速計算方法，其特征在于，在執行加法時，將加法結果空間高位補2個零，按位執行6個周期后即可完成加法操作。

6.一種基于存內計算的卷積加速計算系統，其特征在于，包括卷積加速器指令接口、計數器組和狀態機組；卷積加速指令接口用于接收處理器發出的卷積運算控制信號和待運算數據，并將接收到的卷積運算控制信號和待運算數據進行解析，將解析數據傳輸至計算器組；

計數器組根據解析數據有序進行存內計算IP初始化、乘法逐位計算、加法逐位計算以及操作數的切換，實現卷積進程的周期控制；狀態機組用于數據的加載、乘法與加法操作中源操作數與目的操作數地址的精確控制。

7.根據權利要求6所述的一種基于存內計算的卷積加速計算系統，其特征在于，卷積加速器指令接口將接收到處理器指令解析出存內計算IP的模式控制信號、初始化狀態機所使用的運算數據以及對計數器組的計數配置值，同時監控所有計數器的溢出信號，以確定運算的階段狀態，最終通過存內計算IP的讀數據端口取得卷積運算結果。

8.根據權利要求6所述的一種基于存內計算的卷積加速計算系統，其特征在于，計數器組包括行計數器、操作數位寬計數器、結果位寬計數器和卷積核元素計數器；

行計數器接收來自指令接口的待運算數據個數作為計數器預置值，在使能信號有效后即按周期自增計數，該計數器預置值作為使能信號控制初始化狀態機對存內計算IP按行加載數據；當計數值達到預置值時產生預置溢出信號，將預置溢出信號返回給指令接口同時發往下一級的操作數位寬計數器；

操作數位寬計數器接收指令接口的乘法操作數位寬作為計數預置值，當前一級行計數器溢出后，令乘法狀態機對存內計算IP按周期逐位進行乘法，同時最后一級卷積核元素計數器的溢出信號通過反相器后與行計數器的預置溢出信號經過與門作為使能信號，當操作數位寬計數值達到預置值時產生操作數溢出信號，將操作數溢出信號返回給指令接口同時發往下一級的結果位寬計數器；

結果位寬計數器接收指令接口的加法操作數位寬作為計數預置值，控制加法狀態機逐位進行累加操作，當結果位寬計數值達到預置值時產生結果溢出信號，結果溢出信號傳輸至下一級卷積核元素計數器；

卷積核元素計數器收來自指令接口的卷積核元素個數作為卷積核元素計數器預置值，當卷積核元素數值達到預置值時產生溢出信號，卷積核元素計數器的溢出信號通過反相器后與行計數器的預置溢出信號經過與門作為使能信號。