[發明專利]利用存算一體芯片實現遞進式CNN運算的方法

有效

• 申請號: 201910407923.1
• 申請日: 2019-05-16
• 公開（公告）號: CN111950718B
• 公開（公告）日: 2021-12-07
• 發明（設計）人: 王紹迪
• 申請（專利權）人: 北京知存科技有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063
• 代理公司: 暫無信息
• 代理人: 暫無信息

1.一種利用存算一體芯片實現遞進式CNN運算的方法，其特征在于，用于對一輸入特征圖進行CNN運算，所述CNN包括多個卷積層，所述輸入特征圖包括陣列排布的多個特征單元，所述存算一體芯片包括：用于進行矩陣乘加運算的閃存單元陣列以及用于緩存所述輸入特征圖的部分特征單元的片上存儲器；

所述利用存算一體芯片實現遞進式CNN的方法包括：

根據當前卷積層的卷積核判斷所述片上存儲器中緩存的特征單元是否包含當前待運算的特征單元；

若是，根據所述當前待運算的特征單元獲得一輸入特征數列；

將所述輸入特征數列輸入預存有權重數列的閃存單元列，以在所述閃存單元列的輸出端得到所述權重數列和所述輸入特征數列的矩陣乘加運算結果；

其中，所述輸入特征數列的元素數量等于所述權重數列的元素數量；

若否，控制讀取電路從外部存儲設備讀取輸入特征圖的特征單元并緩存至片上存儲器；

其中，不需要將所有輸入特征圖都讀到片上存儲器后再進行運算，邊輸入邊運算，當片上存儲器中的特征單元已經包含了當前待運算的特征單元，即可開始運算；而后從片外存儲器按順序讀取下一特征單元，存儲于片上存儲器，用于后續運算；

當片上存儲器中的特征單元等于(W*(h-1)+w)*k時，則片上存儲器中緩存的特征單元包含當前待運算的特征單元，即可開始當前卷積層的當前次卷積運算；并且，當待運算的特征單元所對應的輸入特征數列已經輸入閃存單元列后，刪除最開始存儲于片上存儲器的特征單元；

另外，所述利用存算一體芯片實現遞進式CNN運算的方法還包括：從片外存儲器按順序讀取下一特征單元，存儲于片上存儲器，使得片上存儲器中已經包含了下一次卷積時待運算的特征單元，即可開始下一次卷積運算；

其中，輸入特征圖尺寸為(W,H,K)，所述卷積核尺寸為(w,h,k)。

2.根據權利要求1所述的利用存算一體芯片實現遞進式CNN運算的方法，其特征在于，所述存算一體芯片還包括：用于從外部存儲設備讀取所述輸入特征圖的特征單元的讀取電路，

所述利用存算一體芯片實現遞進式CNN的方法還包括：

控制所述讀取電路從外部存儲設備讀取所述輸入特征圖的特征單元并緩存至所述片上存儲器。

3.根據權利要求1所述的利用存算一體芯片實現遞進式CNN運算的方法，其特征在于，所述存算一體芯片還包括：用于控制所述閃存單元陣列中每個閃存單元的權重的編程電路，所述利用存算一體芯片實現遞進式CNN的方法還包括：

根據所述卷積核獲得所述權重數列；

控制所述編程電路將所述權重數列寫入所述閃存單元列。

4.根據權利要求1所述的利用存算一體芯片實現遞進式CNN運算的方法，其特征在于，所述將所述輸入特征數列輸入預存有權重數列的閃存單元列之后，還包括：

刪除該片上存儲器中緩存的特征單元中被運算過的垃圾特征單元。

5.根據權利要求1所述的利用存算一體芯片實現遞進式CNN運算的方法，其特征在于，還包括：

將所述矩陣乘加運算結果作為下一卷積層的特征單元緩存至所述片上存儲器。

6.根據權利要求1所述的利用存算一體芯片實現遞進式CNN運算的方法，其特征在于，所述輸入特征圖尺寸為(W,H,K)，所述卷積核尺寸為(w,h,k)，個數為C；

所述根據所述CNN運算的卷積核判斷所述片上存儲器中緩存的特征單元是否包含當前待運算特征單元，包括：

判斷所述片上存儲器中緩存的特征單元的數量是否大于p；

p＝[W×(h-1)+w]×k。

7.根據權利要求3所述的利用存算一體芯片實現遞進式CNN運算的方法，其特征在于，所述根據所述卷積核獲得所述權重數列，包括：

按照預設順序獲取所述卷積核的元素，得到所述權重數列。