[發明專利]多級存儲器層級結構

有效

• 申請號: 201910840764.4
• 申請日: 2019-09-06
• 公開（公告）號: CN110888824B
• 公開（公告）日: 2022-04-22
• 發明（設計）人: 金向東;周芬;熊成玉
• 申請（專利權）人: 黑芝麻智能科技（上海）有限公司
• 主分類號: G06F12/0811
• 分類號: G06F12/0811;G06N3/063
• 代理公司: 華進聯合專利商標代理有限公司 44224
• 代理人: 景懷宇

1.一種在卷積神經網絡中分層構造多級存儲器的方法，包括：

將存儲器劃分為多個部分；

將所述多個部分劃分為多個條帶；

在MAC陣列中利用來自所述多個條帶的輸入數據；

將中間結果從所述MAC陣列輸出到結果緩沖器的所述多個條帶中的至少一個條帶；

將所述中間結果從所述結果緩沖器的所述多個條帶中的至少一個條帶回送到輸入數據緩沖器的所述多個條帶中的至少一個條帶，形成鏈接的處理順序；和

將最終結果從所述結果緩沖器的所述多個條帶中的至少一個條帶輸出到輸出緩沖器的所述多個條帶中的至少一個條帶。

2.根據權利要求1所述的分層構造多級存儲器的方法，還包括：

劃分出MAC權重緩沖器部分；

劃分出輸入數據緩沖器部分；

劃分出結果緩沖器部分；

劃分出輸出緩沖器部分；

劃分出共享數據緩沖器部分；

劃分出位測試權重存儲器部分；

劃分出位測試數據存儲器部分；和

劃分出外部隨機存取存儲器部分。

3.根據權利要求2所述的分層構造多級存儲器的方法，還包括：

將所述輸入數據緩沖器部分劃分為多個輸入緩沖數據條帶；

將所述結果緩沖器部分劃分為多個結果緩沖器條帶；

將所述輸出緩沖器部分劃分為多個輸出緩沖器條帶；

將所述共享數據緩沖器部分劃分為多個共享數據條帶；和

將所述位測試數據存儲器部分劃分為多個位測試數據存儲器條帶。

4.根據權利要求3所述的分層構造多級存儲器的方法，還包括：

從所述外部隨機存取存儲器部分接收權重和輸入數據；

對來自所述位測試權重存儲器部分的權重進行解壓縮；和

將解壓縮的權重存儲在所述MAC權重緩沖器部分中。

5.根據權利要求4所述的分層構造多級存儲器的方法，還包括：

將輸入數據從所述位測試數據存儲器部分導入到所述共享數據緩沖器部分的所述多個條帶中的至少一個條帶；

將所述輸入數據從所述共享數據緩沖器部分的所述多個條帶中的至少一個條帶導入到所述輸入數據緩沖器部分的所述多個條帶中的至少一個條帶；和

在所述MAC陣列處從所述MAC權重緩沖器部分和所述輸入數據緩沖器部分接收權重。

6.根據權利要求5所述的分層構造多級存儲器的方法，還包括：

將所述最終結果從所述輸出緩沖器部分的所述多個條帶中的至少一個條帶輸出到所述共享數據緩沖器部分的所述多個條帶中的至少一個條帶；

將所述最終結果從所述共享數據緩沖器部分的所述多個條帶中的至少一個條帶輸出到所述位測試數據存儲器部分的所述多個條帶中的至少一個條帶；和

將所述最終結果從所述位測試數據存儲器部分的所述多個條帶中的至少一個條帶輸出到所述外部隨機存取存儲器部分。

7.根據權利要求6所述的分層構造多級存儲器的方法，還包括：

存儲數據集的寬度分量，使得寬度分量在存儲器陣列中沿第一地址方向線性增加；

存儲所述數據集的高度分量，使得高度分量在所述存儲器陣列中沿與所述第一地址方向正交的第二地址方向線性增加；和

存儲所述數據集的深度分量，使得深度分量在所述存儲器陣列中沿與所述第一地址方向和所述第二地址方向對稱的第三地址方向線性增加。

8.根據權利要求3所述的分層構造多級存儲器的方法，還包括：

將所述多個輸入緩沖數據條帶劃分為多個輸入緩沖數據塊；

將所述多個結果緩沖器條帶劃分為多個結果緩沖器塊；

將所述多個輸出緩沖器條帶劃分為多個輸出緩沖器塊；

將所述多個輸出緩沖器條帶劃分為多個共享數據塊；和

將所述多個輸出緩沖器條帶劃分為多個位測試數據存儲器塊。