[發明專利]一種張量數據的數據載入裝置及方法

在審

• 申請號: 202110272918.1
• 申請日: 2021-03-12
• 公開（公告）號: CN112988621A
• 公開（公告）日: 2021-06-18
• 發明（設計）人: 楊旭光
• 申請（專利權）人: 蘇州芯啟微電子科技有限公司
• 主分類號: G06F12/0882
• 分類號: G06F12/0882;G06N3/04;G06N3/08
• 代理公司: 暫無信息
• 代理人: 暫無信息

1.一種張量數據的數據載入裝置，其特征在于，所述硬件裝置包括：

張量型隨機訪問控制器，對來自主存儲器或/和其他存儲器的輸入數據進行融合、排布以及數據格式轉化，再分發到輸入緩存單元的分割區域中，所述工作模式可通過軟件重配置；

可分割輸入緩存單元，是本發明所述的數據載入裝置的本地緩存，由多個存儲頁組成，設計及存儲方法與輸入數據的維度以及并行輸入寄存陣列相對應，支持所述軟件重配置帶來的數據格式的改變；

通用的張量型數據載入裝置，通過改變對可分割輸入緩存單元各個存儲頁的訪問格式，完成對張量數據的融合或重排，同時還具有數據補齊（padding）功能，再將處理后的數據載入到并行輸入寄存陣列；

并行輸入寄存陣列，向對深度卷積神經網絡并行加速計算單元陣列進行高帶寬的數據輸入。

2.根據權利要求1所述的數據載入裝置，其特征在于，包括：

對于主存儲器或/和其他存儲器中存儲的，關于深度卷積神經網絡算法層所輸出的特征圖，該裝置提供數據重排布的緩存及快速寄存區域，簡化了輸入數據排布的難度；

其中的可分割輸入緩存單元可以被反復訪問，被再訪問的數據格式更為規整；當其中的數據已經作廢時，可重新從主存儲器或/和其他存儲器中高效的寫入新數據；

對于數據輸入、參數數據輸入來說，該裝置及設計方法都是通用的，只有實現設計的參數不同。

3.根據權利要求1-2所述的數據載入裝置設計方法，其特征在于，其本地緩存單元分割為多個存儲頁，可由張量型輸入緩存隨機訪問控制器并行訪問多個頁；存儲頁及張量型數據載入裝置的設計與并行輸入寄存陣列的伸縮性相對應，滿足特定的設計公式;該設計方法能夠化簡該裝置中的硬件電路復雜度，降低面積和功耗。