[發明專利]數據讀取方法及數據讀取系統

在審

• 申請號: 201911360244.X
• 申請日: 2019-12-25
• 公開（公告）號: CN111105026A
• 公開（公告）日: 2020-05-05
• 發明（設計）人: 馬向華;邊立劍;馬成森
• 申請（專利權）人: 上海安路信息科技有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06F12/02
• 代理公司: 上海恒銳佳知識產權代理事務所(普通合伙) 31286
• 代理人: 黃海霞

本發明提供了一種數據讀取方法，包括提供數據讀取系統，所述數據讀取系統包括控制單元和至少一個數據存儲單元；所述控制單元依次判斷所有所述數據存儲單元的數據深度是否小于第一閾值；若所述數據存儲單元的數據深度小于所述第一閾值，則所述控制單元從外存儲器讀取卷積數據，將多次小長度的數據請求轉換為少次大長度的數據請求，從而減少對所述外存儲器的讀取次數，提高了對所述外存儲器的讀取效率；所述控制單元將所述卷積數據存儲到所述數據存儲單元，以便于卷積加速單元從所述數據存儲單元讀取所述卷積數據。本發明還提供了一種用于實現所述數據讀取方法的數據讀取系統。

技術領域

本發明涉及神經網絡加速器技術領域，尤其涉及一種數據讀取方法及數據讀取系統。

背景技術

神經網絡加速器與外部隨機存取存儲器(Random Access Memory，RAM)相連的總線帶寬利用率和數據吞吐率低導致計算延時大，無法滿足卷積數據量大的實時性應用。

現有技術中，具有多卷積子模塊的系統能夠提高系統計算的并行度，但其片外RAM的數據寬度大，導致單子模塊數據請求次數多、單次數據請求長度短以及子模塊相互之間數據請求并發度高，從而容易引起數據請求沖突，嚴重的降低了系統對片外RAM中存儲數據的讀寫效率。

因此，有必要提供一種新型的數據讀取方法及數據讀取系統以解決現有技術中存在的上述問題。

發明內容

本發明的目的在于提供一種數據讀取方法及數據讀取系統，提高神經網絡加速器對片外RAM中數據的讀取效率。

為實現上述目的，本發明的所述數據讀取方法，包括以下步驟：

S0：提供數據讀取系統，所述數據讀取系統包括控制單元和至少一個數據存儲單元，所述數據存儲單元均與所述控制單元連接，所述數據存儲單元與卷積加速單元一一對應連接，所述控制單元與外存儲器連接；

S1：所述控制單元依次判斷所有所述數據存儲單元的數據深度是否小于第一閾值；

S2：若所述數據存儲單元的數據深度小于所述第一閾值，則所述控制單元從所述外存儲器讀取卷積數據；

S3：所述控制單元將所述卷積數據存儲到所述數據存儲單元，以便于所述卷積加速單元從所述數據存儲單元讀取所述卷積數據。

本發明的有益效果在于：所述數據存儲單元的數據深度小于所述第一閾值，則所述控制單元從所述外存儲器讀取卷積數據，所述卷積加速單元從所述數據存儲單元讀取所述卷積數據，將多次小長度的數據請求轉換為少次大長度的數據請求，從而減少了數據讀取次數，提高了對所述外存儲器的讀取效率。

優選地，所述數據讀取方法還包括所述控制單元進行初始化操作，以配置所述數據存儲單元的起始地址信息。其有益效果在于：配置所述數據存儲單元的起始地址信息，避免了數據讀取錯誤。

優選地，所述步驟S2還包括所述控制單元根據起始地址信息和總線數據寬度信息得到新起始地址信息。

進一步優選地，所述步驟S2中，所述控制單元根據所述起始地址信息從所述外存儲器讀取所述卷積數據。

進一步優選地，所述步驟S2還包括所述控制單元將所述數據存儲單元的標識信息和數據長度信息存儲到信息存儲單元。

進一步優選地，所述步驟S3中，所述控制單元從所述信息存儲單元讀取所述標識信息，然后根據所述標識信息將所述卷積數據存儲到所述數據存儲單元。其有益效果在于：保證了所述控制單元將所述卷積數據傳遞給相對應的所述數據存儲單元。

優選地，所述卷積加速單元判斷所述數據存儲單元的數據深度大于第二閾值，且所述卷積加速單元具有數據需求時，所述卷積加速單元從所述數據存儲單元讀取所述卷積數據。其有益效果在于：避免了所述卷積加速單元向無數據的所述數據存儲單元中發起數據讀取請求，減少了資源的浪費。