[發明專利]數據處理方法及數據處理裝置

在審

• 申請號: 202111454533.3
• 申請日: 2021-11-30
• 公開（公告）號: CN114119344A
• 公開（公告）日: 2022-03-01
• 發明（設計）人: 徐新濤;陳剛;魯華祥;邊昳
• 申請（專利權）人: 中國科學院半導體研究所;中國科學技術大學
• 主分類號: G06T1/60
• 分類號: G06T1/60;G06V10/75;G06V10/82;G06N3/04;G06N3/063
• 代理公司: 中科專利商標代理有限責任公司 11021
• 代理人: 張博

本公開提供了一種數據處理方法及數據處理裝置，可以應用于人工智能技術領域。該方法包括：從第一緩存中獲取待處理圖像的數據矩陣和目標卷積層的權重矩陣；將數據矩陣和權重矩陣按行分割為多個數據流，并分別寫入多個第二緩存中，其中，每個第二緩存具有對應的計算單元；對于每個第二緩存，在第二緩存中的已寫入數據流滿足計算窗口需求的情況下，基于預設步長，將已寫入數據流構建第一數據序列和第二數據序列；基于預設步長，將第一數據序列和第二數據序列分別從計算單元的兩側輸入，其中，計算單元包括串聯的多個計算節點；以及將多個計算節點累加的部分積輸入加法樹中，得到當前計算窗口的輸出值。

技術領域

本公開涉及人工智能技術領域，具體涉及神經網絡加速計算領域，更具體地，涉及一種數據處理方法及數據處理裝置。

背景技術

目前邊緣設備如自動駕駛等領域的計算需要在資源和功耗低的情況下滿足計算精度高和計算延遲小的特點，而相關技術的計算能力無法滿足如雙目深度估計等實際應用。制約計算能力的主要原因是輸入數據量大，無法滿足計算所需輸入的數據量，因而在計算過程中需要完成大量數據傳輸，增加了數據通信開銷。

現階段，輸入數據速率與計算能力不匹配的問題是專用加速器面臨的挑戰，而對于雙目深度估計等應用，計算實時性要求高，尤其是雙目視覺算法中，要求同時計算左圖與右圖兩個數據流，且要求兩個數據流同時輸出。相關技術中的邊緣端設備受功耗和設備面積的制約，利用極低的硬件成本同時計算兩個數據流具有十分重要的意義。

發明內容

有鑒于此，本公開提供了一種數據處理方法及數據處理裝置。

本公開的一個方面提供了一種數據處理方法，包括：

從第一緩存中獲取待處理圖像的數據矩陣和目標卷積層的權重矩陣；

將上述數據矩陣和上述權重矩陣按行分割為多個數據流，并分別寫入多個第二緩存中，其中，每個上述第二緩存具有對應的計算單元；

對于每個上述第二緩存，在上述第二緩存中的已寫入數據流滿足計算窗口需求的情況下，基于預設步長，將上述已寫入數據流構建第一數據序列和第二數據序列；

基于上述預設步長，將上述第一數據序列和上述第二數據序列分別從上述計算單元的兩側輸入，其中，上述計算單元包括串聯的多個計算節點；以及

將多個上述計算節點累加的部分積輸入加法樹中，得到當前計算窗口的輸出值。

根據本公開的實施例，其中，上述數據矩陣的維度為M，上述權重矩陣的維度為N，其中，上述M為正整數，上述N為小于M的正整數；

其中，將上述數據矩陣和上述權重矩陣按行分割為多個數據流，包括：

對上述數據矩陣和上述權重矩陣按行進行分割，得到M個數據向量和N個權重向量；以及

將M個上述數據向量中的第(kN+i)個上述數據向量和N個上述權重向量中的第i個上述權重向量構建為第i個上述數據流，其中，上述k為0或小于M/N的正整數，上述i為小于或等于N的正整數。

根據本公開的實施例，上述數據處理方法還包括：

在上述已寫入數據流中包括上述數據向量的N個激活值和上述權重向量的N個權重值的情況下，確定上述已寫入數據流滿足上述計算窗口需求。

根據本公開的實施例，其中，上述基于預設步長，將上述已寫入數據流構建第一數據序列和第二數據序列，包括：

以上述預設步長為間隔，基于上述已寫入數據流中的N個激活值來構建第一數據序列；以及

以上述預設步長為間隔，基于上述已寫入數據流中的N個權重值來構建第二數據序列。

根據本公開的實施例，其中，