[發明專利]一種數據處理方法、裝置、芯片、設備及介質

在審

• 申請號: 202111282230.8
• 申請日: 2021-11-01
• 公開（公告）號: CN114037054A
• 公開（公告）日: 2022-02-11
• 發明（設計）人: 張靜;周全
• 申請（專利權）人: 青島信芯微電子科技股份有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/063;G06F12/02;G06F15/78
• 代理公司: 北京同達信恒知識產權代理有限公司 11291
• 代理人: 杜晶

本申請公開了一種數據處理方法、裝置、芯片、設備及介質，用以解決現有技術神經網絡的計算速度慢的問題。由于在本申請中，電子設備可以根據內存的存儲空間和神經網絡層中卷積核的第一尺寸，確定輸出數據的第二尺寸和卷積核的數量；根據所述輸出數據的第二尺寸，確定輸入數據的第三尺寸；根據所述輸入數據的第三尺寸和所述卷積核的數量，對外存中的數據進行切分，將切分后的數據輸入到內存中，無需每次計算時都進行一次數據搬運，可以降低數據搬運次數和搬運重復率，以及可以提高數據的復用率，進而提高神經網絡的計算速度。

技術領域

本申請涉及深度學習技術領域，尤其涉及一種數據處理方法、裝置、芯片、設備及介質。

背景技術

隨著芯片計算能力的增強，神經網絡尤其是圖像處理的神經網絡中，每個神經網絡層都會有大量特征數據和卷積核數據的輸入輸出。大量的特征數據和卷積核數據通常保存在存儲空間大但讀取速度較慢的外存中，每次使用時需要將這些數據從外存搬運到存儲空間較小但讀取速度較快的內存中，供芯片進行使用。

由于內存大小有限，可能無法將外存中的特征數據和卷積核數據一次性搬運到內存中。一般這種情況下，按照芯片使用數據的先后順序，先從外存中獲取本層當前所需輸入的特征數據和卷積核數據，可能包括前一個神經網絡層輸出的特征數據，搬運至內存中進行乘加計算單元、激活計算單元以及池化計算單元等計算，然后將輸出的特征數據搬運至外存中作為下一個神經網絡層的輸入，重復多次，直至完成所有神經網絡層的計算。

可見，每次計算時都從外存中獲取所需的特征數據和卷積核數據，以及在每次計算后將輸出的特征數據保存在外存中，特征數據和卷積核數據的搬運量較多，導致神經網絡的計算速度較慢。

發明內容

本申請提供了一種數據處理方法、裝置、芯片、設備及介質，用以解決現有技術神經網絡的計算速度慢的問題。

本申請實施例提供一種數據處理方法，所述方法包括：

根據內存的存儲空間和神經網絡層中卷積核的第一尺寸，確定輸出數據的第二尺寸和卷積核的數量；

根據所述輸出數據的第二尺寸，確定輸入數據的第三尺寸；

根據所述輸入數據的第三尺寸和所述卷積核的數量，對外存中的數據進行切分，將切分后的數據輸入到內存中。

進一步地，所述根據內存的存儲空間和神經網絡層中卷積核的第一尺寸，確定輸出數據的第二尺寸和卷積核的數量，包括：

根據所述卷積核的第一尺寸、所述卷積核的第一通道數和一組卷積核的數量，確定所述一組卷積核對應的第一數據量；

根據輸出數據的初始尺寸，確定輸入數據的初始尺寸；

根據所述第一數據量、所述輸出數據的初始尺寸和所述輸入數據的初始尺寸，確定一次計算對應的第二數據量；

如果所述第二數據量超過所述內存的存儲空間，和/或如果所述輸入數據的初始尺寸大于或等于設定尺寸，對所述輸出數據的初始尺寸進行調整，直至調整后的第二數據量小于或等于所述內存的存儲空間，且調整后的輸入數據的初始尺寸小于所述設定尺寸；

如果所述第二數據量超過所述內存的存儲空間，且所述輸入數據的初始尺寸小于所述設定尺寸，將所述輸出數據的初始尺寸確定為所述輸出數據的第二尺寸。

進一步地，所述根據內存的存儲空間和神經網絡層中卷積核的第一尺寸，確定卷積核的數量，包括：

根據所述內存的存儲空間、所述輸出數據的第二尺寸和所述一組卷積核對應的第一數據量，確定卷積核的組數，并確定所述組數的卷積核的數量。

進一步地，所述對外存中的數據進行切分，包括：

對所述外存中的數據進行重新排布，對重新排布后的數據進行切分。