[發明專利]一種避免眾核架構芯片前向計算數據交疊的網絡訓練方法

在審

• 申請號: 202110981665.5
• 申請日: 2021-08-25
• 公開（公告）號: CN113705785A
• 公開（公告）日: 2021-11-26
• 發明（設計）人: 李國齊;楊玉寬;杜宇
• 申請（專利權）人: 清華大學
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/063;G06N3/08
• 代理公司: 北京林達劉知識產權代理事務所(普通合伙) 11277
• 代理人: 劉新宇

本公開涉及一種避免眾核架構芯片前向計算數據交疊的網絡訓練方法。針對任一目標功能核，該方法包括：針對目標功能核的任一次卷積運算，根據卷積處理的卷積核尺寸及卷積步長，確定與該次卷積運算對應的運算數據中各個數據的第二數據標識；當存在超出第一數據標識的第二數據標識時，從存儲空間中讀取與未超出第一數據標識的第二數據標識對應的運算數據，并將與超出第一數據標識的第二數據標識對應的運算數據設置為零；根據與該次卷積運算對應的運算數據以及權值數據，執行卷積運算，得到該次卷積運算的運算結果。該方法可節約功能核的緩存資源，并減少功能核間的數據通信，從而提高多核多芯片系統的計算效率。

技術領域

本公開涉及信息處理技術領域，尤其涉及一種避免眾核架構芯片前向計算數據交疊的網絡訓練方法、處理器、芯片及電子設備。

背景技術

隨著人工智能(Artificial Intelligence，AI)的發展重心逐漸從云端向終端轉移，相伴而生的是全新一代的計算芯片產業的崛起。非傳統的AI計算專用芯片的理論框架、架構體系、映射方法等，已成為人工智能領域研究的新方向，并被認為是第四次工業革命的引擎。

在多核多芯片系統中(例如包括眾核架構芯片系統)，由于功能核存儲和計算能力的限制，一個功能核或一個芯片的計算資源不可以滿足大規模神經網絡的需求，如果將大規模的神經網絡切分映射在單個功能核或單個芯片上，計算的時間將非常大。因此，神經網絡模型可拆分到不同功能核中以進行眾核并行的計算。以卷積神經網絡為例，在卷積運算過程需要利用拆分到不同功能核的神經元的情況，就可能會產生數據交疊的問題，例如前向計算數據的交疊問題。

發明內容

有鑒于此，本公開提出了一種避免眾核架構芯片前向計算數據交疊的網絡訓練方法、處理器、芯片及電子設備。

根據本公開的一方面，提供了一種數據處理方法，所述方法應用于處理器，所述處理器包括多個功能核，所述多個功能核中包括用于執行卷積處理的目標功能核，所述目標功能核的存儲空間中緩存有所述卷積處理的處理子數據及權值數據，所述處理子數據是對所述卷積處理的處理數據拆分得到的，所述處理子數據中的各個數據具有第一數據標識，針對任一目標功能核，所述方法包括：針對所述目標功能核的任一次卷積運算，根據所述卷積處理的卷積核尺寸及卷積步長，確定與該次卷積運算對應的運算數據中各個數據的第二數據標識；當存在超出所述第一數據標識的第二數據標識時，從所述存儲空間中讀取與未超出所述第一數據標識的第二數據標識對應的運算數據，并將與超出所述第一數據標識的第二數據標識對應的運算數據設置為零；根據與該次卷積運算對應的運算數據以及所述權值數據，執行卷積運算，得到該次卷積運算的運算結果。

在一種可能的實現方式中，針對任一目標功能核，所述方法還包括：當不存在超出所述第一數據標識的第二數據標識時，從所述存儲空間中讀取與所述第二數據標識對應的運算數據；根據與該次卷積運算對應的運算數據以及所述權值數據，執行卷積運算，得到該次卷積運算的運算結果；根據所述目標功能核的多次卷積運算的運算結果，確定所述目標功能核的處理子結果。

在一種可能的實現方式中，所述方法還包括：根據所述多個功能核的存儲空間的容量以及所述權值數據的尺度，確定所述處理數據的處理子數據的拆分尺度，并從所述多個功能核中確定出目標功能核；根據所述拆分尺度，對所述處理數據進行拆分，得到多個處理子數據；分別向各個目標功能核發送所述處理子數據及所述權值數據，以使目標功能核緩存所述處理子數據及所述權值數據。

在一種可能的實現方式中，所述方法還包括：在接收到來自各個目標功能核的處理子結果時，對各個處理子結果進行融合，得到所述卷積處理的處理結果。

在一種可能的實現方式中，根據所述多個功能核的存儲空間的容量以及所述權值數據的尺度，確定所述處理數據的處理子數據的拆分尺度，包括：根據所述多個功能核的存儲空間的容量以及所述權值數據的尺度，確定目標功能核針對所述處理子數據的存儲子空間的容量；根據所述存儲子空間的容量，確定所述處理子數據的拆分尺度，所述拆分尺度包括高度方向的第一尺度和寬度方向的第二尺度。