[發明專利]一種避免眾核架構芯片前向計算數據交疊的網絡訓練方法在審
| 申請號: | 202110981665.5 | 申請日: | 2021-08-25 |
| 公開(公告)號: | CN113705785A | 公開(公告)日: | 2021-11-26 |
| 發明(設計)人: | 李國齊;楊玉寬;杜宇 | 申請(專利權)人: | 清華大學 |
| 主分類號: | G06N3/04 | 分類號: | G06N3/04;G06N3/063;G06N3/08 |
| 代理公司: | 北京林達劉知識產權代理事務所(普通合伙) 11277 | 代理人: | 劉新宇 |
| 地址: | 100084*** | 國省代碼: | 北京;11 |
| 權利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關鍵詞: | 一種 避免 架構 芯片 計算 數據 交疊 網絡 訓練 方法 | ||
1.一種數據處理方法,其特征在于,所述方法應用于處理器,所述處理器包括多個功能核,所述多個功能核中包括用于執行卷積處理的目標功能核,所述目標功能核的存儲空間中緩存有所述卷積處理的處理子數據及權值數據,所述處理子數據是對所述卷積處理的處理數據拆分得到的,所述處理子數據中的各個數據具有第一數據標識,
針對任一目標功能核,所述方法包括:
針對所述目標功能核的任一次卷積運算,根據所述卷積處理的卷積核尺寸及卷積步長,確定與該次卷積運算對應的運算數據中各個數據的第二數據標識;
當存在超出所述第一數據標識的第二數據標識時,從所述存儲空間中讀取與未超出所述第一數據標識的第二數據標識對應的運算數據,并將與超出所述第一數據標識的第二數據標識對應的運算數據設置為零;
根據與該次卷積運算對應的運算數據以及所述權值數據,執行卷積運算,得到該次卷積運算的運算結果。
2.根據權利要求1所述的方法,其特征在于,針對任一目標功能核,所述方法還包括:
當不存在超出所述第一數據標識的第二數據標識時,從所述存儲空間中讀取與所述第二數據標識對應的運算數據;
根據與該次卷積運算對應的運算數據以及所述權值數據,執行卷積運算,得到該次卷積運算的運算結果;
根據所述目標功能核的多次卷積運算的運算結果,確定所述目標功能核的處理子結果。
3.根據權利要求1所述的方法,其特征在于,所述方法還包括:
根據所述多個功能核的存儲空間的容量以及所述權值數據的尺度,確定所述處理數據的處理子數據的拆分尺度,并從所述多個功能核中確定出目標功能核;
根據所述拆分尺度,對所述處理數據進行拆分,得到多個處理子數據;
分別向各個目標功能核發送所述處理子數據及所述權值數據,以使目標功能核緩存所述處理子數據及所述權值數據。
4.根據權利要求2所述的方法,其特征在于,所述方法還包括:
在接收到來自各個目標功能核的處理子結果時,對各個處理子結果進行融合,得到所述卷積處理的處理結果。
5.根據權利要求3所述的方法,其特征在于,根據所述多個功能核的存儲空間的容量以及所述權值數據的尺度,確定所述處理數據的處理子數據的拆分尺度,包括:
根據所述多個功能核的存儲空間的容量以及所述權值數據的尺度,確定目標功能核針對所述處理子數據的存儲子空間的容量;
根據所述存儲子空間的容量,確定所述處理子數據的拆分尺度,所述拆分尺度包括高度方向的第一尺度和寬度方向的第二尺度。
6.根據權利要求5所述的方法,其特征在于,所述處理數據包括高度、寬度、通道、批次四個維度,
其中,根據所述拆分尺度,對所述處理數據進行拆分,得到多個處理子數據,包括:
根據所述第一尺度和所述第二尺度,對所述處理數據的高度方向和寬度方向分別進行拆分,得到所述多個處理子數據,
其中,所述處理數據在通道和批次的維度上不拆分。
7.根據權利要求1-6中任一項所述的方法,其特征在于,所述處理數據包括圖像數據、聲音數據、文字數據中的任意一種。
8.一種處理器,其特征在于,所述處理器包括多個功能核,所述多個功能核中包括用于執行卷積處理的目標功能核,所述目標功能核的存儲空間中緩存有所述卷積處理的處理子數據及權值數據,所述處理子數據是對所述卷積處理的處理數據拆分得到的,所述處理子數據中的各個數據具有第一數據標識,
針對任一目標功能核的任一次卷積運算,所述目標功能核用于根據所述卷積處理的卷積核尺寸及卷積步長,確定與該次卷積運算對應的運算數據中各個數據的第二數據標識;
當存在超出所述第一數據標識的第二數據標識時,從所述存儲空間中讀取與未超出所述第一數據標識的第二數據標識對應的運算數據,并將與超出所述第一數據標識的第二數據標識對應的運算數據設置為零;
根據與該次卷積運算對應的運算數據以及所述權值數據,執行卷積運算,得到該次卷積運算的運算結果。
該專利技術資料僅供研究查看技術是否侵權等信息,商用須獲得專利權人授權。該專利全部權利屬于清華大學,未經清華大學許可,擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作,請聯系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/202110981665.5/1.html,轉載請聲明來源鉆瓜專利網。





