[發(fā)明專利]數(shù)據(jù)處理方法、處理器、芯片及電子設(shè)備

在審

• 申請(qǐng)?zhí)枺?/td>: 202110184423.3
• 申請(qǐng)日: 2021-02-08
• 公開（公告）號(hào): CN112801278A
• 公開（公告）日: 2021-05-14
• 發(fā)明（設(shè)計(jì)）人: 徐海崢;裴京;王松;馬騁
• 申請(qǐng)（專利權(quán)）人: 清華大學(xué)
• 主分類號(hào): G06N3/04
• 分類號(hào): G06N3/04;G06N3/063;G06N3/08;G06F3/06
• 代理公司: 北京林達(dá)劉知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11277
• 代理人: 劉新宇

1.一種數(shù)據(jù)處理方法，其特征在于，所述方法應(yīng)用于處理器的計(jì)算核，所述處理器包括多個(gè)計(jì)算核，所述方法實(shí)現(xiàn)處理數(shù)據(jù)和權(quán)值數(shù)據(jù)的卷積運(yùn)算；

所述方法包括：

多個(gè)計(jì)算核之間進(jìn)行數(shù)據(jù)交換；

各計(jì)算核基于交換后的數(shù)據(jù)進(jìn)行并行運(yùn)算，得到并行運(yùn)算結(jié)果；

根據(jù)各計(jì)算核的并行運(yùn)算結(jié)果，確定處理數(shù)據(jù)和權(quán)值數(shù)據(jù)的卷積運(yùn)算結(jié)果；

其中，進(jìn)行數(shù)據(jù)交換的數(shù)據(jù)包括切分后的權(quán)值數(shù)據(jù)、切分后的處理數(shù)據(jù)和部分和數(shù)據(jù)中的一種，所述部分和數(shù)據(jù)是根據(jù)切分后的處理數(shù)據(jù)或切分后的權(quán)值數(shù)據(jù)得到的卷積運(yùn)算結(jié)果。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，進(jìn)行數(shù)據(jù)交換的數(shù)據(jù)包括切分后的權(quán)值數(shù)據(jù)，或者切分后的處理數(shù)據(jù)；所述權(quán)值數(shù)據(jù)或處理數(shù)據(jù)切分為n份；

多個(gè)計(jì)算核之間進(jìn)行數(shù)據(jù)交換，包括：

n個(gè)計(jì)算核之間進(jìn)行n-1輪數(shù)據(jù)交換，使得在n-1輪數(shù)據(jù)交換后，每個(gè)計(jì)算核均存儲(chǔ)過n份權(quán)值數(shù)據(jù)中的每一份，或者n份處理數(shù)據(jù)中的每一份；

各計(jì)算核基于交換后的數(shù)據(jù)進(jìn)行并行運(yùn)算，得到并行運(yùn)算結(jié)果，包括：

在每輪數(shù)據(jù)交換后，各計(jì)算核基于本輪數(shù)據(jù)交換中接收到的1份權(quán)值數(shù)據(jù)與所存儲(chǔ)的處理數(shù)據(jù)進(jìn)行卷積運(yùn)算，或者，基于本輪數(shù)據(jù)交換中接收到的1份處理數(shù)據(jù)與所存儲(chǔ)的權(quán)值數(shù)據(jù)進(jìn)行卷積運(yùn)算，并將卷積運(yùn)算的結(jié)果與該計(jì)算核之前得到的卷積運(yùn)算結(jié)果進(jìn)行累加，得到該計(jì)算核的并運(yùn)算結(jié)果；

根據(jù)各計(jì)算核的并行運(yùn)算結(jié)果，確定處理數(shù)據(jù)和權(quán)值數(shù)據(jù)的卷積運(yùn)算結(jié)果，包括：

將各計(jì)算核的并行運(yùn)算結(jié)果，作為該計(jì)算核中的處理數(shù)據(jù)與權(quán)值數(shù)據(jù)的卷積運(yùn)算結(jié)果。

3.根據(jù)權(quán)利要求1或2所述的方法，其特征在于，進(jìn)行數(shù)據(jù)交換的數(shù)據(jù)包括切分后的權(quán)值數(shù)據(jù)，所述權(quán)值數(shù)據(jù)按深度方向切分為n份，所述多個(gè)計(jì)算核包括n個(gè)計(jì)算核，每個(gè)計(jì)算核在初始狀態(tài)下存儲(chǔ)有處理數(shù)據(jù)，以及n份權(quán)值數(shù)據(jù)中的1份權(quán)值數(shù)據(jù)，每個(gè)計(jì)算核在初始狀態(tài)下存儲(chǔ)的權(quán)值數(shù)據(jù)不同；其中，n為整數(shù)；

多個(gè)計(jì)算核之間進(jìn)行數(shù)據(jù)交換，包括：

每個(gè)計(jì)算核對(duì)初始狀態(tài)下存儲(chǔ)的處理數(shù)據(jù)和1份權(quán)值數(shù)據(jù)進(jìn)行卷積運(yùn)算，之后在所述n個(gè)計(jì)算核中進(jìn)行n-1輪數(shù)據(jù)交換，在每輪數(shù)據(jù)交換中，每個(gè)計(jì)算核將初始存儲(chǔ)的1份權(quán)值數(shù)據(jù)交換至其他計(jì)算核中的一個(gè)，使得在n-1輪數(shù)據(jù)交換后，每個(gè)計(jì)算核均存儲(chǔ)過所述n份權(quán)值數(shù)據(jù)中的每一份；

各計(jì)算核基于交換后的數(shù)據(jù)進(jìn)行并行運(yùn)算，得到并行運(yùn)算結(jié)果，包括：

在每輪數(shù)據(jù)交換后，各計(jì)算核基于本輪數(shù)據(jù)交換中接收到的1份權(quán)值數(shù)據(jù)與所存儲(chǔ)的處理數(shù)據(jù)進(jìn)行卷積運(yùn)算，并將卷積運(yùn)算的結(jié)果與該計(jì)算核之前得到的卷積運(yùn)算結(jié)果進(jìn)行累加，得到該計(jì)算核的并運(yùn)算結(jié)果；

根據(jù)各計(jì)算核的并行運(yùn)算結(jié)果，確定處理數(shù)據(jù)和權(quán)值數(shù)據(jù)的卷積運(yùn)算結(jié)果，包括：

將各計(jì)算核的并行運(yùn)算結(jié)果，作為該計(jì)算核中的處理數(shù)據(jù)與權(quán)值數(shù)據(jù)的卷積運(yùn)算結(jié)果。

4.根據(jù)權(quán)利要求1或2所述的方法，其特征在于，進(jìn)行數(shù)據(jù)交換的數(shù)據(jù)包括切分后的處理數(shù)據(jù)，所述處理數(shù)據(jù)按深度方向切分為n份，所述多個(gè)計(jì)算核包括n個(gè)計(jì)算核，每個(gè)計(jì)算核在初始狀態(tài)下存儲(chǔ)有權(quán)值數(shù)據(jù)，以及n份處理數(shù)據(jù)中的1份處理數(shù)據(jù)，每個(gè)計(jì)算核在初始狀態(tài)下存儲(chǔ)的處理數(shù)據(jù)不同；

多個(gè)計(jì)算核之間進(jìn)行數(shù)據(jù)交換，包括：

每個(gè)計(jì)算核對(duì)初始狀態(tài)下存儲(chǔ)的權(quán)值數(shù)據(jù)和1份處理數(shù)據(jù)進(jìn)行卷積運(yùn)算，之后在所述n個(gè)計(jì)算核中進(jìn)行n-1輪數(shù)據(jù)交換，在每輪數(shù)據(jù)交換中，每個(gè)計(jì)算核將初始存儲(chǔ)的1份處理數(shù)據(jù)交換至其他計(jì)算核中的一個(gè)，使得在n-1輪數(shù)據(jù)交換后，每個(gè)計(jì)算核均存儲(chǔ)過所述n份處理數(shù)據(jù)中的每一份；其中，n為整數(shù)；

各計(jì)算核基于交換后的數(shù)據(jù)進(jìn)行并行運(yùn)算，得到并行運(yùn)算結(jié)果，包括：

在每輪數(shù)據(jù)交換后，各計(jì)算核基于本輪數(shù)據(jù)交換中接收到的1份處理數(shù)據(jù)與所存儲(chǔ)的權(quán)值數(shù)據(jù)進(jìn)行卷積運(yùn)算，并將卷積運(yùn)算的結(jié)果與該計(jì)算核之前得到的卷積運(yùn)算結(jié)果進(jìn)行累加，得到該計(jì)算核的并運(yùn)算結(jié)果；

根據(jù)各計(jì)算核的并行運(yùn)算結(jié)果，確定處理數(shù)據(jù)和權(quán)值數(shù)據(jù)的卷積運(yùn)算結(jié)果，包括：

將各計(jì)算核的并行運(yùn)算結(jié)果，作為該計(jì)算核中的處理數(shù)據(jù)與權(quán)值數(shù)據(jù)的卷積運(yùn)算結(jié)果。