[發(fā)明專利]一種數(shù)據(jù)處理裝置、數(shù)據(jù)處理方法及相關(guān)產(chǎn)品

有效

• 申請(qǐng)?zhí)枺?/td>: 202011328010.X
• 申請(qǐng)日: 2020-11-24
• 公開（公告）號(hào): CN112416433B
• 公開（公告）日: 2023-01-17
• 發(fā)明（設(shè)計(jì)）人: 請(qǐng)求不公布姓名
• 申請(qǐng)（專利權(quán)）人: 中科寒武紀(jì)科技股份有限公司
• 主分類號(hào): G06F9/30
• 分類號(hào): G06F9/30
• 代理公司: 北京維昊知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11804
• 代理人: 陳姍姍;李波

本披露公開了一種數(shù)據(jù)處理裝置、芯片、板塊和數(shù)據(jù)處理方法。該數(shù)據(jù)處理裝置可以作為計(jì)算裝置包括在組合處理裝置中，該組合處理裝置還可以包括接口裝置和其他處理裝置。該計(jì)算裝置與其他處理裝置進(jìn)行交互，共同完成用戶指定的計(jì)算操作。組合處理裝置還可以包括存儲(chǔ)裝置，該存儲(chǔ)裝置分別與計(jì)算裝置和其他處理裝置連接，用于存儲(chǔ)該計(jì)算裝置和其他處理裝置的數(shù)據(jù)。本披露的方案對(duì)特定規(guī)模的多維數(shù)組的轉(zhuǎn)置操作進(jìn)行優(yōu)化，提高了轉(zhuǎn)置處理效率。

技術(shù)領(lǐng)域

本披露一般地涉及數(shù)據(jù)處理領(lǐng)域。更具體地，本披露涉及一種數(shù)據(jù)處理裝置、數(shù)據(jù)處理方法、芯片和板卡。

背景技術(shù)

轉(zhuǎn)置(transpose)運(yùn)算是數(shù)學(xué)和工程領(lǐng)域的常用運(yùn)算之一，用于對(duì)多維數(shù)組進(jìn)行轉(zhuǎn)置操作。對(duì)于多維數(shù)組轉(zhuǎn)置的計(jì)算機(jī)硬件實(shí)現(xiàn)，通常將一部分?jǐn)?shù)據(jù)搬運(yùn)到緩存上，通過(guò)在緩存上執(zhí)行一次或多次讀取和寫入操作來(lái)實(shí)現(xiàn)多維數(shù)組的轉(zhuǎn)置運(yùn)算。

然而，通過(guò)硬件指令在緩存上執(zhí)行轉(zhuǎn)置操作時(shí)，如果待轉(zhuǎn)置的兩個(gè)維度之一特別小，由于緩存以塊為單位進(jìn)行調(diào)度的特性，執(zhí)行轉(zhuǎn)置操作的效率將會(huì)特別低。因此，針對(duì)這種情況需要提供能夠提高這種特殊規(guī)模的轉(zhuǎn)置操作的執(zhí)行效率的技術(shù)方案。

發(fā)明內(nèi)容

為了至少解決如上所提到的技術(shù)問(wèn)題，本披露在多個(gè)方面中提出了基于維度重組的多維數(shù)組轉(zhuǎn)置的硬件實(shí)現(xiàn)方案，從而在針對(duì)前述特殊規(guī)模的多維數(shù)組的轉(zhuǎn)置操作中，能夠提高執(zhí)行效率。

在第一方面中，本披露提供了一種數(shù)據(jù)處理裝置，包括：處理單元，配置用于對(duì)第一多維數(shù)據(jù)塊執(zhí)行轉(zhuǎn)置指令；以及第一存儲(chǔ)單元，配置用于在所述轉(zhuǎn)置指令執(zhí)行期間緩存數(shù)據(jù)；其中，所述處理單元配置成通過(guò)如下步驟來(lái)執(zhí)行所述轉(zhuǎn)置指令：確定所述轉(zhuǎn)置指令所針對(duì)的第一多維數(shù)據(jù)塊的兩個(gè)維度及相應(yīng)的維度大小；以及當(dāng)所述兩個(gè)維度中僅一個(gè)維度大小低于第一閾值時(shí)，通過(guò)在所述第一存儲(chǔ)單元上對(duì)所述第一多維數(shù)據(jù)塊執(zhí)行多次讀取和寫入操作，對(duì)所述第一多維數(shù)據(jù)塊執(zhí)行多次維度重組和轉(zhuǎn)置操作以得到第二多維數(shù)據(jù)塊，其中所述維度重組使得參與第一次轉(zhuǎn)置操作的兩個(gè)維度的維度大小均超過(guò)所述第一閾值。

在第二方面中，本披露提供了一種芯片，其包括前述第一方面的任一實(shí)施例的數(shù)據(jù)處理裝置。

在第三方面中，本披露提供了一種板卡，其包括前述第二方面的任一實(shí)施例的芯片。

在第四方面中，本披露提供了一種由數(shù)據(jù)處理裝置實(shí)施的數(shù)據(jù)處理方法，所述數(shù)據(jù)處理裝置包括處理單元和第一存儲(chǔ)單元，所述方法包括：所述處理單元確定轉(zhuǎn)置指令所針對(duì)的第一多維數(shù)據(jù)塊的兩個(gè)維度及相應(yīng)的維度大小；以及當(dāng)所述兩個(gè)維度中僅一個(gè)維度大小低于第一閾值時(shí)，通過(guò)在所述第一存儲(chǔ)單元上對(duì)所述第一多維數(shù)據(jù)塊執(zhí)行多次讀取和寫入操作，對(duì)所述第一多維數(shù)據(jù)塊執(zhí)行多次維度重組和轉(zhuǎn)置操作以得到第二多維數(shù)據(jù)塊，其中所述維度重組使得參與第一次轉(zhuǎn)置操作的兩個(gè)維度的維度大小均超過(guò)所述第一閾值。

通過(guò)如上所提供的數(shù)據(jù)處理裝置、芯片、板卡以及由數(shù)據(jù)處理裝置實(shí)施的數(shù)據(jù)處理方法，本披露的方案通過(guò)維度重組來(lái)優(yōu)化針對(duì)特定規(guī)模的多維數(shù)據(jù)塊的硬件轉(zhuǎn)置操作，從而提高處理效率。

附圖說(shuō)明

通過(guò)參考附圖閱讀下文的詳細(xì)描述，本披露示例性實(shí)施方式的上述以及其他目的、特征和優(yōu)點(diǎn)將變得易于理解。在附圖中，以示例性而非限制性的方式示出了本披露的若干實(shí)施方式，并且相同或?qū)?yīng)的標(biāo)號(hào)表示相同或?qū)?yīng)的部分，其中：

圖1示出了可以實(shí)施本披露實(shí)施例的計(jì)算機(jī)硬件的示例性架構(gòu)圖；

圖2示出了示例性三維數(shù)組；

圖3示例性示出了多維數(shù)組在存儲(chǔ)器上的存儲(chǔ)順序；

圖4示例性示出了三維數(shù)組轉(zhuǎn)置的計(jì)算機(jī)硬件實(shí)現(xiàn)過(guò)程；

圖5示例性示出了四維數(shù)組的示意性轉(zhuǎn)換過(guò)程；

圖6示出了根據(jù)本披露實(shí)施例的維度重組的示例性概念；