[發(fā)明專利]數(shù)據(jù)處理方法及裝置

有效

• 申請?zhí)枺?/td>: 201910197813.7
• 申請日: 2019-03-15
• 公開（公告）號: CN111695682B
• 公開（公告）日: 2022-11-01
• 發(fā)明（設(shè)計）人: 不公告發(fā)明人
• 申請（專利權(quán)）人: 上海寒武紀信息科技有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063
• 代理公司: 北京林達劉知識產(chǎn)權(quán)代理事務所(普通合伙) 11277
• 代理人: 劉新宇

本公開涉及一種運算方法、裝置及相關(guān)產(chǎn)品，所述產(chǎn)品包括控制器單元，所述控制器單元包括：指令緩存單元、指令處理單元和存儲隊列單元；所述指令緩存單元，用于存儲所述人工神經(jīng)網(wǎng)絡運算關(guān)聯(lián)的計算指令；所述指令處理單元，用于對所述計算指令解析得到多個運算指令；所述存儲隊列單元，用于存儲指令隊列，該指令隊列包括：按該隊列的前后順序待執(zhí)行的多個運算指令或計算指令。通過以上方法，本公開可以提高相關(guān)產(chǎn)品在進行神經(jīng)網(wǎng)絡模型的運算時的運算效率。

技術(shù)領(lǐng)域

本公開涉及信息處理技術(shù)領(lǐng)域，尤其涉及一種運算方法、裝置及相關(guān)產(chǎn)品。

背景技術(shù)

在人工智能技術(shù)領(lǐng)域，神經(jīng)網(wǎng)絡算法是最近非常流行的一種機器學習算法，在各種領(lǐng)域中都取得了非常好的效果，比如圖像識別，語音識別，自然語言處理等。隨著神經(jīng)網(wǎng)絡算法的發(fā)展，算法的復雜度也越來越高，為了提高識別度，模型的規(guī)模也在逐漸增大。

發(fā)明內(nèi)容

有鑒于此，本公開提出了一種數(shù)據(jù)處理方法及裝置。

根據(jù)本公開的一方面，提供了一種數(shù)據(jù)處理方法，所述方法包括：

在輸入數(shù)據(jù)的第一數(shù)據(jù)格式與第一處理器支持的第二數(shù)據(jù)格式不同時，根據(jù)第一處理器的運算單元的個數(shù)和/或預設(shè)維度數(shù)，將輸入數(shù)據(jù)由第一數(shù)據(jù)格式轉(zhuǎn)換為第二數(shù)據(jù)格式，

其中，所述輸入數(shù)據(jù)為張量數(shù)據(jù)，第一數(shù)據(jù)格式和第二數(shù)據(jù)格式的數(shù)據(jù)擺放順序不同，預設(shè)維度數(shù)為第一處理器的運算單元一次讀取的數(shù)據(jù)個數(shù)。

在一種可能的實現(xiàn)方式中，根據(jù)第一處理器的運算單元的個數(shù)和/或預設(shè)維度數(shù)，將輸入數(shù)據(jù)由第一數(shù)據(jù)格式轉(zhuǎn)換為第二數(shù)據(jù)格式，包括：

對于第二數(shù)據(jù)格式的多個第二維度中的最低維度，根據(jù)輸入數(shù)據(jù)的參數(shù)信息確定第一數(shù)據(jù)格式的多個第一維度中與所述最低維度對應的第三維度；其中，最低維度為讀寫數(shù)據(jù)時首先被讀寫的維度方向，所述參數(shù)信息包括用于描述第一數(shù)據(jù)格式的擺放順序的信息；

根據(jù)第三維度的維度數(shù)、預設(shè)維度數(shù)以及所述個數(shù)對輸入數(shù)據(jù)在第三維度方向進行補齊，并根據(jù)預設(shè)維度數(shù)將補齊后的輸入數(shù)據(jù)在第三維度方向上進行分段；

將分段后的輸入數(shù)據(jù)由第一數(shù)據(jù)格式轉(zhuǎn)換為第二數(shù)據(jù)格式。

在一種可能的實現(xiàn)方式中，根據(jù)第三維度的維度數(shù)、預設(shè)維度數(shù)以及所述個數(shù)對輸入數(shù)據(jù)在第三維度方向進行補齊，包括：

若第三維度的維度數(shù)小于預設(shè)維度數(shù)，則對輸入數(shù)據(jù)在第三維度方向補齊到預設(shè)維度數(shù)。

在一種可能的實現(xiàn)方式中，根據(jù)第三維度的維度數(shù)、預設(shè)維度數(shù)以及所述個數(shù)對輸入數(shù)據(jù)在第三維度方向進行補齊，還包括：

若第三維度的維度數(shù)大于預設(shè)維度數(shù)，則計算第三維度的維度數(shù)與預設(shè)維度數(shù)的余數(shù)，若所述余數(shù)與所述預設(shè)維度數(shù)滿足第一預設(shè)條件，則需要補齊的維度數(shù)與所述余數(shù)的和為所述個數(shù)的整數(shù)倍，若所述余數(shù)與所述預設(shè)維度數(shù)不滿足所述第一預設(shè)條件，則需要補齊的維度數(shù)與所述余數(shù)的和為所述預設(shè)維度數(shù)。

在一種可能的實現(xiàn)方式中，所述第二數(shù)據(jù)格式為NHWC格式，其中，N代表數(shù)量、C 代表通道數(shù)、H代表高度、W代表寬度，NHWC格式中C為最低維度。

在一種可能的實現(xiàn)方式中，將分段后的輸入數(shù)據(jù)由第一數(shù)據(jù)格式轉(zhuǎn)換為第二數(shù)據(jù)格式，包括：

在N維度方向上針對每一段分段后的數(shù)據(jù)執(zhí)行以下操作：

針對多個第二維度中的HWC維度，按照CWH的順序從該段輸入數(shù)據(jù)中與第二維度對應的第一維度方向讀取輸入數(shù)據(jù)，并按照讀取的順序存儲得到第二數(shù)據(jù)格式的輸入數(shù)據(jù)。

在一種可能的實現(xiàn)方式中，所述方法應用于第一處理器，所述第一處理器為人工智能處理器，