[發明專利]數據處理裝置、數據處理方法及相關產品

在審

• 申請號: 202111131280.6
• 申請日: 2021-09-26
• 公開（公告）號: CN113837923A
• 公開（公告）日: 2021-12-24
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 安徽寒武紀信息科技有限公司
• 主分類號: G06T1/20
• 分類號: G06T1/20;G06N3/08;G06N3/063;G06N3/04
• 代理公司: 北京維昊知識產權代理事務所(普通合伙) 11804
• 代理人: 陳姍姍

本披露公開了一種數據處理裝置、利用數據處理裝置執行分塊指令的數據處理方法及相關產品。該數據處理裝置可以作為計算裝置包括在組合處理裝置中，該組合處理裝置還可以包括接口裝置和其他處理裝置。該計算裝置與其他處理裝置進行交互，共同完成用戶指定的計算操作。組合處理裝置還可以包括存儲裝置，該存儲裝置分別與計算裝置和其他處理裝置連接，用于存儲該計算裝置和其他處理裝置的數據。本披露的方案實現了小卷積運算中的數據維度轉換存儲，提高了運算處理效率。

技術領域

本披露一般地涉及數據處理領域。更具體地，本披露涉及一種數據處理裝置、利用數據處理裝置對數據執行分塊指令的數據處理方法、芯片和板卡。

背景技術

目前，深度學習(Deep Learning)已經成為機器學習中的重要分支，也大力助推著人工智能(AI)的發展。深度學習的核心技術——深度神經網絡(DNN)已在諸多行業有著廣泛的應用。

神經網絡是人工智能、深度學習中最為關鍵的技術之一，其中卷積神經網絡(Convolution Neural Network，CNN)是最為重要的一種網絡類型。卷積神經網絡中最為關鍵的計算即為卷積層(Conv layer)的卷積運算(Convolution Operation)。卷積層的功能是對輸入數據進行特征提取，通過多層卷積，能夠抽取復雜特征，以保證網絡具有足夠的表達能力和泛化能力。神經網絡模型中包含了大量的、各種類型的卷積運算，卷積運算的計算性能極大地影響整個神經網絡模型的計算性能。當神經網絡模型應用于不同領域時，例如語音識別、機器翻譯、圖像處理等等，其對應的輸入特征圖和權值的各個維度大小可能各有不同。為了充分利用深度學習處理器的硬件優勢，需要針對不同規模的、不同類型的卷積運算進行優化，以提高執行神經網絡模型的計算性能。

發明內容

為了至少解決如上所提到的一個或多個技術問題，本披露在多個方面中提出了一種數據處理裝置，其通過對數據執行分塊指令，可以使得各種維度尺寸的數據能夠適配卷積運算的硬件，從而提高卷積運算的計算效率。本披露實施例的卷積運算可以是各種神經網絡模型中的運算，這些神經網絡模型可以應用于各種領域，諸如圖像處理、語音處理、文本處理等等，這些處理例如可以包括但不限于識別和分類。

在第一方面中，本披露實施例提供了一種數據處理裝置，包括控制電路、第一存儲電路和第二存儲電路，其中：所述第一存儲電路用于存儲處理前的第一數據；所述第二存儲電路用于存儲處理后的第二數據；以及所述控制電路用于配置并執行分塊指令，以將按照第一維度存儲順序存儲在第一存儲電路上的第一數據轉換為按照第二維度存儲順序存儲在第二存儲電路上的第二數據，其中所述第一數據是多維數據，其多維形狀為：

[高維ho]*[中維wo]*[co維度]*[多維混合]

其中所述多維混合至少包括以下多項的各種組合：co、高維ho、低維ho、高維wo、低維wo；

所述第二數據是三維數據，其三維形狀為：

[ho*wo*co]

其中co表示第二數據的最低存儲維度，wo表示第二數據的次低存儲維度，ho表示第二數據的最高存儲維度。

在第二方面中，本披露實施例提供了一種芯片，其包括前述第一方面的數據處理裝置。

在第三方面中，本披露實施例提供了一種板卡，其包括前述第二方面的芯片。

在第四方面中，本披露實施例提供了一種利用前述第一方面的數據處理裝置對輸入數據執行分塊指令的數據處理方法。

通過如上所提供的數據處理裝置、芯片、板卡以及由數據處理裝置執行分塊指令的數據處理方法，本披露實施例的方案針對各種卷積拆分方案中的輸出數據進行分塊處理，以適應硬件運算裝置的處理能力，從而充分利用多個從處理電路的并行處理能力，可以有效提高卷積運算的運算效率。

附圖說明