[發明專利]一種數據處理方法及裝置

在審

• 申請號: 202011148331.1
• 申請日: 2020-10-23
• 公開（公告）號: CN112308762A
• 公開（公告）日: 2021-02-02
• 發明（設計）人: 柴雙林
• 申請（專利權）人: 北京三快在線科技有限公司
• 主分類號: G06T1/60
• 分類號: G06T1/60;G06N3/063;G06N3/04;G06N3/08
• 代理公司: 北京曼威知識產權代理有限公司 11709
• 代理人: 方志煒

本說明書公開了一種數據處理方法及裝置，處理器可包括緩存模塊以及若干個邏輯模塊，處理器可獲取圖像傳感器采集的圖像數據并存儲在緩存模塊中，通過數據處理模型對圖像數據進行處理時，針對數據處理模型的各層，獲取該層的模型參數，將模型參數加載到各邏輯模塊中，從緩存模塊中獲取該層的上一層得到的中間圖像，分割中間圖像得到各子中間圖像，將各子中間圖像加載的各邏輯模塊中，通過各邏輯模塊，對模型參數以及各子中間圖像進行運算，得到該層得到的中間圖像，并存儲到緩存模塊中。通過上述方法，圖像數據或者各層得到的中間圖像存儲在緩存中，解決了數據傳輸帶寬受限制的問題，使處理器的算力資源得到有效使用，達到了減少耗時的效果。

技術領域

本說明書涉及機器學習技術領域，尤其涉及一種數據處理方法及裝置。

背景技術

目前，在硬件支持方面，可通過處理器與存儲器實現機器學習模型的運算。處理器可包括圖形處理器(Graphics Processing Unit，GPU)、張量處理單元(Tensor ProcessingUnit，TPU)等，存儲器可包括諸如雙倍速率同步動態隨機存儲器(Double Data RateSynchronous Dynamic Random Access Memory，DDR SDRAM)等內存元器件。

以對圖像數據進行目標檢測、機器學習模型為卷積神經網絡(ConvolutionalNeural Networks，CNN)模型為例，圖像數據、CNN的模型參數以及CNN每一層的運算結果可存儲在DDR SDRAM中，針對TPU對CNN中的任一層的運算，首先將CNN的模型參數以及圖像數據或者上一層運算結果依次從DDR SDRAM中加載到TPU中，TPU根據模型參數以及圖像數據進行運算，并將運算結果存儲在DDR SDRAM中。

由于圖像數據、CNN的運算結果等數據量較大，將其從DDR SDRAM中加載到TPU中需要較高的帶寬來支撐數據傳輸，受限于DDR SDRAM與TPU之間的傳輸帶寬，數據加載需要耗費較長的時間，并且，由于算力與帶寬的需求呈正相關關系，當帶寬受到限制時，TPU中的算力資源未能有效使用，TPU的運算速度較低，導致TPU對圖像數據進行目標檢測需要耗費較長的時間。

發明內容

本說明書實施例提供一種數據處理方法及裝置，以部分解決現有技術存在的上述問題。

本說明書實施例采用下述技術方案：

本說明書提供的一種數據處理方法，處理器包括緩存模塊以及若干個邏輯模塊，所述方法包括：

所述處理器獲取圖像傳感器采集的圖像數據存儲在所述緩存模塊中，通過數據處理模型對所述圖像數據進行處理；

針對所述數據處理模型的各層，獲取內存中存儲的所述數據處理模型的該層的模型參數，將所述模型參數加載到各邏輯模塊中；并且，從所述緩存模塊中獲取該層的上一層得到的中間圖像，根據預先確定的各邏輯模塊的信息，將所述中間圖像進行分割，得到若干個子中間圖像，將各子中間圖像加載到各邏輯模塊中；

通過各邏輯模塊，對所述模型參數以及各子中間圖像進行運算，得到運算結果作為該層得到的中間圖像，并將該層得到的中間圖像存儲到所述緩存模塊中。

可選地，從所述緩存模塊中獲取該層的上一層得到的中間圖像，具體包括：

若該層為所述數據處理模型的第一層，則從所述緩存模塊中獲取所述圖像數據。

可選地，預先確定各邏輯模塊的信息，具體包括：

根據所述數據處理模型的模型結構，確定所述數據處理模型中各層所需要處理的中間圖像的尺寸以及各層的模型參數的信息；

根據所述數據處理模型中各層所需要處理的中間圖像的尺寸和/或各層的模型參數的信息，確定所述處理器中包含的邏輯模塊的數量。