[發明專利]執行層級計算處理的數據處理裝置及其方法

在審

• 申請號: 202010127920.5
• 申請日: 2020-02-28
• 公開（公告）號: CN111626914A
• 公開（公告）日: 2020-09-04
• 發明（設計）人: 脅野刊
• 申請（專利權）人: 佳能株式會社
• 主分類號: G06T1/20
• 分類號: G06T1/20;G06N3/04;G06N3/063
• 代理公司: 北京怡豐知識產權代理有限公司 11293
• 代理人: 遲軍;李艷麗

本發明提供了一種執行層級計算處理的數據處理裝置及其方法。該數據處理裝置被構造為對輸入數據執行與神經網絡相對應的層級計算處理，所述數據處理裝置包括：存儲單元，其被構造為存儲多個控制數據集，所述多個控制數據集中的各個用于將與神經網絡相對應的層級計算處理劃分而成的多個處理單位中的一個；傳輸單元，其被構造為從存儲單元依次傳輸所述多個控制數據集；以及計算處理單元，其被構造為使用由傳輸單元傳輸的一個控制數據集來進行與所述一個控制數據集相對應的處理單位的計算處理。

技術領域

本發明涉及一種被構造為執行與神經網絡對應的層級計算處理的數據處理裝置及其方法。

背景技術

諸如卷積神經網絡(在下文中，簡稱為CNN)的層級計算方法作為能夠針對識別目標的變化進行魯棒圖案識別的方法引起了人們的關注。例如，Yann LeCun,KorayKavukvuoglu,and Clement Farabet,Convolutional Networks and Applications inVision,Proc.International Symposium on Circuits and Systems(ISCAS’10),IEEE,2010.討論了各種應用示例和實施方式示例。

圖9是例示簡單CNN的示例的網絡構造圖。在要對圖像數據進行CNN處理的情況下，輸入層901輸入預定大小的圖像數據。第一層級908包括特征面903a至903d。第二層級909包括特征面905a至905d。第三層級910包括特征面907。

術語“特征面(feature surface)”是指與預定特征提取計算(卷積計算和非線性處理)處理的結果對應的數據面。特征面與用于在更高層級中識別預定目標的特征提取的結果相對應，并且是對圖像數據的處理的結果，使得處理結果也被表達為面。通過對輸入層901的卷積運算和非線性處理來生成特征面903a至903d。例如，特征面903a通過使用示意性例示的二維卷積核(權重系數)9021a的計算以及計算結果的非線性轉換來計算。

例如，使用大小為columnSize×rowSize的核(系數矩陣)的二維卷積計算通過由式(1)表示的乘法累積運算進行處理：

其中，input(x，y)表示坐標(x，y)處的參照像素值，output(x，y)表示坐標(x，y)處的計算結果，weigh(column,row)表示在output(x，y)的運算中使用的權重系數，columnSize(列大小)和rowSize(行大小)表示卷積核大小。

在CNN處理中，在使用多個卷積核按像素單位掃描圖像數據的同時重復乘法累積運算，并且對最終的乘法累積運算結果進行非線性轉換以由此計算特征面。在計算特征面903a的情況下，由于與前一層級的連接數量為一，因此卷積核的數量為一。卷積核9021b、9021c和9021d分別用于計算特征面903b、903c和903d。

圖10例示了計算特征面905a的情況的示例。特征面905a與前一層級908的四個特征面903a至903d連接。在計算特征面905a的數據的情況下，使用示意性地例示的核(權重系數)9041a對特征面903a進行濾波器操作，并且將濾波器操作結果存儲在累積加法器1002中。

類似地，卷積計算處理單元1001分別使用核9042a、9043a和9044a對特征面903b、903c和904c進行卷積計算，并將卷積計算結果存儲在累積加法器1002中。在完成四種類型的卷積計算之后，非線性轉換處理單元1003使用邏輯函數或雙曲正切函數(tanh函數)進行非線性轉換處理。