[發明專利]數據處理的方法、裝置和系統

有效

• 申請號: 201611270144.4
• 申請日: 2016-12-30
• 公開（公告）號: CN108268931B
• 公開（公告）日: 2022-10-25
• 發明（設計）人: 汪濤;宋風龍;薛希俊
• 申請（專利權）人: 華為技術有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04
• 代理公司: 北京龍雙利達知識產權代理有限公司 11329
• 代理人: 毛威;肖鸝

本發明實施例公開了一種數據處理的方法、裝置和系統，該方法包括：獲取輸入數據；獲取第一卷積層的卷積運算特性，該第一卷積層為神經網絡模型中的任一卷積層，該神經網絡模型包括至少一個卷積層，該卷積運算特性包括以下參數中的至少一種參數：卷積核的尺寸、卷積核的移動步進、輸入通道的數目以及處理器的并行粒度；根據該卷積運算特性，從該輸入數據中獲取與該處理器的并行粒度相等數量的多個數據塊，該多個數據塊中的每個數據塊用于與卷積核進行卷積處理；將該多個數據塊并行地進行卷積處理，以獲取輸出數據。本發明實施例的方法、裝置和系統，能夠根據不同卷積層的卷積運算特性，自適應選擇最佳并行操作，從而提高卷積運算的并行度。

技術領域

本發明涉及卷積神經網絡(Convolution Neural Network，CNN)，尤其涉及CNN中的數據處理的方法、裝置和系統。

背景技術

卷積神經網絡是深度學習中使用最廣泛的算法，它廣泛應用于圖像分類、語音識別、視頻理解、人臉檢測等多種應用中。它的權值共享網絡結構使之更類似于生物神經網絡，降低了網絡模型的復雜度，減少了權值的數量。該優點在網絡的輸入是多維圖像時表現的更為明顯，使圖像可以直接作為網絡的輸入，避免了傳統識別算法中復雜的特征提取和數據重建過程。

當前，卷積神經網絡的并行加速成為學術界和工業界的研究熱點，常見的方法有在不同層級對多通道卷積運算進行并行化，如batch級并行、通道內并行。現有方法存在的主要問題為：CNN網絡中所有的卷積層均采用相同的并行方法，效率低下。

發明內容

有鑒于此，本發明實施例提供了一種數據處理的方法、裝置和系統，能夠根據不同卷積層的卷積運算特性，自適應選擇最佳并行操作，從而提高卷積運算的并行度。

第一方面，提供了一種數據處理的方法，該方法包括：獲取輸入數據，所述輸入數據為以下數據中的至少一種數據：圖像數據、視頻數據和語音數據；獲取第一卷積層的卷積運算特性，所述第一卷積層為神經網絡模型中的任一卷積層，所述神經網絡模型包括至少一個卷積層，所述卷積運算特性包括以下參數中的至少一種參數：卷積核的尺寸、卷積核的移動步進、輸入通道的數目以及處理器的并行粒度；根據所述卷積運算特性，從所述輸入數據中獲取與所述處理器的并行粒度相等數量的多個數據塊，所述多個數據塊中的每個數據塊用于與卷積核進行卷積處理；將所述多個數據塊并行地進行卷積處理，以獲取輸出數據。

根據卷積運算特性，自適應選擇最佳并行方法，從而提高卷積運算并行度。

可選地，該輸入數據可以是圖像處理、語音識別、視頻理解、人臉檢測中的任一項數據。

可選地，處理器的并行粒度(Parallelism Size，PS)可以是指共享局部存儲器的同類運算單元的數量。

在一種可能的實現方式中，所述卷積運算特性包括所述卷積核的移動步進，所述根據所述卷積運算特性，從所述輸入數據中獲取與所述處理器的并行粒度相等數量的多個數據塊，包括：根據所述移動步進是否等于1，從所述輸入數據中獲取所述多個數據塊。

在一種可能的實現方式中，所述根據所述移動步進是否等于1，從所述輸入數據中獲取與所述處理器的并行粒度相等數量的多個數據塊，包括：在所述移動步進等于1時，從所述第一卷積層的任一輸入通道的數據中獲取所述多個數據塊，所述第一卷積層的任一輸入通道的數據屬于所述輸入數據，所述多個數據塊中的第i個數據塊與所述多個數據塊中的第(i+1)個數據塊具有(K-1)個向量重疊，i為正整數，K為所述卷積核的尺寸，K為大于1的正整數；所述將所述多個數據塊并行地進行卷積處理，以獲取輸出數據，包括：將所述多個數據塊與所述第一卷積層的任一卷積核并行地進行卷積處理，以獲取輸出數據。

相鄰兩個卷積運算的數據塊具有重疊，能充分利用數據局部性，減少數據傳輸。