[發明專利]一種CNN的處理方法和裝置

有效

• 申請號: 201610017755.1
• 申請日: 2016-01-12
• 公開（公告）號: CN105678379B
• 公開（公告）日: 2020-08-07
• 發明（設計）人: 祝犇
• 申請（專利權）人: 騰訊科技（深圳）有限公司
• 主分類號: G06N3/06
• 分類號: G06N3/06;G06N3/04
• 代理公司: 深圳市深佳知識產權代理事務所(普通合伙) 44285
• 代理人: 王仲凱

本發明公開了一種CNN的處理方法和裝置，用于在ASIC上實現CNN的模型中的模塊運算，保證CNN計算性能的同時降低運算成本。本發明實施例提供一種CNN的處理方法，包括：獲取CNN的模型中第一模塊的密集類型；若所述第一模塊的密集類型屬于計算密集型，將所述第一模塊部署到專用集成電路ASIC上，并獲取到所述第一模塊占用所述ASIC的多個運算器資源；對所述第一模塊占用所述ASIC的多個運算器資源中相同的運算器資源進行合并，得到部署在所述ASIC上的完成運算器資源合并后的第一模塊；運行部署在所述ASIC上的完成運算器資源合并后的第一模塊。

技術領域

本發明涉及計算機技術領域，尤其涉及一種卷積神經網絡(英文全稱:Convolutional Neural Networks，英文簡稱：CNN)的處理方法和裝置。

背景技術

隨著機器學習的不斷發展，圖片識別的準確性越來越高，越來越多的應用開始使用圖片識別技術，例如最早的數字識別，到現在應用非常廣泛的人臉識別。要使得圖片識別達到人類的智能水平，必須要使用大量的計算資源進行計算，從而對計算性能有極大的要求，在滿足性能要求的同時，計算成本的控制需要限制計算消耗的資源規模。

當前，主流圖片識別算法為CNN，主要由圖形處理器(英文全稱：GraphicsProcessing Unit，英文簡稱：GPU)和中央處理器(英文全稱：Central Processing Unit，英文簡稱：CPU)實現，這種算法的計算量巨大，成本高。雖然GPU具有很高的并行計算效率，但是存在對計算資源元器件利用率不高的問題。

當前CNN的實現方案主要是基于CPU和GPU，在CNN的實現方案中主要包括三個步驟：輸入步驟、特征提取步驟和分類步驟。其中計算最復雜且消耗資源最多的就是特征提取步驟，在特征提取過程中主要涉及兩個層次的計算：采樣層和卷積層。在基于GPU的模型實現中，將計算復雜度較高的計算均傳輸到GPU中完成，通過GPU的模型能提高CNN計算性能，降低計算時間。

CPU和GPU實現CNN方案的最大優點是高性能，但是目前部署GPU的成本很高，尤其部署一個大型GPU集群的成本更高，而且GPU消耗功率也很大，無論硬件的部署成本還是后續運營成本都很高。

發明內容

本發明實施例提供了一種CNN的處理方法和裝置，用于在ASIC上實現CNN的模型中的模塊運算，保證CNN計算性能的同時降低運算成本。

為解決上述技術問題，本發明實施例提供以下技術方案：

第一方面，本發明實施例提供一種CNN的處理方法，包括：

獲取CNN的模型中第一模塊的密集類型；

若所述第一模塊的密集類型屬于計算密集型，將所述第一模塊部署到專用集成電路ASIC上，并獲取到所述第一模塊占用所述ASIC的多個運算器資源；

對所述第一模塊占用所述ASIC的多個運算器資源中相同的運算器資源進行合并，得到部署在所述ASIC上的完成運算器資源合并后的第一模塊；

運行部署在所述ASIC上的完成運算器資源合并后的第一模塊。

第二方面，本發明實施例還提供一種CNN的處理裝置，包括：

類型獲取單元，用于獲取CNN的模型中第一模塊的密集類型；

部署單元，用于若所述第一模塊的密集類型屬于計算密集型，將所述第一模塊部署到專用集成電路ASIC上，并獲取到所述第一模塊占用所述ASIC的多個運算器資源；

合并單元，用于對所述第一模塊占用所述ASIC的多個運算器資源中相同的運算器資源進行合并，得到部署在所述ASIC上的完成運算器資源合并后的第一模塊；

模塊運行單元，用于運行部署在所述ASIC上的完成運算器資源合并后的第一模塊。