[發明專利]一種卷積神經網絡運算指令及其方法

有效

• 申請號: 201710903509.0
• 申請日: 2016-04-29
• 公開（公告）號: CN107704267B
• 公開（公告）日: 2020-05-08
• 發明（設計）人: 陳天石;韓棟;陳云霽;劉少禮;郭崎
• 申請（專利權）人: 中科寒武紀科技股份有限公司
• 主分類號: G06F9/30
• 分類號: G06F9/30;G06F9/38;G06N3/063;G06N3/04
• 代理公司: 廣州三環專利商標代理有限公司 44202
• 代理人: 郝傳鑫;熊永強

本披露提供了一種卷積神經網絡運算指令及其方法，其中卷積神經網絡運算指令，所述卷積神經網絡運算指令包括：至少1個操作碼和至少1個操作域，其中，所述操作碼用于指示所述卷積神經網絡運算指令的功能，所述操作域用于指示所述卷積神經網絡運算指令的數據信息；所述數據信息包括：立即數或寄存器號，具體包括：輸入數據的起始地址和數據長度，卷積核的起始地址和數據長度，以及激活函數的類型。將輸出數據作為下一層的輸入數據。

技術領域

本披露總體上涉及人工神經網絡，具體地涉及一種卷積神經網絡運算指令及其方法。

背景技術

卷積神經網絡是近年來廣泛應用于模式識別、圖像處理等領域的一種高效識別算法，它具有結構簡單、訓練參數少和適應性強、平移、旋轉、縮放等特點。由于CNN/DNN的特征檢測層通過訓練數據進行學習，所以在使用CNN/DNN時，避免了顯示的特征抽取，而隱式地從訓練數據中進行學習；再者由于同一特征映射面上的神經元權值相同，所以網絡可以并行學習，這也是卷積網絡相對于神經元彼此相連網絡的一大優勢。

在已有的計算機領域應用中，與卷積運算相關的應用十分普遍。本披露專注于卷積神經網絡，目前可以執行此種運算的主流裝置如下：

在現有技術中，一種進行卷積神經網絡運算的已知方案是使用通用處理器，該方法通過通用寄存器堆和通用功能部件來執行通用指令，從而執行卷積神經網絡運算。然而，該方法的缺點之一是單個通用處理器多用于標量計算，在進行卷積神經網絡運算時運算性能較低。而使用多個通用處理器并行執行時，通用處理器之間的相互通訊又有可能成為性能瓶頸。

在另一種現有技術中，使用圖形處理器(GPU)來進行向量計算，其中，通過使用通用寄存器堆和通用流處理單元執行通用SIMD指令來進行卷積神經網絡運算。然而，上述方案中，GPU片上緩存太小，在進行大規模卷積神經網絡運算時需要不斷進行片外數據搬運，片外帶寬成為了主要性能瓶頸。

發明內容

(一)要解決的技術問題

本披露的目的在于，提供一種支持卷積神經網絡的裝置，解決現有技術中存在的受限于片間通訊、片上緩存不夠等問題。

(二)技術方案

本披露的一個方面提供了一種卷積神經網絡運算指令，所述卷積神經網絡運算指令包括：至少1個操作碼和至少1個操作域，其中，

所述操作碼用于指示所述卷積神經網絡運算指令的功能，所述操作域用于指示所述卷積神經網絡運算指令的數據信息；

所述數據信息包括：立即數或寄存器號，具體包括：輸入數據的起始地址和數據長度，卷積核的起始地址和數據長度，以及激活函數的類型。

可選的，所述卷積神經網絡運算指令包括：COMPUTE指令、CONFIG指令、IO指令、NOP指令、JUMP指令和MOVE指令。

可選的，所述COMPUTE指令包括：卷積神經網絡sigmoid指令、卷積神經網絡TanH指令、卷積神經網絡ReLU指令以及卷積神經網絡group指令；

所述卷積神經網絡sigmoid指令，用于在裝置分別從存儲器的指定地址取出指定大小的輸入數據和卷積核，在卷積運算部件中做卷積操作，然后根據所述sigmoid指令將輸出結果做sigmoid激活；

所述卷積神經網絡TanH指令，用于在裝置分別從存儲器的指定地址取出指定大小的輸入數據和卷積核，在卷積運算部件中做卷積操作，然后根據所述TanH指令將輸出結果做TanH激活；

所述卷積神經網絡ReLU指令，用于在裝置分別從存儲器的指定地址取出指定大小的輸入數據和卷積核，在卷積運算部件中做卷積操作，然后根據所述ReLU指令將輸出結果做ReLU激活；