[發明專利]卷積運算裝置及方法

有效

• 申請號: 201611002219.0
• 申請日: 2016-11-14
• 公開（公告）號: CN108073549B
• 公開（公告）日: 2021-04-27
• 發明（設計）人: 杜力;杜源;李一雷;管延城;劉峻誠
• 申請（專利權）人: 耐能股份有限公司
• 主分類號: G06F17/15
• 分類號: G06F17/15
• 代理公司: 北京紀凱知識產權代理有限公司 11245
• 代理人: 徐東升;趙蓉民

本申請公開一種卷積運算的處理方法，包括：對各輸入信道的數據進行卷積運算以輸出多個卷積結果；以及將上述輸入信道中對應順序的各卷積結果交錯加總以分別輸出加總結果。

技術領域

本發明涉及一種卷積運算裝置及方法，特別涉及一種搭配交錯(interleaving)加總架構進行運算的卷積運算裝置及方法。

背景技術

卷積神經網絡(Convolutional Neural Network，CNN)常應用于圖像處理裝置中，以便對影像數據進行圖像處理。一般常用的移動窗(sliding window)可采用1×1、3×3、5×5或7×7等規模，其中又以3×3的規模較為常用，因此，一般卷積運算裝置中的卷積單元會以3×3規模來設計。以輸入最大帶寬為8個像素數據為例，當使用8個3×3卷積單元對8個像素數據進行1×1卷積運算時，各3×3卷積單元中僅1個乘法器實質上進行卷積運算，因此其他的乘法器沒有運用到，這造成硬件資源浪費。

因此，如何提供一種卷積運算裝置及方法，可提升卷積單元內元件的使用率，增進卷積運算的效能，實為當前重要的課題之一。

發明內容

本發明的目的為提供一種卷積運算裝置及方法，可提升卷積單元內元件的使用率，增進卷積運算的效能。

為達上述目的，本發明提供一種卷積運算裝置，包括多個卷積運算模塊以及一個交錯加總單元。多個卷積運算模塊各具有多個卷積單元，各卷積單元配置來輸出多個卷積結果。交錯加總單元耦接上述卷積運算模塊的上述卷積單元，配置來對上述卷積運算模塊中對應順序的各卷積結果交錯加總，以分別輸出加總結果。

在一個實施例中，上述卷積單元以及交錯加總單元系能夠選擇性地操作在低規模卷積模式以及高規模卷積模式；其中，在低規模卷積模式中，各卷積單元配置來輸出上述卷積結果，交錯加總單元配置來對上述卷積運算模塊中對應順序的各卷積結果交錯加總以分別輸出加總結果；其中，在高規模卷積模式中，各卷積單元配置來輸出多個高規模卷積結果，交錯加總單元將上述高規模卷積結果作為輸出。

在一個實施例中，各卷積單元包括多個低規模卷積輸出以及一個高規模卷積輸出。多個低規模卷積輸出進行低規模卷積運算以輸出上述卷積結果。高規模卷積輸出進行高規模卷積運算以輸出高規模卷積結果。

在一個實施例中，交錯加總單元選擇性地將上述加總結果以及上述高規模卷積結果其中一個輸出。

在一個實施例中，各卷積運算模塊耦接輸入信道，上述輸入信道的總寬度與上述加總結果的總寬度相等。

在一個實施例中，上述卷積運算模塊的數量小于或等于各卷積運算模塊中上述卷積單元的數量。

在一個實施例中，各卷積單元的上述卷積結果系相同規模的卷積運算的結果。

在一個實施例中，上述卷積運算模塊的數量等于各卷積單元的上述卷積結果的數量。

為達上述目的，本發明提供一種卷積運算的處理方法，包括：對于各輸入信道的數據進行卷積運算以輸出多個卷積結果；以及將上述輸入信道中對應順序的各卷積結果交錯加總以分別輸出加總結果。

在一個實施例中，卷積運算的處理方法進一步包括：決定在低規模卷積模式以及高規模卷積模式其中一個之中進行卷積運算；當在高規模卷積模式中，進行高規模卷積運算以輸出多個高規模卷積結果；將上述高規模卷積結果作為輸出；當在低規模卷積模式中，對于各輸入信道的數據進行低規模卷積運算以輸出上述卷積結果；將上述輸入信道中對應順序的各卷積結果交錯加總以分別輸出加總結果。

在一個實施例中，卷積運算的處理方法進一步包括：選擇性地將上述加總結果以及上述高規模卷積結果其中一個輸出。

在一個實施例中，上述輸入通道的總寬度與上述加總結果的總寬度相等。

在一個實施例中，上述卷積結果系相同規模的卷積運算的結果。