[發明專利]用于神經網絡的Winograd變換卷積操作的裝置和方法

在審

• 申請號: 202010074400.2
• 申請日: 2020-01-22
• 公開（公告）號: CN111476360A
• 公開（公告）日: 2020-07-31
• 發明（設計）人: 樸峻奭
• 申請（專利權）人: 三星電子株式會社
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06N3/04
• 代理公司: 北京天昊聯合知識產權代理有限公司 11112
• 代理人: 趙南;張帆

1.一種用于執行神經網絡的卷積操作的裝置，所述裝置包括：

神經網絡處理電路，其被配置為:

通過對輸入特征映射執行Winograd變換來產生變換的輸入特征映射，所述變換的輸入特征映射包括多個信道，每個信道具有矩陣形式；

執行所述變換的輸入特征映射的特征矢量與基于所述Winograd變換獲得的變換的權重內核的權重矢量之間的逐元素乘法；以及

將所述逐元素乘法的結果相加，其中關于所述特征矢量逐信道地執行所述逐元素乘法，所述特征矢量包括在所述變換的輸入特征映射的所述多個信道中的相同位置上的特征值。

2.根據權利要求1所述的裝置，其中，所述神經網絡處理電路被配置為：關于包括在所述變換的輸入特征映射的特征矢量中的輸入特征值和包括在所述變換的權重內核的權重矢量中的權重順序地逐信道地執行所述逐元素乘法，并將所述逐元素乘法的結果相加，所述輸入特征值和所述權重具有非零值，并且所述權重矢量與所述特征矢量對應。

3.根據權利要求1所述的裝置，其中，所述神經網絡電路還被配置為關于含具有零值的特征和具有零值的權重中的至少一者的信道來跳過逐元素乘法，所述特征包括在所述變換的輸入特征映射的特征矢量中，并且所述權重包括在所述變換的權重內核的權重矢量中。

4.根據權利要求1所述的裝置，其中，所述神經網絡處理電路還被配置為產生關于所述輸入特征映射中的具有非零值的第一輸入特征的信息。

5.根據權利要求1所述的裝置，其中，所述神經網絡處理電路還被配置為：通過將所述變換的權重內核的所述多個信道中的對應的位置中的權重分組為所述權重矢量中的每一個來將所述變換的權重內核重新格式化為多個權重矢量。

6.根據權利要求5所述的裝置，其中，所述神經網絡處理電路還被配置為通過基于所述多個權重矢量中的對應的一個的位置將輸出特征值反向重新格式化來產生變換的輸出特征映射，并被配置為對所述變換的輸出特征映射執行Winograd逆變換。

7.根據權利要求1所述的裝置，其中，所述神經網絡處理電路關于包括在所述變換的輸入特征映射的特征矢量中的特征值和包括在所述變換的權重內核的權重矢量中的權重逐信道地同時執行所述逐元素乘法，并將所述逐元素乘法的結果相加。

8.一種操作包括神經網絡處理電路的裝置的方法，所述神經網絡處理電路用于執行神經網絡的卷積操作，所述方法包括步驟：

由所述神經網絡處理電路通過將至少一個Winograd變換的權重內核的多個信道中的對應的位置中的權重分組為多個權重波束中的每一個來將所述至少一個Winograd變換的權重內核重新格式化為所述多個權重波束；

由所述神經網絡處理電路獲得Winograd變換的輸入特征映射；

由所述神經網絡處理電路對多個特征波束中的每一個和所述多個權重波束之中的對應的權重波束執行點積，所述多個特征波束中的每一個包括所述Winograd變換的輸入特征映射的所述多個信道中的相同位置上的特征值；

由所述神經網絡處理電路通過基于所述多個權重波束的各個位置將點積結果反向重新格式化來產生輸出特征映射，所述點積結果分別關于所述多個權重波束來計算；以及

由所述神經網絡處理電路對所述輸出特征映射執行Winograd逆變換。

9.根據權利要求8所述的方法，其中，執行所述點積的步驟包括：

由所述神經網絡處理電路對所述多個特征波束之中的第一特征波束的特征值和所述多個權重波束之中的第一權重波束的權重逐信道地順序地執行逐元素乘法；以及

由所述神經網絡處理電路將產生的乘法結果順序地相加。

10.根據權利要求9所述的方法，其中，順序地執行所述逐元素乘法的步驟包括：由所述神經網絡處理電路對所述第一特征波束的特征值之中的具有非零值的特征值和所述第一權重波束的權重執行逐元素乘法。