[發明專利]一種Winograd卷積運算加速方法及加速模塊

有效

• 申請號: 202110588325.6
• 申請日: 2021-05-28
• 公開（公告）號: CN113283587B
• 公開（公告）日: 2023-09-19
• 發明（設計）人: 楊晨;呂嫻嫻;范世全;耿莉
• 申請（專利權）人: 西安交通大學
• 主分類號: G06N3/0464
• 分類號: G06N3/0464;G06N3/08;G06F15/78
• 代理公司: 西安通大專利代理有限責任公司 61200
• 代理人: 馬貴香

1.一種Winograd卷積運算加速方法，其特征在于，包括：

對于非3×3形狀的卷積運算，使用基于步長的卷積核拆分方法將輸入矩陣拆分或者填充為4×4的輸入矩陣，將卷積核矩陣拆分或者填充為3×3的卷積核矩陣；

使用卷積核轉換矩陣和輸入矩陣轉換矩陣B^T對3×3的卷積核矩陣和4×4的輸入矩陣分別進行Winograd變換，得到變換后的卷積核矩陣U和輸入矩陣V；

對變換后的卷積核矩陣U中的元素按照比特級精度進行權重拆分，通過累加運算和移位運算得到矩陣Z；

對矩陣Z進行Winograd變換，獲得卷積運算的輸出矩陣Y；

矩陣Z中的每個元素z的計算公式如下：

（14）

（15）

（16）

（17）

（18）

（19）

（20）

（21）

輸出矩陣Y中的每個元素y的計算公式如下：

（22）

（23）

（24）

（25）

其中，；表示該值為中的第q個比特位上的數值；表示該元素處于轉換后的卷積核矩陣U中的位置，v=1,2,3,4；為轉換后的輸入矩陣V中的元素。

2.?根據權利要求1所述的Winograd卷積運算加速方法，其特征在于，對于Winograd?F(2×2,3×3)，輸入矩陣轉換矩陣的值如下：

（2）

轉換后的輸入矩陣表示如下：

（6）。

3.?根據權利要求1所述的Winograd卷積運算加速方法，其特征在于，對于Winograd?F(2×2,3×2)，卷積核轉換矩陣的值如下：

（3）

轉換后的卷積核矩陣表示如下：

（5）。

4.根據權利要求1所述的Winograd卷積運算加速方法，其特征在于，對變換后的卷積核矩陣U中的元素按照比特級精度進行權重拆分，通過累加運算和移位運算得到矩陣Z具體是：

步驟1，假設轉換后的卷積核矩陣U是量化的定點格式，保持在10-bit精度，對于轉換后的卷積核矩陣U中的每一個權重，遍歷比較其每一個比特位，標記出所有的非零元素；根據所標記的、和，將對應的輸入矩陣V中的賦給，未被標記處用0補上；

步驟2，將產生的元素根據q值的不同分類，分為10類，對于每一個q值，將被歸予對應分類的所有，獲得10個累加和acc_q；

步驟3，將每q值對應分類下的累加和acc_q乘以2^q，獲得10個部分積partial_q；

步驟4，對10個部分積partial_q再次進行累加運算，以獲得輸出元素，組成矩陣Z；

步驟5，利用累加運算對矩陣Z進行變換，得到輸出矩陣Y。

5.根據權利要求4所述的Winograd卷積運算加速方法，其特征在于，所有的累加運算采用進位保留加法算法完成。