[發明專利]面向神經網絡的矩陣轉換裝置及方法

有效

• 申請號: 201811040908.X
• 申請日: 2018-09-07
• 公開（公告）號: CN109190755B
• 公開（公告）日: 2021-07-20
• 發明（設計）人: 韓銀和;閔豐;許浩博;王穎
• 申請（專利權）人: 中國科學院計算技術研究所
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06F17/16
• 代理公司: 北京泛華偉業知識產權代理有限公司 11280
• 代理人: 王勇;李科

1.一種面向神經網絡的矩陣轉換裝置，包括：

數據接收接口，用于接收并傳遞神經網絡的待轉換矩陣數據；

轉換矩陣接收接口，用于接收并傳遞對應于所述待轉換矩陣數據的轉換矩陣；

矩陣運算單元，與所述數據接收接口和所述轉換矩陣接收接口分別連接，利用所述待轉換矩陣數據和所述對應的轉換矩陣執行矩陣轉換運算；其中所述矩陣運算單元包括用于針對動態轉換矩陣執行矩陣乘法運算的乘法運算模塊、用于針對靜態轉換矩陣執行移位運算的移位運算模塊以及用于執行接收并累加移位運算模塊或乘法運算模塊獲得的運算結果的累加運算模塊；其中所述矩陣運算單元還用于對經累加運算模塊累加后的移位運算模塊和乘法運算模塊獲得的運算結果進行點乘運算；所述靜態轉換矩陣是指用于執行矩陣運算的轉換矩陣的參數為固定值，且屬于集合{0、±(1/2)ⁿ}，其中，n∈{0、1、2、3、……}；所述動態轉換矩陣是指用于執行矩陣運算的轉換矩陣的參數為動態值或不屬于靜態轉換矩陣的參數范圍；

輸出接口，與所述矩陣運算單元相連，用于拼接并輸出所述矩陣運算單元獲得的運算結果；

暫存單元，與所述數據接收接口和所述輸出接口相連，用于暫存所述輸出接口輸出的運算結果，并將所述運算結果輸入至所述數據接收接口。

2.根據權利要求1所述的矩陣轉換裝置，其特征在于，

所述待轉換矩陣數據包括權值矩陣數據g和輸入特征圖數據d；

所述轉換矩陣包括對應于所述權值矩陣數據g的權值轉換矩陣G，以及對應于所述輸入特征圖數據d的輸入特征圖轉換矩陣B；

所述矩陣運算單元用于執行所述轉換矩陣G/B及其轉置矩陣G^T/B^T與所述待轉換矩陣數據g/d之間的向量乘累加和/或矩陣乘法運算；

所述輸出接口用于拼接獲得中間結果矩陣L_g/L_d；

所述暫存單元用于暫存所述中間結果矩陣L_g/L_d。

3.根據權利要求2所述的矩陣轉換裝置，其特征在于，

所述數據接收接口用于將所述中間結果矩陣L_g/L_d傳遞至所述矩陣運算單元；

所述矩陣運算單元用于執行所述中間結果矩陣L_g/L_d與所述轉換矩陣G/B和/或其轉換矩陣G^T/B^T之間的向量乘累加和/或矩陣乘法運算；

所述輸出接口用于拼接獲得對應于所述權值矩陣數據/所述輸入特征圖數據的轉換結果矩陣U/V；

所述暫存單元用于暫存所述轉換結果矩陣U/V。

4.根據權利要求3所述的矩陣轉換裝置，其特征在于，

所述矩陣運算單元用于執行針對所述轉換結果矩陣U和所述轉換結果矩陣V的點乘運算；

所述輸出接口用于拼接獲得中間運算矩陣M；

所述暫存單元用于暫存所述中間運算矩陣M。

5.根據權利要求4所述的矩陣轉換裝置，其特征在于，

所述轉換矩陣還包括對應于所述權值矩陣數據g和所述輸入特征圖數據d的目標轉換矩陣A；

所述矩陣運算單元用于執行針對所述轉換矩陣A及其轉置矩陣A^T與所述中間運算矩陣M的向量乘累加和/或矩陣乘法運算；

所述輸出接口用于拼接獲得中間結果矩陣L_M；

所述暫存單元用于暫存所述中間結果矩陣L_M。

6.根據權利要求5所述的矩陣轉換裝置，其特征在于，

所述矩陣運算單元用于執行中間結果矩陣L_M與所述轉換矩陣A之間的向量乘累加運算；

用所述輸出接口用于拼接獲得最終的點乘結果矩陣F。