[發明專利]面向神經網絡的矩陣轉換裝置及方法

有效

• 申請號: 201811040908.X
• 申請日: 2018-09-07
• 公開（公告）號: CN109190755B
• 公開（公告）日: 2021-07-20
• 發明（設計）人: 韓銀和;閔豐;許浩博;王穎
• 申請（專利權）人: 中國科學院計算技術研究所
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06F17/16
• 代理公司: 北京泛華偉業知識產權代理有限公司 11280
• 代理人: 王勇;李科

本發明涉及一種面向神經網絡的矩陣轉換裝置，包括：數據接收接口，用于接收并傳遞神經網絡的待轉換矩陣數據；轉換矩陣接收接口，用于接收并傳遞對應于所述待轉換矩陣數據的轉換矩陣；矩陣運算單元，與所述數據接收接口和所述轉換矩陣接收接口分別連接，利用所述待轉換矩陣數據和所述對應的轉換矩陣執行矩陣轉換運算；輸出接口，與所述矩陣運算單元相連，用于拼接并輸出所述矩陣運算單元獲得的運算結果；暫存單元，與所述數據接收接口和所述輸出接口相連，用于暫存所述輸出接口輸出的運算結果，并將所述運算結果輸入至所述數據接收接口。

技術領域

本發明涉及計算領域，特別涉及一種面向神經網絡的矩陣轉換裝置及方法。

背景技術

神經網絡是人工智能領域具有高發展水平的感知模型之一，因廣泛的應用和出色的表現使其成為了學術界和工業界的研究熱點。神經網絡通過模擬人類大腦的神經連接結構來建立模型結構，為大規模數據(例如圖像、視頻或音頻)處理任務帶來了突破性進展，該模型結構是一種由大量節點通過網狀互聯結構構成的運算模型，其中的節點被稱為神經元，每兩個節點間的連接強度都代表通過該連接信號在這兩個節點間的加權值，被稱為權重，對應于人類神經網絡中的記憶。

神經網絡的計算過程一般包括卷積、激活和池化等步驟，經研究，其中在執行卷積過程的矩陣運算時，針對數據的重復性操作任務極大，特別是關于矩陣的乘法運算，這不僅增加了神經網絡計算難度，同時重復的計算還浪費了大量的計算資源，導致運算速度下降。

因此，需要一種特別適用于神經網絡的低成本且高靈活性的矩陣轉換裝置及方法。

發明內容

本發明提供一種面向神經網絡的矩陣轉換運算裝置及方法，包括：

數據接收接口，用于接收并傳遞神經網絡的待轉換矩陣數據；

轉換矩陣接收接口，用于接收并傳遞對應于所述待轉換矩陣數據的轉換矩陣；

矩陣運算單元，與所述數據接收接口和所述轉換矩陣接收接口分別連接，利用所述待轉換矩陣數據和所述對應的轉換矩陣執行矩陣轉換運算；

輸出接口，與所述矩陣運算單元相連，用于拼接并輸出所述矩陣運算單元獲得的運算結果；

暫存單元，與所述數據接收接口和所述輸出接口相連，用于暫存所述輸出接口輸出的運算結果，并將所述運算結果輸入至所述數據接收接口。

優選的，所述待轉換矩陣數據包括權值矩陣數據g和輸入特征圖數據d；

所述轉換矩陣包括對應于所述權值矩陣數據g的權值轉換矩陣G，以及對應于所述輸入特征圖數據d的輸入特征圖轉換矩陣B；

所述矩陣運算單元用于執行所述轉換矩陣G/B及其轉置矩陣G^T/B^T與所述待轉換矩陣數據g/d之間的向量乘累加和/或矩陣乘法運算；

所述輸出接口用于拼接獲得中間結果矩陣L_g/L_d；

所述暫存單元用于暫存所述中間結果矩陣L_g/L_d。

優選的，所述數據接收接口用于將所述中間結果矩陣L_g/L_d傳遞至所述矩陣運算單元；

所述矩陣運算單元用于執行所述中間結果矩陣L_g/L_d與所述轉換矩陣G/B和/或其轉換矩陣G^T/B^T之間的向量乘累加和/或矩陣乘法運算；

所述輸出接口用于拼接獲得對應于所述權值矩陣數據/所述輸入特征圖數據的轉換結果矩陣U/V；

所述暫存單元用于暫存所述轉換結果矩陣U/V。