[發明專利]一種面向多變異體LSTM神經網絡加速器及數據處理方法

在審

• 申請號: 201810244102.6
• 申請日: 2018-03-23
• 公開（公告）號: CN108376285A
• 公開（公告）日: 2018-08-07
• 發明（設計）人: 韓銀和;閔豐;許浩博;王穎
• 申請（專利權）人: 中國科學院計算技術研究所
• 主分類號: G06N3/063
• 分類號: G06N3/063
• 代理公司: 北京泛華偉業知識產權代理有限公司 11280
• 代理人: 王勇

本發明涉及一種面向多變異體LSTM的神經網絡加速器，包括存儲單元，用于存儲LSTM或其變異體網絡的神經元數據和權值數據并輸出；矩陣乘法單元，用于從所述存儲單元接收數據并針對所述接收的數據執行向量乘累加運算并輸出運算結果；多功能運算單元，用于從所述向量乘法運算單元接收數據，并針對所述接收的數據執行與LSTM或其變異體網絡對應的特定運算并輸出運算結果；激活單元，用于從所述多功能運算單元和所述存儲單元接收數據，并針對所述接收的數據執行激活操作并輸出激活結果；向量平行乘法與加法單元，用于從所述激活單元和所述存儲單元接收數據，并針對所述接收的數據執行乘法和累加操作。

技術領域

本發明涉及計算領域，特別涉及一種面向多變異體LSTM的神經網絡加速器及數據處理方法。

背景技術

神經網絡是人工智能領域具有高發展水平的感知模型之一，一經出現就成為了學術界和工業界的研究熱點，隨著研究的不斷深入，不同類型的神經網絡被相繼提出，例如，長短期記憶網絡(LSTM,Long Short-Term Memory)。

LSTM網絡是一種時間遞歸的循環神經網絡，能夠學習長期的依賴信息，常被用于學習語言翻譯、機器人控制、圖像分析等，其計算過程的主要占用部分為各門值向量乘累加運算與各層迭代運算過程；為了適應不同的應用需求，LSTM具有多種變異體，例如門限重復單元(GRU)變異體等，而現有技術中的神經網絡加速器，通常只是針對一種LSTM或LSTM變異體設計，這就嚴重降低了計算資源利用率。

因此，需要一種能夠滿足神經網絡對LSTM及其多種變異體的兼容性的神經網絡加速器及數據處理方法。

發明內容

本發明提供一種面向多變異體LSTM的神經網絡加速器，包括存儲單元，用于存儲LSTM或其變異體網絡的神經元數據和權值數據并輸出；矩陣乘法運算單元，用于從所述存儲單元接收數據并針對所述接收的數據執行向量的矩陣乘法運算并輸出運算結果；多功能運算單元，用于從所述向量矩陣乘法運算單元接收數據，并針對所述接收的數據執行與LSTM或其變異體網絡對應的特定運算并輸出運算結果；激活單元，用于從所述多功能運算單元和/或所述存儲單元接收數據，并針對所述接收的數據執行激活操作并輸出激活結果；向量平行乘法與加法單元，用于從所述激活單元和/或所述存儲單元接收數據，并針對所述接收的數據執行乘法和加法操作。

優選的，所述矩陣乘法運算單元包括用于針對權值矩陣與拼接向量執行矩陣乘法運算的矩陣行計算陣列。

優選的，所述矩陣乘法運算單元還包括用于針對指定門值間存在依賴關系時進行權值矩陣與指定門值向量執行矩陣乘法運算的矩陣列計算陣列。

優選的，所述矩陣行計算陣列以所述權值矩陣行為單位執行對所述權值矩陣與所述拼接向量的乘運算。

優選的，所述矩陣列計算陣列以所述權值矩陣列為單位執行對所述權值矩陣與所述指定門值向量的乘運算。

優選的，所述指定門值是輸出門值和記憶門值，所述指定門值向量是記憶門值向量。

優選的，所述指定門值間存在的依賴關系公式是：

O_t＝δ(W_xo·X_t+W_ho·Y_(t-1)+W_oc·C_t+b_o)

其中，“·”表示矩陣乘法操作，“δ”表示sigmoid激活操作，X_t為輸入向量，Y_t-1為上一級輸出向量，C_t為記憶門向量，O_t為輸出門向量，b_o為輸出門對應的偏移量，W_xo、W_ho和W_oc分別為輸入門、輸出門和記憶門對應的權值。