[發明專利]具有脈動陣列的神經網絡計算設備

在審

• 申請號: 202110043103.6
• 申請日: 2021-01-13
• 公開（公告）號: CN113516225A
• 公開（公告）日: 2021-10-19
• 發明（設計）人: 樸容湘;金周映;陳永栽
• 申請（專利權）人: 愛思開海力士有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/063;G06F7/485;G06F7/487
• 代理公司: 北京路浩知識產權代理有限公司 11002
• 代理人: 李新娜;張瀾

1.一種神經網絡計算設備，包括：

第一處理塊，包括多個處理單元，每個處理單元對輸入數據和權重執行矩陣乘法運算；以及

第二處理塊，包括多個逐元素運算處理組，

其中所述逐元素運算處理組選擇性地執行第一神經網絡計算操作和第二神經網絡計算操作，

其中所述第一神經網絡計算操作包括對所述輸入數據和所述權重的所述矩陣乘法運算，以及對所述矩陣乘法運算的結果值的激活運算，并且

其中所述第二神經網絡計算操作包括對從所述第一處理塊傳送的所述矩陣乘法運算的結果值的激活運算，以及逐元素運算。

2.根據權利要求1所述的神經網絡計算設備，其中當所述神經網絡計算設備運行需要所述逐元素運算的神經網絡算法時，所述第二處理塊執行所述第二神經網絡計算操作。

3.根據權利要求2所述的神經網絡計算設備，其中需要所述逐元素運算的神經網絡算法包括長短期記憶算法即LSTM算法。

4.根據權利要求1所述的神經網絡計算設備，其中當所述神經網絡計算設備運行不需要所述逐元素運算的神經網絡算法時，所述第二處理塊執行所述第一神經網絡計算操作。

5.根據權利要求4所述的神經網絡計算設備，其中不需要所述逐元素運算的神經網絡算法包括多層感知器即MLP和卷積神經網絡即CNN。

6.根據權利要求1所述的神經網絡計算設備，其中所述第二處理塊的逐元素運算處理組中的每一個包括：

第一逐元素運算處理單元，執行從第一操作和第二操作中選擇的一個操作，所述第一操作將從所述第一處理塊傳送的輸出數據傳送到相鄰的逐元素運算處理單元，所述第二操作基于從所述第一處理塊傳送的輸出數據更新單元狀態值；

第二逐元素運算處理單元，執行從第三操作和第四操作中選擇的一個操作，所述第三操作將從所述第一逐元素運算處理單元傳送的輸出數據傳送到存儲器，所述第四操作基于所更新后的單元狀態值計算最終輸出值；以及

激活單元，執行從第一計算和第二計算中選擇的一個計算，所述第一計算對從所述第一處理塊傳送的輸出數據執行激活運算，所述第二計算對所述輸出數據和所更新后的單元狀態值執行激活運算。

7.根據權利要求6所述的神經網絡計算設備，其中當所述神經網絡計算設備運行需要所述逐元素運算的神經網絡算法時，

所述激活單元多次執行所述第二計算，并且順序地將多個激活值傳送到所述第一逐元素運算處理單元和所述第二逐元素運算處理單元，

所述第一逐元素運算處理單元通過對從所述激活單元傳送的所述激活值以及所述單元狀態值執行逐元素運算來更新所述單元狀態值，并且將所更新后的單元狀態值傳送到所述激活單元，并且

所述第二逐元素運算處理單元通過對從所述激活單元傳送的所述激活值以及所更新后的單元狀態值執行逐元素運算來計算所述最終輸出值。

8.根據權利要求6所述的神經網絡計算設備，其中當所述神經網絡計算設備運行不需要所述逐元素運算的神經網絡算法時，

所述第一逐元素運算處理單元將從所述第一處理塊的相應處理單元傳送的輸出數據傳送到所述第二逐元素運算處理單元，

所述第二逐元素運算處理單元將接收的輸出數據傳送到所述激活單元，并且

所述激活單元對接收的輸出數據執行激活運算，并且將激活值傳送到所述存儲器。

9.根據權利要求1所述的神經網絡計算設備，進一步包括：

權重獲取器接口，獲取存儲在所述存儲器中的權重，并且將所獲取的權重傳送到所述第一處理塊和所述第二處理塊。