[發明專利]神經網絡硬件

在審

• 申請號: 201811315075.3
• 申請日: 2018-11-06
• 公開（公告）號: CN110020716A
• 公開（公告）日: 2019-07-16
• 發明（設計）人: 克里斯·馬丁
• 申請（專利權）人: 暢想科技有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/06;G06N3/063;G06F9/30
• 代理公司: 北京東方億思知識產權代理有限責任公司 11258
• 代理人: 林強

1.一種用于實施深度神經網絡(DNN)的硬件，所述深度神經網絡具有卷積層，所述硬件包括多個卷積引擎，每個卷積引擎能夠操作以通過向數據窗口應用濾波來執行卷積操作，每個濾波包括用于與數據窗口的相應的數據值組合的權重的集合，并且所述多個卷積引擎中的每個卷積引擎包括：

乘法邏輯，其能夠操作以將濾波的權重與數據窗口的相應的數據值組合；

控制邏輯，其被配置為：

接收配置信息，所述配置信息標識用于在所述多個卷積引擎處的數據窗口的集合上操作的濾波的集合；

使用所述配置信息來確定卷積操作的序列，以用于在所述乘法邏輯處進行評估；

根據所確定的卷積操作的序列，請求權重和數據值，以用于至少部分地向數據窗口應用濾波；并且

使得所述乘法邏輯將所述權重與其相應的數據值組合；以及

累加邏輯，其被配置為將由所述乘法邏輯執行的多個組合的結果累加，以便形成所確定的序列的卷積操作的輸出。

2.根據權利要求1所述的硬件，其中，所述多個卷積引擎中的每個卷積引擎被布置為獨立地執行不同序列的卷積操作，使得所述卷積引擎共同地向數據窗口的集合中的每個數據窗口應用濾波的集合。

3.根據權利要求1或2所述的硬件，其中，所述多個卷積引擎中的每個卷積引擎被配置為獨立地請求下一個卷積操作的權重和數據值，并且使得其乘法邏輯開始下一個卷積操作，而不管所述卷積引擎中的其他卷積引擎是否已經完成其當前的卷積操作。

4.根據權利要求1或2所述的硬件，其中，所述配置信息包括濾波的集合中的濾波的數量和數據窗口的集合中的數據窗口的數量；并且所述控制邏輯被配置為使用所述配置信息來確定卷積操作的序列，并且卷積引擎的數量被布置為向所述數據窗口的集合應用所述濾波的集合。

5.根據權利要求1或2所述的硬件，其中，所述硬件被布置為執行卷積操作的預定序列，每個卷積操作由指數標識，根據所述指數每個下一個卷積操作通過使所述指數遞增來標識，并且在完成卷積操作時，每個卷積引擎被配置為通過使其當前卷積操作的指數遞增根據所述卷積引擎的數量而得出的步長值來確定其下一個卷積操作，使得在每個卷積引擎處執行的所述卷積操作的序列也被預先確定。

6.根據權利要求5所述的硬件，其中，所述步長值是卷積引擎的數量。

7.根據權利要求5所述的硬件，其中，所述濾波的集合被布置為在所述數據窗口的集合中的每個集合上以固定的序列執行以便形成卷積操作的預定序列，并且所述控制邏輯被配置為通過根據所述預定確定序列確定每個下一個卷積操作的濾波和數據窗口來確定該下一個卷積操作的權重和數據值。

8.根據權利要求1或2所述的硬件，其中，所述控制邏輯被配置為：在所述乘法邏輯完成其當前權重和數據值的組合之前請求下一個權重和數據值。

9.根據權利要求1或2所述的硬件，其中，所述配置信息在硬件處理開始時在每個卷積引擎處被接收，由所述配置信息標識的數據窗口的集合和應用于數據窗口的集合的濾波的集合是完整的濾波的集合和完整的數據窗口的集合，以用于由所述硬件處理中的所述硬件的所述多個卷積引擎進行評估。

10.根據權利要求1或2所述的硬件，其中，每個卷積引擎被配置為：標識所請求的權重中的零權重，并且對于每個權重以及其相應的數據值，使得所述乘法邏輯僅在所述權重為非零時將所述權重與其相應的數據值組合。

11.根據權利要求10所述的硬件，其中，每個卷積引擎還被配置為：標識所請求的數據值中的零數據值，并且對于每個權重以及其相應的數據值，使得所述乘法邏輯僅在所述權重和所述數據值為非零時將所述數據值與其相應的權重組合。