[發明專利]神經網絡硬件

在審

• 申請號: 201811315075.3
• 申請日: 2018-11-06
• 公開（公告）號: CN110020716A
• 公開（公告）日: 2019-07-16
• 發明（設計）人: 克里斯·馬丁
• 申請（專利權）人: 暢想科技有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/06;G06N3/063;G06F9/30
• 代理公司: 北京東方億思知識產權代理有限責任公司 11258
• 代理人: 林強

本公開涉及神經網絡硬件。提供了一種用于實施深度神經網絡(DNN)的硬件，深度神經網絡具有卷積層，硬件包括多個卷積引擎，每個卷積引擎能夠操作以通過向數據窗口應用濾波來執行卷積操作，每個濾波包括用于與數據窗口的相應的數據值組合的權重的集合，并且多個卷積引擎中的每個卷積引擎包括：乘法邏輯，其能夠操作以將濾波的權重與數據窗口的相應的數據值組合；控制邏輯，其被配置為：接收標識用于在多個卷積引擎處的數據窗口的集合上操作的濾波的集合的配置信息；使用配置信息來確定卷積操作的序列，以用于在乘法邏輯處進行評估；根據所確定的卷積操作的序列，請求權重和數據值；并且使得乘法邏輯將權重與其相應的數據值組合；以及累加邏輯。

技術領域

本公開涉及神經網絡硬件。

背景技術

本發明涉及用于實施具有卷積層的深度神經網絡的硬件，以及用于以硬件的方式實施具有卷積層的深度神經網絡的方法。

深度神經網絡(DNN)是在輸入層和輸出層之間具有多層的一種類型的人工神經網絡。DNN可以用于機器學習應用。具體而言，深度神經網絡可以用于信號處理應用，信號處理應用包括圖像處理應用和計算機視覺應用。

DNN通常在功率資源不是重要因素的應用中實施。盡管如此，DNN 在許多不同的技術領域中都有應用，其中用于實施DNN的硬件的資源使得功耗、處理能力或硅面積受到限制。此外，用于特定應用的DNN的限定可能隨著時間而變化——例如，由于DNN的額外訓練。

DNN通常包括卷積層，在該卷積層處向數據集的窗口應用濾波。具體而言，卷積神經網絡(CNN)是包括一個或多個卷積層的一類DNN，并且通常應用于分析圖像數據。根據應用，卷積層處的濾波和窗口的數量在不同的DNN之間可能發生巨大變化。

需要用于在DNN中以靈活且可伸縮的方式在各種各樣的不同DNN架構上高效地執行卷積操作的一種系統。

發明內容

本發明內容被提供用于介紹對以下具體實施方式中進一步描述的概念的選擇。本發明不旨在標識所要求保護的主題的關鍵特征或必要特征，也不旨在用于限制所要求保護的主題的范圍。

提供了一種用于實施深度神經網絡(DNN)的硬件，所述深度神經網絡具有卷積層，所述硬件包括多個卷積引擎，每個卷積引擎能夠操作以通過向數據窗口應用濾波來執行卷積操作，每個濾波包括用于與數據窗口的相應的數據值組合的權重的集合，并且所述多個卷積引擎中的每個卷積引擎包括：乘法邏輯，其能夠操作以將濾波的權重與數據窗口的相應的數據值組合；控制邏輯，其被配置為：接收配置信息，所述配置信息標識用于在所述多個卷積引擎處的數據窗口的集合上操作的濾波的集合；使用所述配置信息來確定卷積操作的序列，以用于在所述乘法邏輯處進行評估；根據所確定的卷積操作的序列，請求權重和數據值，以用于至少部分地向數據窗口應用濾波；并且使得所述乘法邏輯將所述權重與其相應的數據值組合；以及累加邏輯，其被配置為將由所述乘法邏輯執行的多個組合的結果累加，以便形成所確定的序列的卷積操作的輸出。

所述多個卷積引擎中的每個卷積引擎可以被布置為獨立地執行不同序列的卷積操作，使得所述卷積引擎共同地向數據窗口的集合中的每個數據窗口應用濾波的集合。

所述多個卷積引擎中的每個卷積引擎可以被配置為獨立地請求下一個卷積操作的權重和數據值，并且使得其乘法邏輯開始下一個卷積操作，而不管所述卷積引擎中的其他卷積引擎是否已經完成其當前的卷積操作。

所述配置信息包括濾波的集合中的濾波的數量和數據窗口的集合中的數據窗口的數量；并且所述控制邏輯可以被配置為使用所述配置信息來確定卷積操作的序列，并且卷積引擎的數量被布置為向所述數據窗口的集合應用所述濾波的集合。