[發明專利]具有可變輸出數據格式的深度神經網絡的硬件實現

在審

• 申請號: 201811094183.2
• 申請日: 2018-09-19
• 公開（公告）號: CN109635916A
• 公開（公告）日: 2019-04-16
• 發明（設計）人: 克里斯·馬丁;大衛·霍夫;保羅·布拉塞特;卡加泰·迪基奇;詹姆斯·因貝爾;克利福德·吉布森
• 申請（專利權）人: 暢想科技有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/063;G06N3/08
• 代理公司: 北京東方億思知識產權代理有限責任公司 11258
• 代理人: 林強

本發明涉及具有可變輸出數據格式的深度神經網絡的硬件實現。具體地，在本文描述的硬件實現和方法中，硬件實現被配置成：執行一個或多個硬件遍歷來實施DNN，其中在每個遍歷期間，硬件實現接收用于特定層的輸入數據；根據特定層(以及可選地一個或多個后續層)來處理輸入數據；并且基于在特定硬件遍歷中處理的一個或多個層而輸出期望格式的經處理的數據。具體地，當硬件實現接收待處理的輸入數據時，硬件實現還接收指示硬件遍歷的輸出數據的期望格式的信息，并且硬件實現被配置成在輸出經處理的數據之前將輸出數據轉換到期望格式。

技術領域

本發明涉及具有可變輸出數據格式的深度神經網絡的硬件實現。

背景技術

深度神經網絡(DNN)是可以用于機器學習應用的一種類型人工神經網絡。具體地，DNN可以用在信號處理應用中，包括圖像處理和計算機視覺應用。

DNN已經在功率資源并不是重要因素的應用中實施。盡管如此，DNN應用于許多不同的技術領域，其中用來實施DNN的硬件的資源使得功耗、處理能力或硅面積受限。

因此，需要實施被配置成以有效的方式(即，以在操作時需要較少硅面積或較少處理能力的方式)實施DNN的硬件。此外，DNN可以以許多不同的方式被配置成用于多種不同的應用。因此，還需要用于靈活地實施DNN以便能夠支持多種DNN配置的硬件。

僅通過實例方式提供下文描述的實施例，并且不限制解決了深度神經網絡的已知硬件實現的任何或所有缺點的實現。

發明內容

提供本發明內容以便介紹下文在具體實施方式中進一步描述的概念的選擇。本發明內容并不意圖標識所要求保護的主題的關鍵特征或基本特征，也不意圖限制所要求保護的主題的范圍。

本文中描述具有可變輸出數據格式的DNN的硬件實現和相關方法。具體地，在本文所述的硬件實現和方法中，硬件實現被配置成：執行一個或多個硬件遍歷(hardware pass)來實施DNN，其中在每個遍歷期間，硬件實現接收用于特定層的輸入數據；根據所述特定層(以及可選地一個或多個后續層)來處理所述輸入數據；并且基于在特定硬件遍歷中處理的一個或多個層而輸出期望格式的經處理數據。具體地，當硬件實現接收待處理的輸入數據時，硬件實現還接收指示硬件遍歷的輸出數據的期望格式的信息，并且硬件實現被配置成在輸出經處理的數據之前將輸出數據轉換到期望格式。

第一方面提供一種在深度神經網絡“DNN”的硬件實現中的方法，所述硬件實現被配置成通過使用一個或多個硬件遍歷處理數據來實施DNN，所述方法包括：接收用于硬件實現的硬件遍歷的輸入數據集，所述輸入數據集表示用于DNN的特定層的輸入數據的至少一部分；接收指示硬件遍歷的期望輸出數據格式的信息；根據與硬件遍歷相關聯的DNN的一個或多個層來處理所述輸入數據集，所述一個或多個層包括DNN的特定層；以及將經處理的數據轉換到硬件遍歷的期望輸出數據格式，以產生硬件遍歷的輸出數據。

第二方面提供一種深度神經網絡“DNN”的硬件實現，所述硬件實現被配置成通過使用一個或多個硬件遍歷處理數據來實施DNN，所述硬件實現包括：輸入模塊，其被配置成接收用于硬件實現的硬件遍歷的輸入數據集，所述輸入數據集表示用于DNN的特定層的輸入數據的至少一部分；解碼器，其被配置成接收指示硬件遍歷的期望輸出數據格式的信息；處理模塊，其被配置成根據與硬件遍歷相關聯的DNN的一個或多個層來處理所述輸入數據集，所述一個或多個層包括DNN的特定層；以及輸出模塊，其被配置成將經處理的數據轉換到硬件遍歷的期望輸出數據格式，以產生硬件遍歷的輸出數據。

DNN的硬件實現可以體現在集成電路上的硬件中。可以提供一種在集成電路制造系統處制造DNN的硬件實現的方法。可以提供一種集成電路定義數據集，所述集成電路定義數據集在集成電路制造系統中處理時將所述系統配置成制造DNN的硬件實現。可以提供一種非暫時性計算機可讀存儲介質，其上存儲有對DNN的硬件實現的計算機可讀描述，所述計算機可讀描述在集成電路制造系統中處理時致使集成電路制造系統制造體現DNN的硬件實現的集成電路。