[發明專利]一種計算裝置及相關產品

在審

• 申請號: 201811193714.3
• 申請日: 2018-10-12
• 公開（公告）號: CN111047021A
• 公開（公告）日: 2020-04-21
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 中科寒武紀科技股份有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06F9/30
• 代理公司: 廣州三環專利商標代理有限公司 44202
• 代理人: 郝傳鑫;熊永強

本申請提供了一種神經網絡計算裝置及相關產品，所述計算裝置包括：控制單元以及運算單元，所述運算單元包括邏輯運算器以及浮點運算器；所述控制單元，用于獲取計算指令，解析所述計算指令得到多個運算指令，將該多個運算指令以及所述輸入數據發送給所述運算單元；所述運算單元，用于根據所述運算指令，獲取輸入數據，在所述輸入數據部分為離散數據的情況下，利用浮點定點運算器以及所述邏輯運算器完成神經網絡運算，得到所述運算結果；在所述輸入數據全部為離散數據的情況下，利用所述邏輯運算器完成神經網絡運算，得到所述運算結果。本申請揭露的計算裝置，可減少神經網絡計算中的運算量，提高效率，降低功耗。

技術領域

本申請涉及信息處理技術領域，具體涉及一種神經網絡計算裝置及相關產品。

背景技術

神經網絡是一種模仿動物神經網絡行為特征，進行分布式并行信息處理的算法數學模型，這種網絡由大量的節點(或稱神經元)之間相互連接構成，通過調整內部大量節點之間相互連接的關系，利用輸入數據、權值產生輸出數據模擬人腦的信息處理過程處理信息并生成模式識別之后的結果。

隨著神經網絡技術特別是人工神經網絡中深度學習(deep learning)技術的發展，當前用于智能識別領域的神經網絡模型規模越來越大，隨之而來的運算量也呈現幾何倍數增長。運算量的幾何倍數增長帶來了運算裝置的功耗、發熱量的增長。智能識別裝置的功耗過大、發熱量過大直接限制了其在終端產品例如可穿戴設備、無線設備等設備上的應用。

發明內容

本申請實施例提供了一種神經網絡計算裝置及相關產品，可減少神經網絡計算中的運算量，提高效率，降低功耗。

第一方面，提供一種計算裝置，所述計算裝置用于執行神經網絡計算，所述計算裝置包括：運算單元以及控制單元所述控制單元包括邏輯運算器以及浮點定點運算器；

所述控制單元，用于獲取計算指令；

所述控制單元，還用于解析所述計算指令得到多個運算指令，將所述多個運算指令發送給所述運算單元；

所述運算單元，用于根據所述控制單元下發的所述運算指令，獲取輸入數據，所述輸入數據包括神經元數據以及權值數據，所述輸入數據的部分或者全部為離散數據；在所述輸入數據部分為離散數據的情況下，利用浮點定點運算器以及所述邏輯運算器完成神經網絡運算，得到所述運算結果，其中，所述輸入數據中的非離散數據包括浮點數據和/或定點數據；在所述輸入數據全部為離散數據的情況下，利用所述邏輯運算器完成神經網絡運算，得到所述運算結果。

本申請提供的計算裝置支持輸入數據包括離散數據的神經網絡運算，在所述輸入數據部分為離散數據的情況下，利用浮點定點運算器以及所述邏輯運算器完成神經網絡運算；在所述輸入數據全部為離散數據的情況下，利用所述邏輯運算器完成神經網絡運算，本申請提供的計算裝置通過邏輯運算器支持離散數據的運算，可以減少存儲數據所需的存儲空間，有效減少運算量大的乘法運算，從而提高神經網絡運算速度，降低功耗。

第二方面，本申請實施例提供一種神經網絡運算裝置，所述神經網絡運算裝置包括一個或多個如上述第一方面所述的計算裝置，用于從其他處理裝置中獲取待運算輸入數據和控制信息，并執行指定的神經網絡運算，將執行結果通過I/O接口傳遞給其他處理裝置；

當所述神經網絡運算裝置包含多個所述計算裝置時，所述多個所述計算裝置間可以通過特定的結構進行連接并傳輸數據；

其中，多個所述計算裝置通過快速外部設備互連總線PCIE總線進行互聯并傳輸數據，以支持更大規模的神經網絡的運算；多個所述計算裝置共享同一控制系統或擁有各自的控制系統；多個所述計算裝置共享內存或者擁有各自的內存；多個所述計算裝置的互聯方式是任意互聯拓撲。