[發明專利]一種計算裝置及相關產品

在審

• 申請號: 201811194528.1
• 申請日: 2018-10-12
• 公開（公告）號: CN111047023A
• 公開（公告）日: 2020-04-21
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 上海寒武紀信息科技有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06F9/302;G06F9/30;G06F1/3234
• 代理公司: 廣州三環專利商標代理有限公司 44202
• 代理人: 郝傳鑫;熊永強

本申請提供了一種神經網絡計算裝置及相關產品，所述計算裝置包括：所述計算裝置包括：存儲單元，用于存儲數據以及計算指令；控制單元，用于獲取計算指令，解析所述計算指令得到多個運算指令，并將所述多個運算指令發送給所述運算單元；第一數據轉換單元，用于將接收到的數據中的非冪次數據轉換為冪次數據；運算單元，用于根據所述運算指令獲取輸入數據，并根據所述運算指令以及所述輸入數據執行神經網絡運算，其中，所述輸入數據包括所述第一數據轉換單元轉換得到的冪次數據，所述運算單元包括加法器，所述加法器用于完成包含冪次數據的乘法運算。本申請揭露的計算裝置，可減少神經網絡計算中數據的存儲量以及運算量，提高效率，降低功耗。

技術領域

本申請涉及信息處理技術領域，具體涉及一種神經網絡計算裝置及相關產品。

背景技術

神經網絡是一種模仿動物神經網絡行為特征，進行分布式并行信息處理的算法數學模型，這種網絡由大量的節點(或稱神經元)之間相互連接構成，通過調整內部大量節點之間相互連接的關系，利用輸入數據、權值產生輸出數據模擬人腦的信息處理過程處理信息并生成模式識別之后的結果。

隨著神經網絡技術特別是人工神經網絡中深度學習(deep learning)技術的發展，神經網絡模型規模越來越大，隨之而來的運算量也呈現幾何倍數增長，這意味著神經網絡需要大量的計算資源和存儲資源。大量的計算資源和存儲資源的開銷會降低神經網絡的運算速度，同時，對硬件的傳輸帶寬以及運算器的要求也大大提高了，因此，降低神經網絡運算中數據的存儲量以及計算量變得十分重要。

發明內容

本申請實施例提供了一種神經網絡計算裝置及相關產品，可以通過冪次數據表示神經網絡中的數據，降低神經網絡運算中數據的存儲量以及計算量，提高效率、節省功耗。

第一方面，提供一種計算裝置，所述計算裝置用于執行神經網絡計算，所述計算裝置包括：存儲單元、控制單元、第一數據轉換單元以及運算單元；

所述存儲單元，用于存儲數據以及計算指令；

所述控制單元，用于獲取計算指令，并解析所述計算指令得到多個運算指令，將所述多個運算指令發送給所述運算單元；

所述第一數據轉換單元，用于將獲取到的數據中的非冪次數據轉換為冪次數據；

所述運算單元，用于根據所述運算指令獲取輸入數據，并根據所述運算指令以及所述輸入數據執行神經網絡運算，得到運算結果，其中，所述輸入數據包括所述第一數據轉換單元轉換得到的冪次數據，所述運算單元包括加法器，所述加法器用于完成包含冪次數據的乘法運算。

本申請提供的計算裝置，可以通過數據轉換單元將非冪次數據轉換為冪次數據，可以減少存儲數據所需的存儲空間。通過采用基于加法器的乘法單元，替代傳統運算單元中的浮點定點乘法器，可以有效減少運算量大的乘法運算，從而提高神經網絡運算速度，降低功耗。

第二方面，本申請實施例提供一種神經網絡運算裝置，所述神經網絡運算裝置包括一個或多個如上述第一方面所述的計算裝置，用于從其他處理裝置中獲取待運算輸入數據和控制信息，并執行指定的神經網絡運算，將執行結果通過I/O接口傳遞給其他處理裝置；

當所述神經網絡運算裝置包含多個所述計算裝置時，所述多個所述計算裝置間可以通過特定的結構進行連接并傳輸數據；

其中，多個所述計算裝置通過快速外部設備互連總線PCIE總線進行互聯并傳輸數據，以支持更大規模的神經網絡的運算；多個所述計算裝置共享同一控制系統或擁有各自的控制系統；多個所述計算裝置共享內存或者擁有各自的內存；多個所述計算裝置的互聯方式是任意互聯拓撲。