[發明專利]一種計算裝置及相關產品

在審

• 申請號: 201810453547.5
• 申請日: 2018-05-11
• 公開（公告）號: CN110472734A
• 公開（公告）日: 2019-11-19
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 上海寒武紀信息科技有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063
• 代理公司: 44202 廣州三環專利商標代理有限公司
• 代理人: 郝傳鑫;熊永強<國際申請>=<國際公布>

本申請提供了一種計算裝置及相關產品，所述計算裝置用于執行機器學習模型的計算；所述計算裝置包括：運算單元以及控制器單元；所述運算單元包括：一個主處理電路和多個從處理電路。本申請提供的技術方案具有功耗低，計算速度快的優點。

技術領域

本申請涉及信息處理技術領域，具體涉及一種計算裝置及相關產品。

背景技術

隨著信息技術的不斷發展和人們日益增長的需求，人們對信息及時性的要 求越來越高了。目前，終端對信息的獲取以及處理均是基于通用處理器獲得的。

在實踐中發現，這種基于通用處理器運行軟件程序來處理信息的方式，受 限于通用處理器的運行速率，特別是在通用處理器負荷較大的情況下，信息處 理效率較低、時延較大，對于信息處理的計算模型例如計算模型的正向運算來 說，正向運算的計算量更大，通用的處理器完成正向運算的時間長，效率低， 功耗高。

發明內容

本申請實施例提供了一種計算裝置及相關產品，可提升正向運算的處理速 度，提高效率、節省功耗。

第一方面，提供一種計算裝置，所述計算裝置用于執行機器學習模型機器 學習計算，所述計算裝置包括：運算單元以及控制器單元；所述運算單元包括： 一個主處理電路和多個從處理電路；

所述控制器單元，用于獲取數據、機器學習模型以及正向運算的計算指令；

所述控制器單元，還用于解析該計算指令得到多個運算指令，將該多個運 算指令以及所述數據發送給所述主處理電路；

所述主處理電路，用于對所述數據執行前序處理以及與所述多個從處理電 路之間傳輸數據以及運算指令；

所述多個從處理電路，用于依據從所述主處理電路傳輸的數據以及運算指 令并行執行中間運算得到多個中間結果，并將多個中間結果傳輸給所述主處理 電路；

所述主處理電路，用于對所述多個中間結果執行后續處理得到所述計算指 令的計算結果。

第二方面，本申請實施例提供了一種神經網絡運算裝置，該神經網絡運算 裝置包括一個或者多個第一方面所述的計算裝置。該神經網絡運算裝置用于從 其他處理裝置中獲取待運算數據和控制信息，并執行指定的神經網絡運算，將 執行結果通過I/O接口傳遞給其他處理裝置；

當所述神經網絡運算裝置包含多個所述計算裝置時，所述多個所述計算裝 置間可以通過特定的結構進行鏈接并傳輸數據；

其中，多個所述計算裝置通過PCIE總線進行互聯并傳輸數據，以支持更大 規模的神經網絡的運算；多個所述計算裝置共享同一控制系統或擁有各自的控 制系統；多個所述計算裝置共享內存或者擁有各自的內存；多個所述計算裝置 的互聯方式是任意互聯拓撲。

第三方面，本申請實施例提供了一種組合處理裝置，該組合處理裝置包括 如第三方面所述的神經網絡處理裝置、通用互聯接口，和其他處理裝置。該神 經網絡運算裝置與上述其他處理裝置進行交互，共同完成用戶指定的操作。該 組合處理裝置還可以包括存儲裝置，該存儲裝置分別與所述神經網絡運算裝置 和所述其他處理裝置連接，用于保存所述神經網絡運算裝置和所述其他處理裝 置的數據。

第四方面，本申請實施例提供了一種神經網絡芯片，該神經網絡芯片包括 上述第一方面所述的計算裝置、上述第二方面所述的神經網絡運算裝置或者上 述第三方面所述的組合處理裝置。

第五方面，本申請實施例提供了一種神經網絡芯片封裝結構，該神經網絡 芯片封裝結構包括上述第四方面所述的神經網絡芯片；

第六方面，本申請實施例提供了一種板卡，該板卡包括上述第五方面所述 的神經網絡芯片封裝結構。

第七方面，本申請實施例提供了一種電子裝置，該電子裝置包括上述第六 方面所述的神經網絡芯片或者上述第六方面所述的板卡。