[發明專利]計算裝置及相關產品

在審

• 申請號: 201811207452.1
• 申請日: 2018-10-17
• 公開（公告）號: CN111062469A
• 公開（公告）日: 2020-04-24
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 上海寒武紀信息科技有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063
• 代理公司: 廣州三環專利商標代理有限公司 44202
• 代理人: 郝傳鑫;熊永強

1.一種計算裝置，其特征在于，所述計算裝置包括：X組神經網絡芯片，所述X組神經網絡芯片中的每一組神經網絡芯片中包括一個主芯片和至少一個從芯片，所述主芯片與所述從芯片連接，所述X組神經網絡芯片中的主芯片之間連接，所述X的取值范圍為大于或等于2的整數；

所述X組神經網絡芯片中的每一個神經網絡芯片用于獲取輸入數據和權值，并將所述權值與所述每一個神經網絡芯片對應的輸入數據進行運算，獲得運算結果，其中所述每一個神經網絡芯片獲取的所述輸入數據不同，獲取的所述權值相同；

所述X組神經網絡芯片中的第一組神經網絡芯片中的第一主芯片，用于接收與所述第一主芯片連接的從芯片的運算結果；

所述第一主芯片用于將所述第一主芯片的運算結果和接收的所述從芯片的運算結果共享給其他組神經網路芯片中的主芯片，并接收其他組神經網絡芯片中的主芯片共享的運算結果。

2.根據權利要求1所述的裝置，其特征在于，所述第一主芯片還用于：

將所述第一主芯片中的所有運算結果傳遞給與所述第一主芯片連接的從芯片。

3.根據權利要求1或2所述的裝置，其特征在于，所述主芯片通過樹型結構與所述從芯片連接，所述樹型結構為n叉樹結構，所述主芯片為所述n叉樹結構的根節點，所述從芯片為所述n叉樹結構的子節點，所述子節點可以是一級子節點，也可以是多級子節點。

4.根據權利要求1所述裝置，其特征在于，所述神經網絡芯片包括：運算單元以及控制器單元；所述運算單元包括：一個主處理電路和多個從處理電路；

所述控制器單元，用于獲取輸入數據以及計算指令；

所述控制器單元，還用于解析該計算指令得到多個運算指令，將該多個運算指令以及所述輸入數據發送給所述主處理電路；

所述主處理電路，用于對所述輸入數據執行前序處理以及與所述多個從處理電路之間傳輸數據和運算指令；

所述多個從處理電路，用于依據從所述主處理電路傳輸的數據以及運算指令并行執行中間運算得到多個中間結果，并將多個中間結果傳輸給所述主處理電路；

所述主處理電路，用于對所述多個中間結果執行后續處理得到所述計算指令的運算結果。

5.根據權利要求4所述的裝置，其特征在于，所述神經網絡芯片還包括：存儲單元和直接內存訪問單元，所述存儲單元包括：寄存器、緩存中任意組合；

所述緩存，用于存儲所述輸入數據；

所述寄存器，用于存儲所述輸入數據中標量數據；

所述緩存包括高速暫存緩存；

所述控制器單元包括：指令緩存單元、指令處理單元和存儲隊列單元；

所述指令緩存單元，用于存儲所述人工神經網絡運算關聯的計算指令；

所述指令處理單元，用于對所述計算指令解析得到多個運算指令；

所述存儲隊列單元，用于存儲指令隊列，該指令隊列包括：按該隊列的前后順序待執行的多個運算指令或計算指令；

所述控制器單元包括：依賴關系處理單元；

所述依賴關系處理單元，用于確定第一運算指令與所述第一運算指令之前的第零運算指令是否存在關聯關系，如所述第一運算指令與所述第零運算指令存在關聯關系，將所述第一運算指令緩存在所述指令存儲單元內，在所述第零運算指令執行完畢后，從所述指令存儲單元提取所述第一運算指令傳輸至所述運算單元；

所述確定該第一運算指令與第一運算指令之前的第零運算指令是否存在關聯關系包括：

依據所述第一運算指令提取所述第一運算指令中所需數據的第一存儲地址區間，依據所述第零運算指令提取所述第零運算指令中所需數據的第零存儲地址區間，如所述第一存儲地址區間與所述第零存儲地址區間具有重疊的區域，確定所述第一運算指令與所述第零運算指令具有關聯關系，如所述第一存儲地址區間與所述第零存儲地址區間不具有重疊的區域，確定所述第一運算指令與所述第零運算指令不具有關聯關系。

6.根據權利要求4或5所述的裝置，其特征在于，當所述神經網絡芯片為主芯片時，所述控制器單元還包括調度單元，具體用于：

對所述主芯片中的運算結果進行調度。