[發明專利]一種網絡模型的計算方法及裝置

有效

• 申請號: 201810147747.8
• 申請日: 2018-02-12
• 公開（公告）號: CN110147249B
• 公開（公告）日: 2021-02-09
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 上海寒武紀信息科技有限公司
• 主分類號: G06F9/302
• 分類號: G06F9/302;G06N3/063
• 代理公司: 廣州三環專利商標代理有限公司 44202
• 代理人: 郝傳鑫;熊永強

1.一種計算裝置，其特征在于，所述計算裝置用于執行網絡模型的計算，所述網絡模型包括：神經網絡模型和/或非神經網絡模型；所述計算裝置包括：運算單元、控制器單元以及存儲單元，所述存儲單元包括：數據輸入輸出單元，所述運算單元包括：一個主處理電路以及多個從處理電路，所述主處理電路與多個從處理電路連接；

所述數據輸入輸出單元，用于獲取計算數據、網絡模型以及計算指令，所述計算數據包括：輸入數據和權值數據；

所述控制器單元，用于從存儲單元獲取計算指令，將該計算指令、計算數據發送給所述主處理電路；

所述主處理電路，用于將計算數據中的輸入數據或權值數據中的一個數據作為分發數據分配成多個分發數據塊，將該多個分發數據塊分發給所述多個從處理電路，解析該計算指令得到多個運算指令，將該多個運算指令中至少一個運算指令分發給所述多個從處理電路，將廣播數據轉發給所述多個從處理電路，所述廣播數據為所述計算數據的輸入數據或權值數據中的另一個數據；

所述多個從處理電路，用于依據接收到的運算指令對接收到的數據執行運算得到中間結果，將該中間結果發送至所述主處理電路；

所述主處理電路，用于將多個從處理電路發送的中間結果進行處理得到該計算指令的結果，將該計算指令的結果發送給所述控制器單元。

2.根據權利要求1所述的裝置，其特征在于，所述存儲單元還包括：存儲介質和標量數據存儲單元；

所述存儲介質，用于存儲所述網絡模型、輸入數據、權值數據；

所述標量數據存儲單元，用于存儲標量數據。

3.根據權利要求1所述的裝置，其特征在于，所述控制器單元包括：指令存儲單元、指令處理單元和存儲隊列單元；

所述指令存儲單元，用于存儲所述網絡模型關聯的計算指令；

所述指令處理單元，用于對所述計算指令解析得到多個運算指令；

所述存儲隊列單元，用于存儲指令隊列，該指令隊列包括：按該隊列的前后順序待執行的多個運算指令或計算指令。

4.根據權利要求3所述的裝置，其特征在于，所述運算單元包括：依賴關系處理單元；

所述依賴關系處理單元，用于確定第一運算指令與所述第一運算指令之前的第零運算指令是否存在關聯關系，如所述第一運算指令與所述第零運算指令存在關聯關系，將所述第一運算指令緩存在所述指令存儲單元內，在所述第零運算指令執行完畢后，從所述指令存儲單元提取所述第一運算指令傳輸至所述運算單元；

所述確定該第一運算指令與第一運算指令之前的第零運算指令是否存在關聯關系包括：

依據所述第一運算指令提取所述第一運算指令中所需數據的第一存儲地址區間，依據所述第零運算指令提取所述第零運算指令中所需數據的第零存儲地址區間，如所述第一存儲地址區間與所述第零存儲地址區間具有重疊的區域，確定所述第一運算指令與所述第零運算指令具有關聯關系，如所述第一存儲地址區間與所述第零存儲地址區間不具有重疊的區域，確定所述第一運算指令與所述第零運算指令不具有關聯關系。

5.根據權利要求1所述的裝置，其特征在于，

所述運算單元還包括：多個分支處理電路，所述分支處理電路連接在所述主處理電路與多個從處理電路之間；

所述分支處理電路，用于轉發所述主處理電路與從處理電路之間的數據。

6.根據權利要求1所述的裝置，其特征在于，

所述主處理電路，用于將所述廣播數據分配成多個廣播數據塊，將該多個廣播數據塊轉發給所述多個從處理電路。

7.一種芯片，其特征在于，所述芯片包括如上權利要求1-6任意一項所述的計算裝置。

8.一種電子設備，其特征在于，所述電子設備包括如上權利要求7所述的芯片。