[發明專利]一種用于執行神經網絡運算的裝置及方法

有效

• 申請號: 201911062123.7
• 申請日: 2018-09-13
• 公開（公告）號: CN110610236B
• 公開（公告）日: 2022-05-31
• 發明（設計）人: 陳天石;劉少禮;王在;胡帥
• 申請（專利權）人: 上海寒武紀信息科技有限公司
• 主分類號: G06N3/063
• 分類號: G06N3/063;G06N3/04;G06N3/08;G06F9/38;G10L15/26
• 代理公司: 廣州三環專利商標代理有限公司 44202
• 代理人: 郝傳鑫;熊永強

本申請提供了一種用于執行神經網絡運算的裝置，裝置包括片上互聯模塊和與該片上互聯單元通信連接的多個神經網絡處理模塊。

技術領域

本申請屬于神經網絡運算領域，尤其涉及一種用于執行神經網絡運算的裝置。

背景技術

隨著信息技術的不斷發展和人們日益增長的需求，人們對信息的及時性要求也越來越高了。目前，終端設備對信息的獲取均是基于通用處理器獲得的，例如在通用處理器運行設定應用程序以獲知物體當前的位置，或者在通用處理器上運行設定應用程序獲知用戶當前場景(如室內或室外)等等。但是，這種基于通用處理器運行軟件程序來獲知信息的方式，受限于通用處理器的運行速率，特別是在通用處理器負荷較大的情況下，信息獲取效率較低、時延較長。

申請內容

有鑒于此，本申請提供一種用于執行神經網絡運算的裝置，能以低開銷的方式實現一層或多層多核多層人工神經網絡的運算，并且運算性能高效。

本申請提供一種用于執行神經網絡運算的裝置，包括片上互聯模塊和與該片上互聯單元通信連接的多個神經網絡處理模塊，其中：

所述神經網絡處理模塊能夠通過所述片上互聯模塊從其它神經網絡處理模塊中讀寫數據；

所述神經網絡處理模塊能夠通過所述片上互聯模塊從其它神經網絡處理模塊中讀寫數據；

所述神經網絡處理模塊，用于執行神經網絡運算，所述神經網絡處理模塊包括：寄存器單元、互聯模塊、運算單元、控制單元、數據訪問單元；其中，

寄存器單元，用于存儲運算指令、數據塊的在存儲介質的地址，運算指令對應的計算拓撲結構；

控制單元，用于從寄存器單元內提取運算指令，該運算指令對應的操作域以及該運算指令對應的第一計算拓撲結構，將該運算指令譯碼成執行指令，該執行指令用于控制運算單元執行運算操作，將該操作域傳輸至數據訪問單元；

數據訪問單元，用于提取該操作域對應的數據塊，并將該數據塊傳輸至互聯模塊；

互聯模塊、用于接收數據塊，將該數據塊發送至運算單元；

運算單元，用于該執行指令調用運算單元的計算器對該數據塊執行運算操作得到運算結果。

附圖說明

圖1－1是本披露實施例提供的一種計算裝置的示意性框圖；

圖1－2是本披露實施例提供的又一種計算裝置的示意性框圖；

圖1－3是本披露實施例提供的互聯模塊的示意框圖；

圖1－4是本披露實施例提供的用于執行卷積神經網絡正向運算的裝置中主運算模塊的示意框圖；

圖2－1是本披露提供的用于執行神經網絡運算的裝置的結構示意圖；

圖2－2是本披露中神經網絡處理模塊的結構示意圖；

圖2－3是本披露中外部存儲模塊的結構示意圖；

圖2－4是本披露中神經網絡處理單元的結構示意圖；

圖2－5是本披露中片上互聯單元的結構示意圖；

圖2－6是本披露執行一層全連接層運算實施例的流程圖；

圖3－1是本披露提供的一種運算單元的結構示意圖。

具體實施方式

參閱圖1－1，圖1－1提供了一種計算裝置，該計算裝置包括：存儲器111(可選的)、寄存器單元112、互聯模塊113、運算單元114、控制器單元115和數據訪問單元116；