[發明專利]運算方法、裝置、計算機設備和存儲介質

有效

• 申請號: 201910620768.1
• 申請日: 2019-07-10
• 公開（公告）號: CN111124497B
• 公開（公告）日: 2022-03-29
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 上海寒武紀信息科技有限公司
• 主分類號: G06F9/302
• 分類號: G06F9/302;G06F9/30;G06F9/34;G06F15/173;G06N20/00
• 代理公司: 北京林達劉知識產權代理事務所(普通合伙) 11277
• 代理人: 劉新宇

1.一種計數指令處理裝置，其特征在于，所述裝置包括：

控制模塊，用于對獲取到的計數指令進行解析，得到所述計數指令的操作碼和操作域，并根據所述操作碼和所述操作域獲取執行所述計數指令所需的多個待運算數據和目標地址；

運算模塊，用于確定所述多個待運算數據中滿足計數條件的待運算數據的數據個數，并將所述數據個數存入所述目標地址中，

其中，所述操作碼用于指示所述計數指令對數據所進行的運算為計數統計運算，所述操作域包括待運算數據地址和所述目標地址；

其中，所述控制模塊包括：

指令存儲子模塊，用于存儲所述計數指令；

指令處理子模塊，用于對所述計數指令進行解析，得到所述計數指令的操作碼和操作域；

隊列存儲子模塊，用于存儲指令隊列，所述指令隊列包括按照執行順序依次排列的多個待執行指令，所述多個待執行指令包括所述計數指令；

其中，所述運算模塊，包括：

依賴關系處理子模塊，用于在確定所述多個待執行指令中的第一待執行指令與所述第一待執行指令之前的第零待執行指令存在關聯關系時，將所述第一待執行指令緩存在所述指令存儲子模塊中，在所述第零待執行指令執行完畢后，從所述指令存儲子模塊中提取所述第一待執行指令發送至所述運算模塊，

其中，所述第一待執行指令與所述第一待執行指令之前的第零待執行指令存在關聯關系包括：

存儲所述第一待執行指令所需數據的第一存儲地址區間與存儲所述第零待執行指令所需數據的第零存儲地址區間具有重疊的區域。

2.根據權利要求1所述的裝置，其特征在于，所述運算模塊，包括：

多個計數器，用于對滿足所述計數條件的待運算數據的個數進行計數統計，得到所述多個待運算數據中滿足計數條件的待運算數據的數據個數。

3.根據權利要求2所述的裝置，其特征在于，所述運算模塊包括主運算子模塊和多個從運算子模塊，所述主運算子模塊包括所述多個計數器，

所述主運算子模塊，用于利用所述多個計數器對滿足所述計數條件的待運算數據的個數進行計數統計，確定所述多個待運算數據中滿足計數條件的待運算數據的數據個數，并將所述數據個數存入所述目標地址中。

4.根據權利要求1所述的裝置，其特征在于，所述操作域還包括讀入量或所述讀入量的存儲地址，

其中，所述控制模塊，還用于獲取所述讀入量，并按照所述讀入量獲取所述多個待運算數據，

其中，所述多個待運算數據的數據量小于或等于所述讀入量。

5.根據權利要求1所述的裝置，其特征在于，所述裝置還包括：

存儲模塊，用于存儲所述多個待運算數據和所述計數條件，

其中，所述存儲模塊包括寄存器和緩存中的至少一種，

所述緩存，用于存儲所述多個待運算數據和所述計數條件，所述緩存包括至少一個神經元緩存NRAM；

所述寄存器，用于存儲所述多個待運算數據和所述計數條件中的標量數據；

所述神經元緩存，用于存儲所述多個待運算數據和所述計數條件中的神經元數據，所述神經元數據包括神經元向量數據。

6.根據權利要求1至5任一項所述的裝置，其特征在于，所述計數條件包括待運算數據不為零。

7.一種機器學習運算裝置，其特征在于，所述裝置包括：

一個或多個如權利要求1-6任一項所述的計數指令處理裝置，用于從其他處理裝置中獲取待運算數據和控制信息，并執行指定的機器學習運算，將執行結果通過I/O接口傳遞給其他處理裝置；

當所述機器學習運算裝置包含多個所述計數指令處理裝置時，所述多個所述計數指令處理裝置間可以通過特定的結構進行連接并傳輸數據；

其中，多個所述計數指令處理裝置通過快速外部設備互連總線PCIE總線進行互聯并傳輸數據，以支持更大規模的機器學習的運算；多個所述計數指令處理裝置共享同一控制系統或擁有各自的控制系統；多個所述計數指令處理裝置共享內存或者擁有各自的內存；多個所述計數指令處理裝置的互聯方式是任意互聯拓撲。