[發明專利]計算裝置以及計算方法

有效

• 申請號: 202010189417.2
• 申請日: 2018-07-13
• 公開（公告）號: CN111221578B
• 公開（公告）日: 2022-07-15
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 上海寒武紀信息科技有限公司
• 主分類號: G06F9/30
• 分類號: G06F9/30;G06N3/063;G06F7/50;G06F7/523
• 代理公司: 廣州三環專利商標代理有限公司 44202
• 代理人: 熊永強

1.一種計算裝置，其特征在于，所述計算裝置包括：存儲器、寄存器單元、互聯模塊、粗粒度選數單元，運算單元、控制單元和數據訪問單元；其中，

寄存器單元，用于存儲運算指令、數據塊的在存儲介質的地址，運算指令對應的計算拓撲結構；

控制單元，用于從寄存器單元內提取運算指令，該運算指令對應的操作域以及該運算指令對應的第一計算拓撲結構，將該運算指令譯碼成執行指令，該執行指令用于控制運算單元執行運算操作，將該操作域傳輸至數據訪問單元；

數據訪問單元，用于提取該操作域對應的數據塊，并將該數據塊通過粗粒度選數單元傳輸至互聯模塊；

粗粒度選數單元，用于接收輸入神經元和非零權值位置信息，使用滑動窗口選取神經網絡的一組權值，將選取的權值都置為零，并選取出非零權值對應的神經元；

互聯模塊、用于輸入被選擇的神經元和非零權值，將輸入被選擇的神經元和非零權值發送至運算單元；

運算單元，用于接收輸入被選擇的神經元和非零權值，通過乘加運算單元完成神經網絡運算并將輸出神經元傳輸給存儲器；

所述粗粒度選數單元包括：全連接層粗粒度剪枝單元，用于實現對神經網絡的全連接層進行粗粒度剪枝操作；

全連接層粗粒度剪枝單元，具體用于使滑動窗口能夠沿著Bin的方向按照Sin的步長進行滑動，也可以沿著Bout方向按照Sout的步長進行滑動，其中Sin為大于等于1小于等于Bin的正整數，Sout為大于等于1小于等于Bout的正整數；

當滑動窗口內的一組權值被選取時，這組權值將全部被置為零，即Bin*Bout個權值將同時置為零；

所述全連接層的權值是一個二維矩陣(Nin,Nout)，其中Nin是輸入神經元的個數，Nout是輸出神經元的個數，共有Nin*Nout個權值，設定一個大小為Bin*Bout的滑動窗口，其中Bin為大于等于1小于等于Nin正整數，Bout為大于等于1小于等于Nout的正整數。

2.根據權利要求1所述的計算裝置，其特征在于，

所述粗粒度選數單元，具體用于將組內所有權值絕對值的算術平均值作為該組的第一代表權值，第一代表權值小于第一閾值；

或者將組內所有權值絕對值的幾何平均值作為該組的第二代表權值，第二代表權值小于第二閾值；

或者將組內所有權值絕對值的最大值作為該組的第三代表權值，第三代表權值小于第三閾值。

3.根據權利要求1所述的計算裝置，其特征在于，所述粗粒度選數單元包括：卷積層粗粒度剪枝單元或LSTM層粗粒度剪枝單元

卷積層粗粒度剪枝單元，用于實現對神經網絡的卷積層進行粗粒度剪枝操作；

LSTM層粗粒度剪枝單元，用于實現對神經網絡的LSTM層進行粗粒度剪枝操作。

4.根據權利要求3所述的計算裝置，其特征在于，

卷積層粗粒度剪枝單元，具體用于使滑動窗口沿著Bfin的方向按照Sfin的步長進行滑動，或者沿著Bfout方向按照Sfout的步長進行滑動，或者沿著Bx方向按照Sx的步長進行滑動，或沿著By方向按照Sy的步長進行滑動，其中Sfin為大于等于1小于等于Bfin的正整數，Sfout為大于等于1小于等于Bfout的正整數，Sx為大于等于1小于等于Bx的正整數，Sy為大于等于1小于等于By的正整數；

當某個滑動窗口內的一組權值被選取時，這組權值將全部被置為零，即Bfin*Bfout*Bx*By個權值將同時置為零；

所述卷積層的權值是一個四維矩陣(Nfin,Nfout,Kx,Ky),其中Nfin是輸入特征圖像的個數，Nfout是輸出特征圖像的個數，(Kx,Ky)是卷積核的大小，共有Nfin*Nfout*Kx*Ky個權值，設定一個大小為Bfin*Bfout*Bx*By的四維滑動窗口，其中Bfin為大于等于1小于等于Nfin的正整數，Bfout為大于等于1小于等于Nfout的正整數，Bx為大于等于1小于等于Kx的正整數，By為大于等于1小于等于Ky的正整數。