[發(fā)明專利]神經(jīng)網(wǎng)絡(luò)處理器及使用處理器執(zhí)行矩陣相乘指令的方法

有效

• 申請(qǐng)?zhí)枺?/td>: 201810849488.3
• 申請(qǐng)日: 2017-10-30
• 公開（公告）號(hào): CN109034383B
• 公開（公告）日: 2021-09-21
• 發(fā)明（設(shè)計(jì)）人: 陳天石;劉少禮;王在;胡帥
• 申請(qǐng)（專利權(quán)）人: 上海寒武紀(jì)信息科技有限公司
• 主分類號(hào): G06N3/063
• 分類號(hào): G06N3/063;G06F9/30
• 代理公司: 廣州三環(huán)專利商標(biāo)代理有限公司 44202
• 代理人: 郝傳鑫;熊永強(qiáng)

1.一種計(jì)算裝置，其特征在于，所述計(jì)算裝置包括：神經(jīng)網(wǎng)絡(luò)處理器，所述神經(jīng)網(wǎng)絡(luò)處理器用于執(zhí)行矩陣相乘指令，執(zhí)行所述矩陣相乘指令具體包括如下步驟：

獲取矩陣相乘指令，所述矩陣相乘指令包括：GEMM a,b,c；GEMM為指令標(biāo)識(shí)；所述a為矩陣A的首地址，所述b為矩陣B的首地址,所述c為矩陣C的首地址；

執(zhí)行所述矩陣相乘指令得到矩陣相乘指令的具體結(jié)果；所述執(zhí)行所述矩陣相乘指令得到矩陣相乘指令的具體結(jié)果具體包括：

提取所述矩陣相乘指令的矩陣A、矩陣B，矩陣C，將矩陣A、矩陣B進(jìn)行乘積運(yùn)算后加上矩陣C得到矩陣相乘運(yùn)算的結(jié)果；

所述矩陣相乘指令還包括type,layout,m,n,lda，ldb；所述layout為矩陣的存儲(chǔ)格式，所述m為矩陣的行數(shù)，所述n為矩陣的列數(shù)，所述lda為矩陣A低維的長度，所述ldb為矩陣B低維的長度；所述提取所述矩陣相乘指令矩陣A和矩陣B具體包括：

按所述layout的存儲(chǔ)格式以及l(fā)da的低維長度提取行數(shù)為m，列數(shù)為n的矩陣A；

按所述layout的存儲(chǔ)格式以及l(fā)db的低維長度提取行數(shù)為m，列數(shù)為n的矩陣B；

所述矩陣相乘指令還包括：ldc，所述ldc為矩陣C的低維長度，提取所述矩陣相乘指令矩陣C具體包括：

按所述layout的存儲(chǔ)格式以及l(fā)dc的低維長度提取行數(shù)為m，列數(shù)為n的矩陣C；

type為進(jìn)行操作的數(shù)據(jù)類型。

2.根據(jù)權(quán)利要求1所述的計(jì)算裝置，其特征在于，

所述矩陣相乘指令還包括transa,transb,k，所述transa為矩陣A的變換信息，所述transb為矩陣B的變換信息，所述k 為變換后的矩陣A的列數(shù)和變換后的矩陣B的行數(shù)；所述將矩陣A、矩陣B進(jìn)行乘積運(yùn)算后加上矩陣C得到矩陣相乘運(yùn)算的結(jié)果具體包括：

將矩陣A執(zhí)行變換后得到op(A)，將矩陣B執(zhí)行變換后得到op(B)，所述op(A)的列數(shù)以及所述op(B)的行數(shù)符合k，將op(A)乘以op(B)得到的積加上矩陣C得到矩陣相乘的結(jié)果。

3.根據(jù)權(quán)利要求1所述的計(jì)算裝置，其特征在于，

所述操作的數(shù)據(jù)類型為實(shí)數(shù)或復(fù)數(shù)。

4.根據(jù)權(quán)利要求1所述的計(jì)算裝置，其特征在于，所述計(jì)算裝置還包括：存儲(chǔ)器，所述存儲(chǔ)器用于存儲(chǔ)矩陣、標(biāo)量。

5.根據(jù)權(quán)利要求4所述的計(jì)算裝置，其特征在于，所述存儲(chǔ)器為高速暫存存儲(chǔ)器。

6.根據(jù)權(quán)利要求2所述的計(jì)算裝置，其特征在于，所述矩陣相乘指令還包括：alpha，beta，所述alpha、beta為標(biāo)量；

所述處理器，具體用于將op(A)、op(B)和alpha進(jìn)行乘積運(yùn)算得到的積加上矩陣C與beta的乘積結(jié)果得到矩陣相乘運(yùn)算的結(jié)果。