[發(fā)明專利]運(yùn)算方法、裝置及相關(guān)產(chǎn)品

在審

• 申請(qǐng)?zhí)枺?/td>: 201910406775.1
• 申請(qǐng)日: 2019-05-15
• 公開（公告）號(hào): CN111047028A
• 公開（公告）日: 2020-04-21
• 發(fā)明（設(shè)計(jì)）人: 不公告發(fā)明人
• 申請(qǐng)（專利權(quán)）人: 上海寒武紀(jì)信息科技有限公司
• 主分類號(hào): G06N3/063
• 分類號(hào): G06N3/063;G06N3/04
• 代理公司: 北京林達(dá)劉知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11277
• 代理人: 劉新宇

1.一種線性整流函數(shù)激活指令處理裝置，其特征在于，所述裝置包括：

控制模塊，用于對(duì)獲取到的線性整流函數(shù)激活指令進(jìn)行解析，得到所述線性整流函數(shù)激活指令的操作碼和操作域，并根據(jù)所述操作碼和所述操作域獲取執(zhí)行所述線性整流函數(shù)激活指令所需的待運(yùn)算數(shù)據(jù)和目標(biāo)地址；

運(yùn)算模塊，用于對(duì)所述待運(yùn)算數(shù)據(jù)進(jìn)行激活運(yùn)算，得到運(yùn)算結(jié)果，并將所述運(yùn)算結(jié)果存入所述目標(biāo)地址中，

其中，所述操作碼用于指示所述線性整流函數(shù)激活指令對(duì)數(shù)據(jù)所進(jìn)行的激活運(yùn)算為線性整流函數(shù)激活運(yùn)算，所述操作域包括待運(yùn)算數(shù)據(jù)地址和所述目標(biāo)地址。

2.根據(jù)權(quán)利要求1所述的裝置，其特征在于，

所述控制模塊，還用于根據(jù)所述操作碼和/或所述操作域獲取線性整流激活函數(shù)參數(shù)表；

所述運(yùn)算模塊，還用于根據(jù)所述線性整流激活函數(shù)參數(shù)表對(duì)所述待運(yùn)算數(shù)據(jù)進(jìn)行線性整流函數(shù)激活運(yùn)算，得到運(yùn)算結(jié)果，

其中，所述線性整流激活函數(shù)參數(shù)表包括線性整流激活函數(shù)激活表和線性整流激活函數(shù)常數(shù)表。

3.根據(jù)權(quán)利要求1所述的裝置，其特征在于，所述運(yùn)算模塊，包括：

多個(gè)激活運(yùn)算器，用于對(duì)所述待運(yùn)算數(shù)據(jù)進(jìn)行線性整流函數(shù)激活運(yùn)算。

4.根據(jù)權(quán)利要求3所述的裝置，其特征在于，所述運(yùn)算模塊包括主運(yùn)算子模塊和多個(gè)從運(yùn)算子模塊，所述主運(yùn)算子模塊包括所述多個(gè)激活運(yùn)算器，

所述主運(yùn)算子模塊，用于利用所述多個(gè)激活運(yùn)算器對(duì)所述待運(yùn)算數(shù)據(jù)進(jìn)行線性整流函數(shù)激活運(yùn)算，得到運(yùn)算結(jié)果，并將所述運(yùn)算結(jié)果存入所述目標(biāo)地址中。

5.一種機(jī)器學(xué)習(xí)運(yùn)算裝置，其特征在于，所述裝置包括：

一個(gè)或多個(gè)如權(quán)利要求1-4任一項(xiàng)所述的線性整流函數(shù)激活指令處理裝置，用于從其他處理裝置中獲取待運(yùn)算數(shù)據(jù)和控制信息，并執(zhí)行指定的機(jī)器學(xué)習(xí)運(yùn)算，將執(zhí)行結(jié)果通過I/O接口傳遞給其他處理裝置；

當(dāng)所述機(jī)器學(xué)習(xí)運(yùn)算裝置包含多個(gè)所述線性整流函數(shù)激活指令處理裝置時(shí)，所述多個(gè)所述線性整流函數(shù)激活指令處理裝置間可以通過特定的結(jié)構(gòu)進(jìn)行連接并傳輸數(shù)據(jù)；

其中，多個(gè)所述線性整流函數(shù)激活指令處理裝置通過快速外部設(shè)備互連總線PCIE總線進(jìn)行互聯(lián)并傳輸數(shù)據(jù)，以支持更大規(guī)模的機(jī)器學(xué)習(xí)的運(yùn)算；多個(gè)所述線性整流函數(shù)激活指令處理裝置共享同一控制系統(tǒng)或擁有各自的控制系統(tǒng)；多個(gè)所述線性整流函數(shù)激活指令處理裝置共享內(nèi)存或者擁有各自的內(nèi)存；多個(gè)所述線性整流函數(shù)激活指令處理裝置的互聯(lián)方式是任意互聯(lián)拓?fù)洹?/p>

6.一種組合處理裝置，其特征在于，所述組合處理裝置包括：

如權(quán)利要求5所述的機(jī)器學(xué)習(xí)運(yùn)算裝置、通用互聯(lián)接口和其他處理裝置；

所述機(jī)器學(xué)習(xí)運(yùn)算裝置與所述其他處理裝置進(jìn)行交互，共同完成用戶指定的計(jì)算操作，

其中，所述組合處理裝置還包括：存儲(chǔ)裝置，該存儲(chǔ)裝置分別與所述機(jī)器學(xué)習(xí)運(yùn)算裝置和所述其他處理裝置連接，用于保存所述機(jī)器學(xué)習(xí)運(yùn)算裝置和所述其他處理裝置的數(shù)據(jù)。

7.一種機(jī)器學(xué)習(xí)芯片，其特征在于，所述機(jī)器學(xué)習(xí)芯片包括：

如權(quán)利要求5所述的機(jī)器學(xué)習(xí)運(yùn)算裝置或如權(quán)利要求6所述的組合處理裝置。

8.一種電子設(shè)備，其特征在于，所述電子設(shè)備包括：

如權(quán)利要求7所述的機(jī)器學(xué)習(xí)芯片。

9.一種板卡，其特征在于，所述板卡包括：存儲(chǔ)器件、接口裝置和控制器件以及如權(quán)利要求7所述的機(jī)器學(xué)習(xí)芯片；

其中，所述機(jī)器學(xué)習(xí)芯片與所述存儲(chǔ)器件、所述控制器件以及所述接口裝置分別連接；

所述存儲(chǔ)器件，用于存儲(chǔ)數(shù)據(jù)；

所述接口裝置，用于實(shí)現(xiàn)所述機(jī)器學(xué)習(xí)芯片與外部設(shè)備之間的數(shù)據(jù)傳輸；

所述控制器件，用于對(duì)所述機(jī)器學(xué)習(xí)芯片的狀態(tài)進(jìn)行監(jiān)控。

10.一種線性整流函數(shù)激活指令處理方法，其特征在于，所述方法應(yīng)用于線性整流函數(shù)激活指令處理裝置，所述方法包括：

利用控制模塊對(duì)獲取到的線性整流函數(shù)激活指令進(jìn)行解析，得到所述線性整流函數(shù)激活指令的操作碼和操作域，并根據(jù)所述操作碼和所述操作域獲取執(zhí)行所述線性整流函數(shù)激活指令所需的待運(yùn)算數(shù)據(jù)和目標(biāo)地址；

利用運(yùn)算模塊對(duì)所述待運(yùn)算數(shù)據(jù)進(jìn)行激活運(yùn)算，得到運(yùn)算結(jié)果，并將所述運(yùn)算結(jié)果存入所述目標(biāo)地址中，

其中，所述操作碼用于指示所述線性整流函數(shù)激活指令對(duì)數(shù)據(jù)所進(jìn)行的激活運(yùn)算為線性整流函數(shù)激活運(yùn)算，所述操作域包括待運(yùn)算數(shù)據(jù)地址和所述目標(biāo)地址。