[發(fā)明專利]運(yùn)算方法、裝置及相關(guān)產(chǎn)品

有效

• 申請(qǐng)?zhí)枺?/td>: 201811621258.8
• 申請(qǐng)日: 2018-12-28
• 公開（公告）號(hào): CN111382390B
• 公開（公告）日: 2022-08-12
• 發(fā)明（設(shè)計(jì)）人: 不公告發(fā)明人
• 申請(qǐng)（專利權(quán)）人: 上海寒武紀(jì)信息科技有限公司
• 主分類號(hào): G06F17/16
• 分類號(hào): G06F17/16;G06N20/00
• 代理公司: 北京林達(dá)劉知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11277
• 代理人: 劉新宇

本公開涉及一種運(yùn)算方法、裝置及相關(guān)產(chǎn)品。機(jī)器學(xué)習(xí)裝置包括一個(gè)或多個(gè)指令處理裝置，用于從其他處理裝置中獲取待處理數(shù)據(jù)和控制信息，并執(zhí)行指定的機(jī)器學(xué)習(xí)運(yùn)算，將執(zhí)行結(jié)果通過I/O接口傳遞給其他處理裝置；當(dāng)機(jī)器學(xué)習(xí)運(yùn)算裝置包含多個(gè)指令處理裝置時(shí)，多個(gè)指令處理裝置間可以通過特定的結(jié)構(gòu)進(jìn)行連接并傳輸數(shù)據(jù)。其中，多個(gè)指令處理裝置通過快速外部設(shè)備互連總線PCIE總線進(jìn)行互聯(lián)并傳輸數(shù)據(jù)；多個(gè)指令處理裝置共享同一控制系統(tǒng)或擁有各自的控制系統(tǒng)、且共享內(nèi)存或者擁有各自的內(nèi)存；多個(gè)指令處理裝置的互聯(lián)方式是任意互聯(lián)拓?fù)洹１竟_實(shí)施例所提供的運(yùn)算方法、裝置及相關(guān)產(chǎn)品的適用范圍廣，對(duì)指令的處理效率高、處理速度快。

技術(shù)領(lǐng)域

本公開涉及計(jì)算機(jī)技術(shù)領(lǐng)域，尤其涉及一種矩陣運(yùn)算指令處理方法、裝置及相關(guān)產(chǎn)品。

背景技術(shù)

隨著科技的不斷發(fā)展，機(jī)器學(xué)習(xí)，尤其是神經(jīng)網(wǎng)絡(luò)算法的使用越來越廣泛。其在圖像識(shí)別、語音識(shí)別、自然語言處理等領(lǐng)域中都得到了良好的應(yīng)用。但由于神經(jīng)網(wǎng)絡(luò)算法的復(fù)雜度越來越高，所涉及的數(shù)據(jù)運(yùn)算種類和數(shù)量不斷增大。相關(guān)技術(shù)中，在對(duì)矩陣數(shù)據(jù)進(jìn)行處理的效率低、速度慢。

發(fā)明內(nèi)容

有鑒于此，本公開提出了一種矩陣運(yùn)算指令處理方法、裝置及相關(guān)產(chǎn)品，以提高對(duì)矩陣數(shù)據(jù)進(jìn)行處理的效率和速度。

根據(jù)本公開的第一方面，提供了一種矩陣運(yùn)算指令處理裝置，所述裝置包括：

控制模塊，用于對(duì)接收到的矩陣運(yùn)算指令進(jìn)行解析，獲得所述矩陣運(yùn)算指令的操作碼和操作域，并根據(jù)所述操作碼和所述操作域確定執(zhí)行所述矩陣運(yùn)算指令所需的待處理數(shù)據(jù)和目標(biāo)地址，以及確定與所述矩陣運(yùn)算指令相對(duì)應(yīng)的數(shù)據(jù)處理類型；

處理模塊，用于根據(jù)所述數(shù)據(jù)處理類型對(duì)所述待處理數(shù)據(jù)進(jìn)行處理，得到處理后的數(shù)據(jù)，并將所述處理后的數(shù)據(jù)存入所述目標(biāo)地址中，

其中，所述操作碼用于指示所述矩陣運(yùn)算指令對(duì)數(shù)據(jù)所需進(jìn)行的處理至少包括矩陣運(yùn)算處理，

所述數(shù)據(jù)處理類型包括所述待處理數(shù)據(jù)的初始數(shù)據(jù)類型、所述處理后的數(shù)據(jù)的目標(biāo)數(shù)據(jù)類型和運(yùn)算類型，所述初始數(shù)據(jù)類型或所述目標(biāo)數(shù)據(jù)類型為浮定點(diǎn)數(shù)數(shù)據(jù)類型，

所述操作域包括所述待處理數(shù)據(jù)地址和所述目標(biāo)地址。

根據(jù)本公開的第二方面，提供了一種機(jī)器學(xué)習(xí)運(yùn)算裝置，所述裝置包括：

一個(gè)或多個(gè)上述第一方面所述的矩陣運(yùn)算指令處理裝置，用于從其他處理裝置中獲取待處理數(shù)據(jù)和控制信息，并執(zhí)行指定的機(jī)器學(xué)習(xí)運(yùn)算，將執(zhí)行結(jié)果通過I/O接口傳遞給其他處理裝置；

當(dāng)所述機(jī)器學(xué)習(xí)運(yùn)算裝置包含多個(gè)所述矩陣運(yùn)算指令處理裝置時(shí)，所述多個(gè)所述矩陣運(yùn)算指令處理裝置間可以通過特定的結(jié)構(gòu)進(jìn)行連接并傳輸數(shù)據(jù)；

其中，多個(gè)所述矩陣運(yùn)算指令處理裝置通過快速外部設(shè)備互連總線PCIE總線進(jìn)行互聯(lián)并傳輸數(shù)據(jù)，以支持更大規(guī)模的機(jī)器學(xué)習(xí)的運(yùn)算；多個(gè)所述矩陣運(yùn)算指令處理裝置共享同一控制系統(tǒng)或擁有各自的控制系統(tǒng)；多個(gè)所述矩陣運(yùn)算指令處理裝置共享內(nèi)存或者擁有各自的內(nèi)存；多個(gè)所述矩陣運(yùn)算指令處理裝置的互聯(lián)方式是任意互聯(lián)拓?fù)洹?/p>

根據(jù)本公開的第三方面，提供了一種組合處理裝置，所述裝置包括：

上述第二方面所述的機(jī)器學(xué)習(xí)運(yùn)算裝置、通用互聯(lián)接口和其他處理裝置；

所述機(jī)器學(xué)習(xí)運(yùn)算裝置與所述其他處理裝置進(jìn)行交互，共同完成用戶指定的計(jì)算操作。

根據(jù)本公開的第四方面，提供了一種機(jī)器學(xué)習(xí)芯片，所述機(jī)器學(xué)習(xí)芯片包括上述第二方面所述的機(jī)器學(xué)習(xí)絡(luò)運(yùn)算裝置或上述第三方面所述的組合處理裝置。

根據(jù)本公開的第五方面，提供了一種機(jī)器學(xué)習(xí)芯片封裝結(jié)構(gòu)，該機(jī)器學(xué)習(xí)芯片封裝結(jié)構(gòu)包括上述第四方面所述的機(jī)器學(xué)習(xí)芯片。