[發(fā)明專利]運(yùn)算方法、裝置及相關(guān)產(chǎn)品

在審

• 申請(qǐng)?zhí)枺?/td>: 201910263147.2
• 申請(qǐng)日: 2019-04-02
• 公開(kāi)（公告）號(hào): CN111767995A
• 公開(kāi)（公告）日: 2020-10-13
• 發(fā)明（設(shè)計(jì)）人: 不公告發(fā)明人
• 申請(qǐng)（專利權(quán)）人: 上海寒武紀(jì)信息科技有限公司
• 主分類號(hào): G06N3/063
• 分類號(hào): G06N3/063
• 代理公司: 北京林達(dá)劉知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11277
• 代理人: 劉新宇

1.一種運(yùn)算方法，其特征在于，應(yīng)用于處理器，所述處理器包括多個(gè)處理單元，所述方法包括：

確定神經(jīng)網(wǎng)絡(luò)模型各待執(zhí)行任務(wù)之間的依賴關(guān)系，所述各待執(zhí)行任務(wù)為所述神經(jīng)網(wǎng)絡(luò)模型進(jìn)行任務(wù)拆分得到的，所述各待執(zhí)行任務(wù)被下發(fā)至不同的處理單元運(yùn)行；

根據(jù)所述依賴關(guān)系，在所述神經(jīng)網(wǎng)絡(luò)模型中添加同步算子，以使修改后的神經(jīng)網(wǎng)絡(luò)模型各待執(zhí)行任務(wù)按照所述依賴關(guān)系執(zhí)行。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述根據(jù)所述依賴關(guān)系，在所述神經(jīng)網(wǎng)絡(luò)模型中添加同步算子，包括：

根據(jù)所述依賴關(guān)系，在運(yùn)行在不同的處理單元上的當(dāng)前任務(wù)的網(wǎng)絡(luò)層和前繼任務(wù)的網(wǎng)絡(luò)層之間添加所述同步算子，所述當(dāng)前任務(wù)為所述前繼任務(wù)執(zhí)行完畢后執(zhí)行的任務(wù)。

3.根據(jù)權(quán)利要求1或2所述的方法，其特征在于，所述依賴關(guān)系通過(guò)各所述待執(zhí)行任務(wù)所需數(shù)據(jù)的存儲(chǔ)地址區(qū)間是否具有重疊的區(qū)域確定。

4.根據(jù)權(quán)利要求2或3所述的方法，其特征在于，所述同步算子包括第一算子和第二算子；

所述第一算子，用于表征所述前繼任務(wù)的運(yùn)行狀態(tài)；

所述第二算子，用于根據(jù)所述第一算子確定是否運(yùn)行所述當(dāng)前任務(wù)。

5.一種運(yùn)算裝置，其特征在于，包括：

依賴關(guān)系確定模塊，用于確定神經(jīng)網(wǎng)絡(luò)模型各待執(zhí)行任務(wù)之間的依賴關(guān)系，所述各待執(zhí)行任務(wù)為所述神經(jīng)網(wǎng)絡(luò)模型進(jìn)行任務(wù)拆分得到的，所述各待執(zhí)行任務(wù)被下發(fā)至不同的處理單元運(yùn)行；

同步算子添加模塊，用于根據(jù)所述依賴關(guān)系，在所述神經(jīng)網(wǎng)絡(luò)模型中添加同步算子，以使修改后的神經(jīng)網(wǎng)絡(luò)模型各待執(zhí)行任務(wù)按照所述依賴關(guān)系執(zhí)行。

6.一種機(jī)器學(xué)習(xí)運(yùn)算裝置，其特征在于，所述機(jī)器學(xué)習(xí)運(yùn)算裝置包括一個(gè)或多個(gè)如權(quán)利要求5所述的運(yùn)算裝置，用于從其他處理裝置中獲取待運(yùn)算輸入數(shù)據(jù)和控制信息，并執(zhí)行指定的機(jī)器學(xué)習(xí)運(yùn)算，將執(zhí)行結(jié)果通過(guò)I/O接口傳遞給其他處理裝置；

當(dāng)所述機(jī)器學(xué)習(xí)運(yùn)算裝置包含多個(gè)所述運(yùn)算裝置時(shí)，所述多個(gè)所述運(yùn)算裝置間可以通過(guò)特定的結(jié)構(gòu)進(jìn)行連接并傳輸數(shù)據(jù)；

其中，多個(gè)所述運(yùn)算裝置通過(guò)PCIE總線進(jìn)行互聯(lián)并傳輸數(shù)據(jù)，以支持更大規(guī)模的機(jī)器學(xué)習(xí)的運(yùn)算；

多個(gè)所述運(yùn)算裝置共享同一控制系統(tǒng)或擁有各自的控制系統(tǒng)；

多個(gè)所述運(yùn)算裝置共享內(nèi)存或者擁有各自的內(nèi)存；

多個(gè)所述運(yùn)算裝置的互聯(lián)方式是任意互聯(lián)拓?fù)洹?/p>

7.一種組合處理裝置，其特征在于，所述組合處理裝置包括權(quán)利要求6所述的機(jī)器學(xué)習(xí)運(yùn)算裝置，通用互聯(lián)接口和其他處理裝置；

所述機(jī)器學(xué)習(xí)運(yùn)算裝置與所述其他處理裝置進(jìn)行交互，共同完成用戶指定的計(jì)算操作。

8.一種神經(jīng)網(wǎng)絡(luò)芯片，其特征在于，所述芯片包括如權(quán)利要求6所述的機(jī)器學(xué)習(xí)運(yùn)算裝置，或如權(quán)利要求7所述的組合處理裝置。

9.一種電子設(shè)備，其特征在于，所述電子設(shè)備包括如權(quán)利要求8所述的神經(jīng)網(wǎng)絡(luò)芯片。

10.一種板卡，其特征在于，所述板卡包括：存儲(chǔ)器件、接口裝置和控制器件以及如權(quán)利要求8所述的神經(jīng)網(wǎng)絡(luò)芯片；

其中，所述神經(jīng)網(wǎng)絡(luò)芯片與所述存儲(chǔ)器件、所述控制器件以及所述接口裝置分別連接；

所述存儲(chǔ)器件，用于存儲(chǔ)數(shù)據(jù)；

所述接口裝置，用于實(shí)現(xiàn)所述神經(jīng)網(wǎng)絡(luò)芯片與外部設(shè)備之間的數(shù)據(jù)傳輸；

所述控制器件，用于對(duì)所述神經(jīng)網(wǎng)絡(luò)芯片的狀態(tài)進(jìn)行監(jiān)控。