[發(fā)明專利]生成指令序列的方法、執(zhí)行神經(jīng)網(wǎng)絡(luò)運(yùn)算的方法和裝置

有效

• 申請(qǐng)?zhí)枺?/td>: 201910190559.8
• 申請(qǐng)日: 2019-03-13
• 公開（公告）號(hào): CN109919311B
• 公開（公告）日: 2020-04-10
• 發(fā)明（設(shè)計(jì)）人: 王振江;李建軍;凌坤;陳亮;黃暢
• 申請(qǐng)（專利權(quán)）人: 北京地平線機(jī)器人技術(shù)研發(fā)有限公司
• 主分類號(hào): G06N3/063
• 分類號(hào): G06N3/063
• 代理公司: 北京市正見永申律師事務(wù)所 11497
• 代理人: 黃小臨;馮玉清

公開了一種生成指令序列的方法、執(zhí)行神經(jīng)網(wǎng)絡(luò)運(yùn)算的方法和裝置。其中，生成神經(jīng)網(wǎng)絡(luò)的指令序列的方法，包括：獲取神經(jīng)網(wǎng)絡(luò)各層的屬性數(shù)據(jù)；根據(jù)神經(jīng)網(wǎng)絡(luò)各層的屬性數(shù)據(jù)，確定至少一個(gè)層級(jí)組及其拆分參數(shù)，所述層級(jí)組包括所述神經(jīng)網(wǎng)絡(luò)中的至少一個(gè)層，所述拆分參數(shù)包括至少一個(gè)預(yù)定維度和每個(gè)預(yù)定維度將被切分成的預(yù)定份數(shù)；以及，根據(jù)神經(jīng)網(wǎng)絡(luò)各層的屬性數(shù)據(jù)、所述至少一個(gè)層級(jí)組的拆分參數(shù)，生成所述神經(jīng)網(wǎng)絡(luò)的指令序列。本申請(qǐng)實(shí)施例通過將神經(jīng)網(wǎng)絡(luò)中各層分組來實(shí)現(xiàn)該神經(jīng)網(wǎng)絡(luò)中各層的同時(shí)拆分計(jì)算，在存儲(chǔ)器容量有限的情況下，能夠在不增加硬件成本的前提下同時(shí)提高硬件執(zhí)行神經(jīng)網(wǎng)絡(luò)運(yùn)算的效率和處理能力。

技術(shù)領(lǐng)域

本申請(qǐng)涉及人工智能技術(shù)領(lǐng)域，尤其涉及一種應(yīng)用于神經(jīng)網(wǎng)絡(luò)的生成指令序列的方法、執(zhí)行神經(jīng)網(wǎng)絡(luò)運(yùn)算的方法和裝置。

背景技術(shù)

神經(jīng)網(wǎng)絡(luò)已成功應(yīng)用于圖像處理、自動(dòng)駕駛等諸多領(lǐng)域。在高速緩沖存儲(chǔ)器容量有限的情況下，對(duì)于通過神經(jīng)網(wǎng)絡(luò)處理高分辨率圖像的應(yīng)用場景，因數(shù)據(jù)量巨大，硬件執(zhí)行神經(jīng)網(wǎng)絡(luò)運(yùn)算的效率低下且處理能力不足。

因此，期望提供一種應(yīng)用于神經(jīng)網(wǎng)絡(luò)的新的方法和裝置，在存儲(chǔ)器容量有限的情況下，能夠以不增加硬件成本為前提來同時(shí)提高硬件執(zhí)行神經(jīng)網(wǎng)絡(luò)運(yùn)算的效率和處理能力。

發(fā)明內(nèi)容

本申請(qǐng)的實(shí)施例提供了一種應(yīng)用于神經(jīng)網(wǎng)絡(luò)的生成指令序列的方法和裝置、執(zhí)行神經(jīng)網(wǎng)絡(luò)運(yùn)算的方法和裝置。

根據(jù)本申請(qǐng)的一個(gè)方面，提供了一種生成神經(jīng)網(wǎng)絡(luò)的指令序列的方法，包括：獲取神經(jīng)網(wǎng)絡(luò)各層的屬性數(shù)據(jù)；根據(jù)神經(jīng)網(wǎng)絡(luò)各層的屬性數(shù)據(jù)，確定至少一個(gè)層級(jí)組及其拆分參數(shù)，所述層級(jí)組包括所述神經(jīng)網(wǎng)絡(luò)中的至少一個(gè)層，所述拆分參數(shù)包括至少一個(gè)預(yù)定維度和每個(gè)預(yù)定維度將被切分成的預(yù)定份數(shù)；以及根據(jù)神經(jīng)網(wǎng)絡(luò)各層的屬性數(shù)據(jù)、所述至少一個(gè)層級(jí)組的拆分參數(shù)，生成所述神經(jīng)網(wǎng)絡(luò)的指令序列；其中，所述指令序列中包含所述至少一個(gè)層級(jí)組中各層的運(yùn)算操作指令，所述運(yùn)算操作指令中的輸出參數(shù)指示所述至少一個(gè)層級(jí)組的輸出特征數(shù)據(jù)，所述至少一個(gè)層級(jí)組的輸出特征數(shù)據(jù)由所述至少一個(gè)層級(jí)組的輸出特征圖在所述至少一個(gè)預(yù)定維度上劃分成所述預(yù)定份數(shù)而得到。

根據(jù)本申請(qǐng)的一個(gè)方面，提供了一種電子設(shè)備，包括：一個(gè)或多個(gè)處理器；以及存儲(chǔ)器，存儲(chǔ)有計(jì)算機(jī)指令，所述計(jì)算機(jī)指令在被所述處理器運(yùn)行時(shí)使所述處理器執(zhí)行上述生成神經(jīng)網(wǎng)絡(luò)的指令序列的方法。

根據(jù)本申請(qǐng)的一個(gè)方面，提供了一種生成神經(jīng)網(wǎng)絡(luò)的指令序列的裝置，包括：獲取單元，配置為獲取神經(jīng)網(wǎng)絡(luò)各層的屬性數(shù)據(jù)，所述屬性數(shù)據(jù)用于表征神經(jīng)網(wǎng)絡(luò)中各層的屬性；層級(jí)組確定單元，配置為根據(jù)神經(jīng)網(wǎng)絡(luò)各層的屬性數(shù)據(jù)，確定至少一個(gè)層級(jí)組及其拆分參數(shù)，所述層級(jí)組包括所述神經(jīng)網(wǎng)絡(luò)中的至少一個(gè)層，所述拆分參數(shù)包括至少一個(gè)預(yù)定維度和每個(gè)預(yù)定維度將被切分成的預(yù)定份數(shù)；以及生成單元，配置為根據(jù)神經(jīng)網(wǎng)絡(luò)各層的屬性數(shù)據(jù)、所述至少一個(gè)層級(jí)組的拆分參數(shù)，生成所述神經(jīng)網(wǎng)絡(luò)的指令序列；其中，所述指令序列中包含所述至少一個(gè)層級(jí)組中至少一個(gè)層的運(yùn)算操作指令，所述運(yùn)算操作指令中的輸出參數(shù)指示所述至少一個(gè)層級(jí)組的輸出特征數(shù)據(jù)，所述至少一個(gè)層級(jí)組的輸出特征數(shù)據(jù)由所述至少一個(gè)層級(jí)組的輸出特征圖在所述至少一個(gè)預(yù)定維度上劃分成所述預(yù)定份數(shù)而得到。

根據(jù)本申請(qǐng)的一個(gè)方面，提供了一種執(zhí)行神經(jīng)網(wǎng)絡(luò)運(yùn)算的方法，包括：

從片外存儲(chǔ)器讀取一個(gè)層級(jí)組的一輸入特征數(shù)據(jù)，所述層級(jí)組包括神經(jīng)網(wǎng)絡(luò)中的至少一個(gè)層；使用所述輸入特征數(shù)據(jù)，按照層級(jí)次序依次執(zhí)行所述層級(jí)組中各層的一次運(yùn)算操作，以獲得所述層級(jí)組的一輸出特征數(shù)據(jù)；將所述輸出特征數(shù)據(jù)存儲(chǔ)到所述片外存儲(chǔ)器中；其中，所述輸出特征數(shù)據(jù)是所述層級(jí)組的輸出特征圖在至少一個(gè)預(yù)定維度上劃分成預(yù)定份數(shù)而得到的多份輸出特征數(shù)據(jù)中的一份。

根據(jù)本申請(qǐng)的一個(gè)方面，提供了一種電子設(shè)備，包括：控制單元、計(jì)算單元和片外存儲(chǔ)器，其中，所述控制單元配置為運(yùn)行指令以根據(jù)所述指令來控制所述計(jì)算單元和所述片外存儲(chǔ)器實(shí)現(xiàn)上述執(zhí)行神經(jīng)網(wǎng)絡(luò)運(yùn)算的方法。