[發(fā)明專利]多神經(jīng)網(wǎng)絡(luò)輸出方法及裝置、服務(wù)器、計(jì)算機(jī)可讀介質(zhì)

有效

• 申請(qǐng)?zhí)枺?/td>: 201811639019.5
• 申請(qǐng)日: 2018-12-29
• 公開（公告）號(hào): CN109740735B
• 公開（公告）日: 2020-12-29
• 發(fā)明（設(shè)計(jì)）人: 張揚(yáng)
• 申請(qǐng)（專利權(quán)）人: 百度在線網(wǎng)絡(luò)技術(shù)（北京）有限公司
• 主分類號(hào): G06N3/04
• 分類號(hào): G06N3/04
• 代理公司: 北京天昊聯(lián)合知識(shí)產(chǎn)權(quán)代理有限公司 11112
• 代理人: 彭瑞欣;劉悅晗

1.一種多神經(jīng)網(wǎng)絡(luò)輸出方法，包括：

根據(jù)多個(gè)神經(jīng)網(wǎng)絡(luò)間的預(yù)設(shè)輸出幀率比將每個(gè)神經(jīng)網(wǎng)絡(luò)的算子運(yùn)算過程或部分神經(jīng)網(wǎng)絡(luò)的算子運(yùn)算過程劃分為多次；

通過網(wǎng)絡(luò)切換的方式依序執(zhí)行所述多個(gè)神經(jīng)網(wǎng)絡(luò)的算子運(yùn)算過程以使得多個(gè)神經(jīng)網(wǎng)絡(luò)均勻輸出且滿足所述預(yù)設(shè)輸出幀率比。

2.根據(jù)權(quán)利要求1所述的多神經(jīng)網(wǎng)絡(luò)輸出方法，其中，當(dāng)所述多個(gè)神經(jīng)網(wǎng)絡(luò)為第一神經(jīng)網(wǎng)絡(luò)和第二神經(jīng)網(wǎng)絡(luò)時(shí)，第一神經(jīng)網(wǎng)絡(luò)和/或第二神經(jīng)網(wǎng)絡(luò)的算子運(yùn)算過程根據(jù)第一神經(jīng)網(wǎng)絡(luò)與第二神經(jīng)網(wǎng)絡(luò)的預(yù)設(shè)輸出幀率比劃分為多次，通過網(wǎng)絡(luò)切換的方式依序執(zhí)行多個(gè)神經(jīng)網(wǎng)絡(luò)的算子運(yùn)算過程的步驟具體包括：

步驟S1、執(zhí)行第一神經(jīng)網(wǎng)絡(luò)的算子運(yùn)算過程并運(yùn)算完成預(yù)先設(shè)定的第一數(shù)量個(gè)算子；

步驟S2、切換執(zhí)行第二神經(jīng)網(wǎng)絡(luò)的算子運(yùn)算過程并運(yùn)算完成預(yù)先設(shè)定的第二數(shù)量個(gè)算子；

循環(huán)執(zhí)行上述步驟S1和步驟S2，以使得第一神經(jīng)網(wǎng)絡(luò)和第二神經(jīng)網(wǎng)絡(luò)均勻輸出。

3.根據(jù)權(quán)利要求2所述的多神經(jīng)網(wǎng)絡(luò)輸出方法，其中，在步驟S1和步驟S2之前還包括：

解析第一神經(jīng)網(wǎng)絡(luò)和第二神經(jīng)網(wǎng)絡(luò)以獲取第一神經(jīng)網(wǎng)絡(luò)和第二神經(jīng)網(wǎng)絡(luò)中每個(gè)算子的描述信息；分別為每個(gè)算子分配輸入輸出內(nèi)存，并添加輸入輸出內(nèi)存的信息至描述信息中；

且，加載預(yù)先訓(xùn)練生成的與每個(gè)算子對(duì)應(yīng)的模型數(shù)據(jù)。

4.根據(jù)權(quán)利要求3所述的多神經(jīng)網(wǎng)絡(luò)輸出方法，其中，所述描述信息至少包括輸入數(shù)據(jù)地址和輸出數(shù)據(jù)地址，所述步驟S1或步驟S2具體包括：

下發(fā)算子的描述信息至加速處理器，以供所述加速處理器根據(jù)所述描述信息和所述模型數(shù)據(jù)執(zhí)行算子運(yùn)算過程；在執(zhí)行算子運(yùn)算的過程中，上一算子的輸出數(shù)據(jù)地址中存儲(chǔ)的輸出數(shù)據(jù)為下一算子的輸入數(shù)據(jù)地址中存儲(chǔ)的輸入數(shù)據(jù)。

5.根據(jù)權(quán)利要求1-4任一所述的多神經(jīng)網(wǎng)絡(luò)輸出方法，其中，所述神經(jīng)網(wǎng)絡(luò)為用于實(shí)現(xiàn)自動(dòng)駕駛的圖像處理神經(jīng)網(wǎng)絡(luò)。

6.一種多神經(jīng)網(wǎng)絡(luò)輸出裝置，包括：

劃分設(shè)定模塊，用于根據(jù)多個(gè)神經(jīng)網(wǎng)絡(luò)間的預(yù)設(shè)輸出幀率比將每個(gè)神經(jīng)網(wǎng)絡(luò)的算子運(yùn)算過程或部分神經(jīng)網(wǎng)絡(luò)的算子運(yùn)算過程劃分為多次，并設(shè)定每次執(zhí)行各神經(jīng)網(wǎng)絡(luò)的算子運(yùn)算過程時(shí)需完成運(yùn)算的算子的數(shù)量；

執(zhí)行模塊，用于通過網(wǎng)絡(luò)切換的方式依序執(zhí)行所述多個(gè)神經(jīng)網(wǎng)絡(luò)的算子運(yùn)算過程以使得多個(gè)神經(jīng)網(wǎng)絡(luò)均勻輸出且滿足所述預(yù)設(shè)輸出幀率比。

7.根據(jù)權(quán)利要求6所述的多神經(jīng)網(wǎng)絡(luò)輸出裝置，其中，當(dāng)所述多個(gè)神經(jīng)網(wǎng)絡(luò)為第一神經(jīng)網(wǎng)絡(luò)和第二神經(jīng)網(wǎng)絡(luò)時(shí)，所述劃分設(shè)定模塊具體用于根據(jù)第一神經(jīng)網(wǎng)絡(luò)與第二神經(jīng)網(wǎng)絡(luò)的預(yù)設(shè)輸出幀率比將第一神經(jīng)網(wǎng)絡(luò)和/或第二神經(jīng)網(wǎng)絡(luò)的算子運(yùn)算過程劃分為多次，并設(shè)定每次執(zhí)行第一神經(jīng)網(wǎng)絡(luò)的算子運(yùn)算過程時(shí)需完成運(yùn)算的算子的第一數(shù)量和第二神經(jīng)網(wǎng)絡(luò)的算子運(yùn)算過程時(shí)需完成運(yùn)算的算子的第二數(shù)量；

所述執(zhí)行模塊具體用于執(zhí)行第一神經(jīng)網(wǎng)絡(luò)的算子運(yùn)算過程并運(yùn)算完成預(yù)先設(shè)定的第一數(shù)量個(gè)算子，切換執(zhí)行第二神經(jīng)網(wǎng)絡(luò)的算子運(yùn)算過程并運(yùn)算完成預(yù)先設(shè)定的第二數(shù)量個(gè)算子。

8.根據(jù)權(quán)利要求7所述的多神經(jīng)網(wǎng)絡(luò)輸出裝置，其中，還包括：

解析獲取模塊，用于解析第一神經(jīng)網(wǎng)絡(luò)和第二神經(jīng)網(wǎng)絡(luò)以獲取第一神經(jīng)網(wǎng)絡(luò)和第二神經(jīng)網(wǎng)絡(luò)中每個(gè)算子的描述信息；

分配添加模塊，用于分別為每個(gè)算子分配輸入輸出內(nèi)存，并添加輸入輸出內(nèi)存的信息至描述信息中；

加載模塊，用于加載預(yù)先訓(xùn)練生成的與每個(gè)算子對(duì)應(yīng)的模型數(shù)據(jù)。

9.根據(jù)權(quán)利要求8所述的多神經(jīng)網(wǎng)絡(luò)輸出裝置，其中，所述描述信息至少包括輸入數(shù)據(jù)地址和輸出數(shù)據(jù)地址，所述執(zhí)行模塊具體用于下發(fā)算子的描述信息至加速處理器，以供所述加速處理器根據(jù)所述描述信息和所述模型數(shù)據(jù)執(zhí)行算子運(yùn)算過程；在執(zhí)行算子運(yùn)算的過程中，上一算子的輸出數(shù)據(jù)地址中存儲(chǔ)的輸出數(shù)據(jù)為下一算子的輸入數(shù)據(jù)地址中存儲(chǔ)的輸入數(shù)據(jù)。

10.根據(jù)權(quán)利要求6-9任一所述的多神經(jīng)網(wǎng)絡(luò)輸出裝置，其中，所述神經(jīng)網(wǎng)絡(luò)為用于實(shí)現(xiàn)自動(dòng)駕駛的圖像處理神經(jīng)網(wǎng)絡(luò)。