[發(fā)明專利]神經(jīng)網(wǎng)絡(luò)處理方法、計(jì)算機(jī)系統(tǒng)及存儲(chǔ)介質(zhì)

有效

• 申請(qǐng)?zhí)枺?/td>: 202010364385.5
• 申請(qǐng)日: 2017-12-29
• 公開（公告）號(hào): CN111582464B
• 公開（公告）日: 2023-09-29
• 發(fā)明（設(shè)計(jì)）人: 請(qǐng)求不公布姓名
• 申請(qǐng)（專利權(quán)）人: 中科寒武紀(jì)科技股份有限公司
• 主分類號(hào): G06N3/063
• 分類號(hào): G06N3/063;G06N3/0464;G06N3/08;G06N20/00
• 代理公司: 暫無(wú)信息
• 代理人: 暫無(wú)信息

本發(fā)明提供了一種神經(jīng)網(wǎng)絡(luò)的處理方法，上述方法包括如下步驟：獲取原始網(wǎng)絡(luò)的模型數(shù)據(jù)集及模型結(jié)構(gòu)參數(shù)，其中，模型數(shù)據(jù)集包括原始網(wǎng)絡(luò)中各個(gè)計(jì)算節(jié)點(diǎn)對(duì)應(yīng)的網(wǎng)絡(luò)權(quán)值，模型結(jié)構(gòu)參數(shù)包括原始網(wǎng)絡(luò)中多個(gè)計(jì)算節(jié)點(diǎn)的連接關(guān)系及各個(gè)計(jì)算節(jié)點(diǎn)的計(jì)算屬性；根據(jù)原始網(wǎng)絡(luò)的模型數(shù)據(jù)集和模型結(jié)構(gòu)參數(shù)運(yùn)行原始網(wǎng)絡(luò)，獲得原始網(wǎng)絡(luò)中各個(gè)計(jì)算節(jié)點(diǎn)對(duì)應(yīng)的指令；根據(jù)原始網(wǎng)絡(luò)的各個(gè)計(jì)算節(jié)點(diǎn)對(duì)應(yīng)的網(wǎng)絡(luò)權(quán)值及指令，生成原始網(wǎng)絡(luò)對(duì)應(yīng)的離線模型，并將原始網(wǎng)絡(luò)對(duì)應(yīng)的離線模型存儲(chǔ)至非易失性存儲(chǔ)器中。本發(fā)明還提供了一種計(jì)算機(jī)系統(tǒng)及存儲(chǔ)介質(zhì)。本發(fā)明的神經(jīng)網(wǎng)絡(luò)處理方法、計(jì)算機(jī)系統(tǒng)及存儲(chǔ)介質(zhì)，縮短處理器運(yùn)行同一網(wǎng)絡(luò)的運(yùn)行時(shí)間，提高處理器的處理速度及效率。

技術(shù)領(lǐng)域

本發(fā)明涉及深度學(xué)習(xí)技術(shù)領(lǐng)域，特別是涉及一種神經(jīng)網(wǎng)絡(luò)處理方法、計(jì)算機(jī)系統(tǒng)及存儲(chǔ)介質(zhì)。

背景技術(shù)

隨著人工智能技術(shù)的發(fā)展，如今深度學(xué)習(xí)已無(wú)處不在且必不可少，并隨之產(chǎn)生了許多可擴(kuò)展的深度學(xué)習(xí)系統(tǒng)，例如，TensorFlow、MXNet、Caffe和PyTorch等等，上述深度學(xué)習(xí)系統(tǒng)可以用于提供各種能夠在CPU或GPU等處理器上運(yùn)行的神經(jīng)網(wǎng)絡(luò)模型。一般地，處理器在運(yùn)行神經(jīng)網(wǎng)絡(luò)模型時(shí)，如運(yùn)行Caffe網(wǎng)絡(luò)模型時(shí)，每次均需要對(duì)該神經(jīng)網(wǎng)絡(luò)模型中的各個(gè)計(jì)算節(jié)點(diǎn)分別進(jìn)行編譯、解析，之后，按照該神經(jīng)網(wǎng)絡(luò)模型的結(jié)構(gòu)形式按照一定的形式執(zhí)行各個(gè)計(jì)算節(jié)點(diǎn)。其中，神經(jīng)網(wǎng)絡(luò)模型以及網(wǎng)絡(luò)結(jié)構(gòu)可以是已訓(xùn)練好或未訓(xùn)練好的人工神經(jīng)網(wǎng)絡(luò)模型數(shù)據(jù)。上述對(duì)神經(jīng)網(wǎng)絡(luò)的處理方法會(huì)影響處理器的處理速度，處理效率較低。

發(fā)明內(nèi)容

鑒于上述的網(wǎng)絡(luò)模型處理方法導(dǎo)致的處理效率低的問(wèn)題，本發(fā)明的目的在于提供一種神經(jīng)網(wǎng)絡(luò)處理方法、計(jì)算機(jī)系統(tǒng)及存儲(chǔ)介質(zhì)，提高裝置對(duì)神經(jīng)網(wǎng)絡(luò)的處理速度及處理效率。

為實(shí)現(xiàn)上述目的，本發(fā)明采用如下技術(shù)方案：

一種神經(jīng)網(wǎng)絡(luò)的處理方法，所述方法包括如下步驟：

獲取原始網(wǎng)絡(luò)的模型數(shù)據(jù)集及模型結(jié)構(gòu)參數(shù)，其中，所述模型數(shù)據(jù)集包括所述原始網(wǎng)絡(luò)中各個(gè)計(jì)算節(jié)點(diǎn)對(duì)應(yīng)的網(wǎng)絡(luò)權(quán)值，所述模型結(jié)構(gòu)參數(shù)包括所述原始網(wǎng)絡(luò)中多個(gè)計(jì)算節(jié)點(diǎn)的連接關(guān)系及各個(gè)計(jì)算節(jié)點(diǎn)的計(jì)算屬性；

根據(jù)所述原始網(wǎng)絡(luò)的模型數(shù)據(jù)集和模型結(jié)構(gòu)參數(shù)運(yùn)行所述原始網(wǎng)絡(luò)，獲得所述原始網(wǎng)絡(luò)中各個(gè)計(jì)算節(jié)點(diǎn)對(duì)應(yīng)的指令；

根據(jù)所述原始網(wǎng)絡(luò)的各個(gè)計(jì)算節(jié)點(diǎn)對(duì)應(yīng)的網(wǎng)絡(luò)權(quán)值及指令，生成所述原始網(wǎng)絡(luò)對(duì)應(yīng)的離線模型，并將所述原始網(wǎng)絡(luò)對(duì)應(yīng)的離線模型存儲(chǔ)至非易失性存儲(chǔ)器中。

在其中一個(gè)實(shí)施例中，所述的根據(jù)所述原始網(wǎng)絡(luò)的模型數(shù)據(jù)集和模型結(jié)構(gòu)參數(shù)運(yùn)行所述原始網(wǎng)絡(luò)，獲得所述原始網(wǎng)絡(luò)中各個(gè)計(jì)算節(jié)點(diǎn)對(duì)應(yīng)的指令的步驟，包括：

根據(jù)所述原始網(wǎng)絡(luò)的模型結(jié)構(gòu)參數(shù)，獲得所述原始網(wǎng)絡(luò)中各個(gè)計(jì)算節(jié)點(diǎn)的執(zhí)行順序；

按照所述原始網(wǎng)絡(luò)中各個(gè)計(jì)算節(jié)點(diǎn)的執(zhí)行順序運(yùn)行所述原始網(wǎng)絡(luò)，分別獲得所述原始網(wǎng)絡(luò)中各個(gè)計(jì)算節(jié)點(diǎn)對(duì)應(yīng)的指令。

在其中一個(gè)實(shí)施例中，所述的根據(jù)所述原始網(wǎng)絡(luò)的各個(gè)計(jì)算節(jié)點(diǎn)對(duì)應(yīng)的網(wǎng)絡(luò)權(quán)值及指令，生成所述原始網(wǎng)絡(luò)對(duì)應(yīng)的離線模型的步驟，包括：

根據(jù)所述原始網(wǎng)絡(luò)的模型數(shù)據(jù)集和模型結(jié)構(gòu)參數(shù)，獲得所述原始網(wǎng)絡(luò)的內(nèi)存分配方式；

根據(jù)所述原始網(wǎng)絡(luò)的內(nèi)存分配方式，將所述原始網(wǎng)絡(luò)運(yùn)行過(guò)程中的相關(guān)數(shù)據(jù)存儲(chǔ)至第一存儲(chǔ)器中，其中，所述原始網(wǎng)絡(luò)運(yùn)行過(guò)程中的相關(guān)數(shù)據(jù)包括所述原始網(wǎng)絡(luò)的各個(gè)計(jì)算節(jié)點(diǎn)對(duì)應(yīng)的網(wǎng)絡(luò)權(quán)值、指令、輸入數(shù)據(jù)及輸出數(shù)據(jù)；

從所述第一存儲(chǔ)器中獲取所述原始網(wǎng)絡(luò)的各個(gè)計(jì)算節(jié)點(diǎn)對(duì)應(yīng)的網(wǎng)絡(luò)權(quán)值及指令，并將所述原始網(wǎng)絡(luò)的各個(gè)計(jì)算節(jié)點(diǎn)對(duì)應(yīng)的網(wǎng)絡(luò)權(quán)值及指令存儲(chǔ)于第二存儲(chǔ)器中，生成所述離線模型，其中，所述第二存儲(chǔ)器為非易失性存儲(chǔ)器。

在其中一個(gè)實(shí)施例中，所述離線模型中還包括節(jié)點(diǎn)接口數(shù)據(jù)，所述節(jié)點(diǎn)接口數(shù)據(jù)用于表示所述原始網(wǎng)絡(luò)的各個(gè)計(jì)算節(jié)點(diǎn)的連接關(guān)系。