[發(fā)明專利]深度學(xué)習(xí)模型生成方法、裝置、設(shè)備及存儲(chǔ)介質(zhì)

有效

• 申請(qǐng)?zhí)枺?/td>: 201910897445.7
• 申請(qǐng)日: 2019-09-23
• 公開（公告）號(hào): CN110598855B
• 公開（公告）日: 2023-06-09
• 發(fā)明（設(shè)計(jì)）人: 譚志鵬;劉耀勇;蔣燚
• 申請(qǐng)（專利權(quán)）人: OPPO廣東移動(dòng)通信有限公司
• 主分類號(hào): G06N3/04
• 分類號(hào): G06N3/04;G06N3/08;G06N5/04;G06F8/41
• 代理公司: 北京三高永信知識(shí)產(chǎn)權(quán)代理有限責(zé)任公司 11138
• 代理人: 邢少真

本申請(qǐng)實(shí)施例公開了一種深度學(xué)習(xí)模型生成方法、裝置、設(shè)備及存儲(chǔ)介質(zhì)，屬于深度學(xué)習(xí)領(lǐng)域。該方法包括：根據(jù)深度學(xué)習(xí)模型的模型文件生成第一源文件，模型文件包含所述深度學(xué)習(xí)模型中的權(quán)值矩陣；獲取深度學(xué)習(xí)模型對(duì)應(yīng)的第二源文件；對(duì)第一源文件和第二源文件進(jìn)行編譯，生成深度學(xué)習(xí)模型對(duì)應(yīng)的目標(biāo)文件。采用本申請(qǐng)實(shí)施例提供的方法，通過預(yù)先根據(jù)深度學(xué)習(xí)模型中的權(quán)值矩陣生成第一源文件，從而在編譯過程中，同時(shí)對(duì)第一源文件以及神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)對(duì)應(yīng)的第二源文件進(jìn)行編譯，生成深度學(xué)習(xí)模型對(duì)應(yīng)的目標(biāo)文件，在深度學(xué)習(xí)模型的編譯階段即可完成權(quán)值矩陣的數(shù)據(jù)加載，后續(xù)模型推理過程中不需要重新加載權(quán)值矩陣，進(jìn)而提高了深度學(xué)習(xí)模型推理的效率。

技術(shù)領(lǐng)域

本申請(qǐng)實(shí)施例涉及深度學(xué)習(xí)領(lǐng)域，特別涉及一種深度學(xué)習(xí)模型生成方法、裝置、設(shè)備及存儲(chǔ)介質(zhì)。

背景技術(shù)

深度學(xué)習(xí)的網(wǎng)絡(luò)結(jié)構(gòu)是多層神經(jīng)網(wǎng)絡(luò)的一種，其模型中大部分?jǐn)?shù)據(jù)是權(quán)值矩陣的數(shù)值。深度學(xué)習(xí)模型為了完成模型推理，會(huì)采用合適的數(shù)據(jù)結(jié)構(gòu)來(lái)定義神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。

深度學(xué)習(xí)模型進(jìn)行模型推理時(shí)，首先需要把模型加載到深度學(xué)習(xí)模型所采用的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)中，模型加載的一般做法，是把模型當(dāng)做文件，在運(yùn)行神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的代碼時(shí)把模型文件加載到內(nèi)存中，再?gòu)膬?nèi)存拷貝數(shù)據(jù)到神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)中。

上述過程中，在神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)運(yùn)行時(shí)需要拷貝所有權(quán)值矩陣的數(shù)據(jù)，這種內(nèi)存拷貝非常耗時(shí)，嚴(yán)重影響深度學(xué)習(xí)模型推理的效率。

發(fā)明內(nèi)容

本申請(qǐng)實(shí)施例提供了一種深度學(xué)習(xí)模型生成方法、裝置、設(shè)備及存儲(chǔ)介質(zhì)。

所述技術(shù)方案如下：

一方面，本申請(qǐng)實(shí)施例提供了一種深度學(xué)習(xí)模型生成方法，所述方法包括：

根據(jù)深度學(xué)習(xí)模型的模型文件生成第一源文件，所述模型文件包含所述深度學(xué)習(xí)模型中的權(quán)值矩陣；

獲取所述深度學(xué)習(xí)模型對(duì)應(yīng)的第二源文件，所述第二源文件為所述深度學(xué)習(xí)模型所采用神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的源文件；

對(duì)所述第一源文件和所述第二源文件進(jìn)行編譯，生成所述深度學(xué)習(xí)模型對(duì)應(yīng)的目標(biāo)文件。

另一方面，本申請(qǐng)實(shí)施例提供了一種深度學(xué)習(xí)模型生成裝置，所述裝置包括：

第一生成模塊，用于根據(jù)深度學(xué)習(xí)模型的模型文件生成第一源文件，所述模型文件包含所述深度學(xué)習(xí)模型中的權(quán)值矩陣；

第一獲取模塊，用于獲取所述深度學(xué)習(xí)模型對(duì)應(yīng)的第二源文件，所述第二源文件為所述深度學(xué)習(xí)模型所采用神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的源文件；

第二生成模塊，用于對(duì)所述第一源文件和所述第二源文件進(jìn)行編譯，生成所述深度學(xué)習(xí)模型對(duì)應(yīng)的目標(biāo)文件。

另一方面，本申請(qǐng)實(shí)施例提供了一種計(jì)算機(jī)設(shè)備，所述計(jì)算機(jī)設(shè)備包括處理器和存儲(chǔ)器；所述存儲(chǔ)器存儲(chǔ)有至少一條指令，所述至少一條指令用于被所述處理器執(zhí)行以實(shí)現(xiàn)如上述方面所述的深度學(xué)習(xí)模型生成方法。

另一方面，提供了一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，所述存儲(chǔ)介質(zhì)存儲(chǔ)有至少一條指令，所述至少一條指令用于被處理器執(zhí)行以實(shí)現(xiàn)如上述方面所述的深度學(xué)習(xí)模型生成方法。

另一方面，還提供了一種計(jì)算機(jī)程序產(chǎn)品，該計(jì)算機(jī)程序產(chǎn)品存儲(chǔ)有至少一條指令，所述至少一條指令由處理器加載并執(zhí)行以實(shí)現(xiàn)上述方面所述的深度學(xué)習(xí)模型生成方法。

本申請(qǐng)實(shí)施例提供的技術(shù)方案的有益效果至少包括：