[發(fā)明專(zhuān)利]加速卷積神經(jīng)網(wǎng)絡(luò)模型前向推理的方法及裝置

在審

• 申請(qǐng)?zhí)枺?/td>: 201811625609.2
• 申請(qǐng)日: 2018-12-28
• 公開(kāi)（公告）號(hào): CN111382831A
• 公開(kāi)（公告）日: 2020-07-07
• 發(fā)明（設(shè)計(jì)）人: 李啟明
• 申請(qǐng)（專(zhuān)利權(quán)）人: TCL集團(tuán)股份有限公司
• 主分類(lèi)號(hào): G06N3/04
• 分類(lèi)號(hào): G06N3/04;G06N3/08
• 代理公司: 深圳中一聯(lián)合知識(shí)產(chǎn)權(quán)代理有限公司 44414
• 代理人: 張全文

本申請(qǐng)適用于卷積神經(jīng)網(wǎng)絡(luò)技術(shù)領(lǐng)域，提供了一種加速卷積神經(jīng)網(wǎng)絡(luò)模型前向推理的方法、裝置、智能終端及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，包括：將待處理數(shù)據(jù)輸入至所述卷積神經(jīng)網(wǎng)絡(luò)模型中的卷積層；在所述卷積層中對(duì)所述待處理數(shù)據(jù)進(jìn)行卷積操作，并使用激活函數(shù)處理卷積結(jié)果，其中，所述卷積結(jié)果是指對(duì)所述待處理數(shù)據(jù)進(jìn)行卷積操作后所得的結(jié)果。通過(guò)本申請(qǐng)加速卷積神經(jīng)網(wǎng)絡(luò)模型的前向推理，提高卷積神經(jīng)網(wǎng)絡(luò)模型的運(yùn)行效率。

技術(shù)領(lǐng)域

本申請(qǐng)屬于卷積神經(jīng)網(wǎng)絡(luò)技術(shù)領(lǐng)域，尤其涉及一種加速卷積神經(jīng)網(wǎng)絡(luò)模型前向推理的方法、裝置、智能終端及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)。

背景技術(shù)

卷積神經(jīng)網(wǎng)絡(luò)是一類(lèi)包含卷積計(jì)算并具有深度結(jié)構(gòu)的前饋神經(jīng)網(wǎng)絡(luò)，是深度學(xué)習(xí)的代表算法之一。由于卷積神經(jīng)網(wǎng)絡(luò)能夠進(jìn)行平移不變分類(lèi)，因此也被稱(chēng)為“平移不變?nèi)斯ど窠?jīng)網(wǎng)絡(luò)”。卷積神經(jīng)網(wǎng)絡(luò)模型中通常包含卷積層、批歸一化層、激活層和池化層等，這些層均是串行分開(kāi)推理，通常會(huì)涉及較多的數(shù)據(jù)處理過(guò)程，降低了卷積神經(jīng)網(wǎng)絡(luò)模型的前向推理速度。

發(fā)明內(nèi)容

有鑒于此，本申請(qǐng)實(shí)施例提供了一種加速卷積神經(jīng)網(wǎng)絡(luò)模型前向推理的方法、裝置、智能終端及計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，以加速卷積神經(jīng)網(wǎng)絡(luò)模型的前向推理，提高卷積神經(jīng)網(wǎng)絡(luò)模型的運(yùn)行效率。

本申請(qǐng)實(shí)施例的第一方面提供了一種加速卷積神經(jīng)網(wǎng)絡(luò)模型前向推理的方法，所述方法包括：

將待處理數(shù)據(jù)輸入至所述卷積神經(jīng)網(wǎng)絡(luò)模型中的卷積層；

在所述卷積層中對(duì)所述待處理數(shù)據(jù)進(jìn)行卷積操作，并使用激活函數(shù)處理卷積結(jié)果，其中，所述卷積結(jié)果是指對(duì)所述待處理數(shù)據(jù)進(jìn)行卷積操作后所得的結(jié)果。

本申請(qǐng)實(shí)施例的第二方面提供了一種加速卷積神經(jīng)網(wǎng)絡(luò)模型前向推理的裝置，所述裝置包括：

數(shù)據(jù)輸入模塊，用于將待處理數(shù)據(jù)輸入至所述卷積神經(jīng)網(wǎng)絡(luò)模型中的卷積層；

數(shù)據(jù)處理模塊，用于在所述卷積層中對(duì)所述待處理數(shù)據(jù)進(jìn)行卷積操作，并使用激活函數(shù)處理卷積結(jié)果，其中，所述卷積結(jié)果是指對(duì)所述待處理數(shù)據(jù)進(jìn)行卷積操作后所得的結(jié)果。

本申請(qǐng)實(shí)施例的第三方面提供了一種智能終端，包括存儲(chǔ)器、處理器以及存儲(chǔ)在所述存儲(chǔ)器中并可在所述處理器上運(yùn)行的計(jì)算機(jī)程序，所述處理器執(zhí)行所述計(jì)算機(jī)程序時(shí)實(shí)現(xiàn)如上述第一方面所述方法的步驟。

本申請(qǐng)實(shí)施例的第四方面提供了一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，所述計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)存儲(chǔ)有計(jì)算機(jī)程序，所述計(jì)算機(jī)程序被處理器執(zhí)行時(shí)實(shí)現(xiàn)如上述第一方面所述方法的步驟。

由上可見(jiàn)，本申請(qǐng)方案在將待處理數(shù)據(jù)輸入至卷積神經(jīng)網(wǎng)絡(luò)模型的卷積層中，在所述卷積層中對(duì)所述待處理數(shù)據(jù)進(jìn)行卷積操作，并使用激活函數(shù)處理卷積結(jié)果，從而將現(xiàn)有卷積神經(jīng)網(wǎng)絡(luò)模型中的激活層合進(jìn)卷積層，減少了激活層導(dǎo)致的一些數(shù)據(jù)處理過(guò)程，加速了卷積神經(jīng)網(wǎng)絡(luò)模型的前向推理，提高了卷積神經(jīng)網(wǎng)絡(luò)模型的運(yùn)行效率。

附圖說(shuō)明

為了更清楚地說(shuō)明本申請(qǐng)實(shí)施例中的技術(shù)方案，下面將對(duì)實(shí)施例或現(xiàn)有技術(shù)描述中所需要使用的附圖作簡(jiǎn)單地介紹，顯而易見(jiàn)地，下面描述中的附圖僅僅是本申請(qǐng)的一些實(shí)施例，對(duì)于本領(lǐng)域普通技術(shù)人員來(lái)講，在不付出創(chuàng)造性勞動(dòng)性的前提下，還可以根據(jù)這些附圖獲得其他的附圖。

圖1是本申請(qǐng)實(shí)施例一提供的加速卷積神經(jīng)網(wǎng)絡(luò)模型前向推理的方法的實(shí)現(xiàn)流程示意圖；

圖2是本申請(qǐng)實(shí)施例二提供的加速卷積神經(jīng)網(wǎng)絡(luò)模型前向推理的方法的實(shí)現(xiàn)流程示意圖；

圖3是本申請(qǐng)實(shí)施例二提供的卷積神經(jīng)網(wǎng)絡(luò)模型示例圖；

圖4是本申請(qǐng)實(shí)施例三提供的加速卷積神經(jīng)網(wǎng)絡(luò)模型前向推理的裝置的示意圖；

圖5是本申請(qǐng)實(shí)施例四提供的智能終端的示意圖。

具體實(shí)施方式