[發(fā)明專利]圖像分類方法、裝置、電子設(shè)備及存儲(chǔ)介質(zhì)

在審

• 申請(qǐng)?zhí)枺?/td>: 202010275340.0
• 申請(qǐng)日: 2020-04-09
• 公開（公告）號(hào): CN111539460A
• 公開（公告）日: 2020-08-14
• 發(fā)明（設(shè)計(jì)）人: 徐健
• 申請(qǐng)（專利權(quán)）人: 咪咕文化科技有限公司;中國移動(dòng)通信集團(tuán)有限公司
• 主分類號(hào): G06K9/62
• 分類號(hào): G06K9/62;G06N3/04;G06N3/08
• 代理公司: 北京路浩知識(shí)產(chǎn)權(quán)代理有限公司 11002
• 代理人: 王宇楊

本發(fā)明實(shí)施例提供一種圖像分類方法、裝置、電子設(shè)備及存儲(chǔ)介質(zhì)。方法包括：確定待分類的圖像；將待分類的圖像輸入圖像分類模型，得到圖像分類模型輸出的圖像分類結(jié)果；其中，圖像分類模型是基于樣本圖像數(shù)據(jù)與樣本類別標(biāo)簽，通過對(duì)卷積神經(jīng)網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練得到的；圖像分類模型在訓(xùn)練時(shí)采用預(yù)設(shè)的反向傳播方法，預(yù)設(shè)的反向傳播方法對(duì)卷積神經(jīng)網(wǎng)絡(luò)模型中的預(yù)設(shè)層所輸出的梯度集合進(jìn)行稀疏處理。本發(fā)明實(shí)施例提供的圖像分類方法、裝置、電子設(shè)備及存儲(chǔ)介質(zhì)對(duì)卷積神經(jīng)網(wǎng)絡(luò)在反向傳播過程中所涉及的梯度進(jìn)行稀疏化，有效降低了計(jì)算量，由于稀疏過程本身不涉及排序，復(fù)雜度非常低，對(duì)資源的占用幾乎可以忽略，因此有效提高了圖像分類模型的訓(xùn)練效率。

技術(shù)領(lǐng)域

本發(fā)明涉及人工智能技術(shù)領(lǐng)域，尤其涉及一種圖像分類方法、裝置、電子設(shè)備及存儲(chǔ)介質(zhì)。

背景技術(shù)

圖像分類是要為圖像打上類別標(biāo)簽。圖像分類是計(jì)算機(jī)視覺領(lǐng)域的核心問題之一。目前，圖像分類方法總體上分為5類：KNN(k-Nearest Neighbor，K最近鄰分類)、SVM(Support Vector Machine,支持向量機(jī))、BP神經(jīng)網(wǎng)絡(luò)、CNN(Convolutional NeuralNetworks,卷積神經(jīng)網(wǎng)絡(luò))和遷移學(xué)習(xí)。

由于卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)比傳統(tǒng)神經(jīng)網(wǎng)絡(luò)更加復(fù)雜，因此采用卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行圖像分類時(shí)，面臨著資源消耗量大的問題，特別是在利用卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練圖像分類模型的階段。

在現(xiàn)有技術(shù)中，對(duì)于利用卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練圖像分類模型的過程具有相應(yīng)的優(yōu)化方法，主要包括以下兩類：

(1)剪枝：即在訓(xùn)練時(shí)刪除對(duì)訓(xùn)練結(jié)果無實(shí)際影響的參數(shù)，壓縮參數(shù)規(guī)模，以減小計(jì)算量。根據(jù)調(diào)整的參數(shù)對(duì)象的不同，對(duì)卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行剪枝壓縮可以進(jìn)一步細(xì)分為：非結(jié)構(gòu)化剪枝、結(jié)構(gòu)化剪枝、梯度剪枝等。

(2)量化：一般而言，卷積神經(jīng)網(wǎng)絡(luò)的參數(shù)都是用的32bit長(zhǎng)度的浮點(diǎn)型數(shù)表示，實(shí)際上不需要保留那么高的精度，可以通過量化，比如用0～255表示原來32個(gè)bit所表示的精度，通過犧牲精度來降低每一個(gè)權(quán)值所需要占用的空間。

其中的梯度剪枝法一般首先需要對(duì)梯度參數(shù)做排序操作，然后從排序結(jié)果中舍去部分梯度參數(shù)。這樣做一方面改變了梯度參數(shù)的尺寸，另一方面在梯度剪枝實(shí)現(xiàn)過程中的排序操作依然會(huì)對(duì)硬件資源、時(shí)間資源造成較大的消耗。

發(fā)明內(nèi)容

本發(fā)明實(shí)施例提供一種圖像分類方法、裝置、電子設(shè)備及存儲(chǔ)介質(zhì)，用以解決現(xiàn)有技術(shù)中的方法對(duì)硬件資源和時(shí)間資源造成較大消耗的缺陷。

本發(fā)明第一方面實(shí)施例提供一種圖像分類方法，包括：

確定待分類的圖像；

將所述待分類的圖像輸入圖像分類模型，得到所述圖像分類模型輸出的圖像分類結(jié)果；其中，

所述圖像分類模型是基于樣本圖像數(shù)據(jù)與樣本類別標(biāo)簽，通過對(duì)卷積神經(jīng)網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練得到的；

所述圖像分類模型在訓(xùn)練時(shí)采用預(yù)設(shè)的反向傳播方法，所述預(yù)設(shè)的反向傳播方法對(duì)所述卷積神經(jīng)網(wǎng)絡(luò)模型中的預(yù)設(shè)層所輸出的梯度集合進(jìn)行稀疏處理。

上述技術(shù)方案中，所述預(yù)設(shè)的反向傳播方法對(duì)所述卷積神經(jīng)網(wǎng)絡(luò)模型中的預(yù)設(shè)層所輸出的梯度集合進(jìn)行稀疏處理包括：

當(dāng)所述卷積神經(jīng)網(wǎng)絡(luò)模型為包含批標(biāo)準(zhǔn)化層的卷積神經(jīng)網(wǎng)絡(luò)模型時(shí)，對(duì)所述卷積神經(jīng)網(wǎng)絡(luò)模型中的批標(biāo)準(zhǔn)化層所輸出的梯度集合進(jìn)行稀疏處理。

上述技術(shù)方案中，所述預(yù)設(shè)的反向傳播方法對(duì)所述卷積神經(jīng)網(wǎng)絡(luò)模型中的預(yù)設(shè)層所輸出的梯度集合進(jìn)行稀疏處理包括：

當(dāng)所述卷積神經(jīng)網(wǎng)絡(luò)模型為未包含批標(biāo)準(zhǔn)化層的卷積神經(jīng)網(wǎng)絡(luò)模型時(shí)，對(duì)所述卷積神經(jīng)網(wǎng)絡(luò)模型中的ReLU激活層在反向傳播方向上的前一相鄰層所輸出的梯度集合進(jìn)行稀疏處理。