[發(fā)明專(zhuān)利]一種基于深度卷積神經(jīng)網(wǎng)絡(luò)的大規(guī)模圖像分類(lèi)方法

在審

• 申請(qǐng)?zhí)枺?/td>: 201910851853.9
• 申請(qǐng)日: 2019-09-10
• 公開(kāi)（公告）號(hào): CN110728352A
• 公開(kāi)（公告）日: 2020-01-24
• 發(fā)明（設(shè)計(jì)）人: 張萌;李嬌杰;李國(guó)慶;呂鋒;段斌
• 申請(qǐng)（專(zhuān)利權(quán)）人: 東南大學(xué)
• 主分類(lèi)號(hào): G06N3/04
• 分類(lèi)號(hào): G06N3/04;G06N3/08;G06K9/62
• 代理公司: 32204 南京蘇高專(zhuān)利商標(biāo)事務(wù)所(普通合伙)
• 代理人: 徐紅梅

本發(fā)明公開(kāi)了一種基于深度卷積神經(jīng)網(wǎng)絡(luò)的大規(guī)模圖像分類(lèi)方法，包括將大規(guī)模圖像數(shù)據(jù)集分為訓(xùn)練圖像集和測(cè)試圖像集；使用標(biāo)準(zhǔn)卷積操作對(duì)訓(xùn)練圖像集進(jìn)行卷積操作，得到標(biāo)準(zhǔn)卷積后的圖像；對(duì)得到的標(biāo)準(zhǔn)卷積后的圖像采用PSD卷積進(jìn)行操作，得到PSD卷積后的圖像；將得到的PSD卷積后的圖像經(jīng)過(guò)全局平均池化層，得到1×1的輸出特征圖像；將得到的1×1的輸出特征圖像通過(guò)全連接層，最后接入一個(gè)歸一化指數(shù)函數(shù)層完成對(duì)訓(xùn)練圖像的分類(lèi)，即得到PSDNet卷積神經(jīng)網(wǎng)絡(luò)模型。將測(cè)試圖像集中的圖像輸入得到的PSDNet卷積神經(jīng)網(wǎng)絡(luò)模型中，完成圖像分類(lèi)。本發(fā)明測(cè)試結(jié)果有明顯的提高。

技術(shù)領(lǐng)域

本發(fā)明涉及圖像處理技術(shù)領(lǐng)域，具體涉及一種基于深度卷積神經(jīng)網(wǎng)絡(luò)的大規(guī)模圖像分類(lèi)方法。

背景技術(shù)

卷積神經(jīng)網(wǎng)絡(luò)(CNN)由人工神經(jīng)網(wǎng)絡(luò)發(fā)展而來(lái)，獨(dú)特的權(quán)值共享的結(jié)構(gòu)減小了網(wǎng)絡(luò)的規(guī)模，更容易訓(xùn)練。由于圖像平移、縮放和旋轉(zhuǎn)的不變性，卷積神經(jīng)網(wǎng)絡(luò)廣泛應(yīng)用于圖像識(shí)別領(lǐng)域。卷積神經(jīng)網(wǎng)絡(luò)對(duì)圖像的平移，縮放，旋轉(zhuǎn)等形式的變形具有高度的適應(yīng)性，在圖像識(shí)別和目標(biāo)檢測(cè)等領(lǐng)域應(yīng)用廣泛，如微軟利用卷積神經(jīng)網(wǎng)絡(luò)做阿拉伯文和中文的手寫(xiě)識(shí)別系統(tǒng)，谷歌使用卷積神經(jīng)網(wǎng)絡(luò)來(lái)識(shí)別街景圖片中的人臉和車(chē)牌等等。

CNN的性能正在迅速提高：ImageNet挑戰(zhàn)的獲勝者將分類(lèi)準(zhǔn)確率從2012年AlexNet的84.7％提高到ResNet-152的96.5％。然而，精度的提高是以高計(jì)算復(fù)雜度為代價(jià)的。例如，AlexNet需要1.4×10¹⁰FLOPs來(lái)處理單個(gè)224×224圖像，ResNet-152需要2.26×10¹¹FLOPs。在移動(dòng)嵌入式設(shè)備端，一個(gè)最主要的挑戰(zhàn)在于大量的運(yùn)算需要過(guò)多的硬件資源并且功耗巨大。

為了解決與計(jì)算能力相關(guān)的這一系列問(wèn)題，已經(jīng)有大量的研究試圖優(yōu)化它們的性能。

這些研究工作可以分為兩種：使用預(yù)先訓(xùn)練的模型壓縮現(xiàn)有網(wǎng)絡(luò)結(jié)構(gòu)，以及設(shè)計(jì)新的高效的網(wǎng)絡(luò)結(jié)構(gòu)，這些結(jié)構(gòu)將從頭開(kāi)始訓(xùn)練。模型壓縮方法通常基于傳統(tǒng)的壓縮技術(shù)，如哈希(hashing)、赫夫曼編碼(Huffman coding)、因式分解(factorization)、剪枝(pruning)和模型量化(quantization)。

實(shí)際上，第二種方法比第一種方法更早地被研究。GoogLeNet中提出了Inception模塊，希望在不增加模型大小和計(jì)算成本的情況下構(gòu)建更深的網(wǎng)絡(luò)結(jié)構(gòu)，然后在Inception模塊中通過(guò)分解卷積進(jìn)一步改進(jìn)。深度可分離卷積(Depthwise separable Convolution，DWConvolution)更加體現(xiàn)因式分解的思想，將標(biāo)準(zhǔn)卷積分解為深度卷積(Depthwiseconvolution)，再用1×1卷積核進(jìn)行常規(guī)卷積。MobileNet為基于DW Convolution的移動(dòng)設(shè)備設(shè)計(jì)了卷積神經(jīng)網(wǎng)絡(luò)，該操作能夠以較少的參數(shù)獲得了較好的結(jié)果。本發(fā)明主要使用深度卷積來(lái)進(jìn)一步提高參數(shù)效率。

發(fā)明內(nèi)容

發(fā)明目的：提供了一種基于深度卷積神經(jīng)網(wǎng)絡(luò)的大規(guī)模圖像分類(lèi)方法，改變了常見(jiàn)大規(guī)模圖像分類(lèi)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，減少了網(wǎng)絡(luò)參數(shù)，并且降低了計(jì)算成本，提高了大規(guī)模圖像分類(lèi)測(cè)試準(zhǔn)確率。

本發(fā)明的一種基于深度卷積(depthwise convolution)神經(jīng)網(wǎng)絡(luò)的大規(guī)模圖像分類(lèi)方法，提出適合對(duì)大規(guī)模圖像進(jìn)行精準(zhǔn)分類(lèi)的PSDNet卷積塊(Pointwise-Standard-Depthwise)，輸入的未經(jīng)處理的圖像依次通過(guò)1×1標(biāo)準(zhǔn)卷積(pointwise convolution)層、3×3標(biāo)準(zhǔn)卷積層，最后通過(guò)3×3深度卷積層，得到經(jīng)過(guò)卷積處理的特征圖像，并且PSDNet卷積塊也使用快捷連接(shortcut connections)對(duì)輸入圖像進(jìn)行恒等映射，在每一個(gè)卷積層之前都對(duì)圖像進(jìn)行批量歸一化(Batch Normalization)處理以及非線性函數(shù)激活處理。

技術(shù)方案：為實(shí)現(xiàn)上述發(fā)明目的，本發(fā)明采用以下技術(shù)方案：