[發(fā)明專利]基于密集連接殘差網(wǎng)絡(luò)的圖像分類方法

在審

• 申請(qǐng)?zhí)枺?/td>: 201910135688.7
• 申請(qǐng)日: 2019-02-21
• 公開（公告）號(hào): CN109978003A
• 公開（公告）日: 2019-07-05
• 發(fā)明（設(shè)計(jì)）人: 王永雄;嚴(yán)龍;宋天中;張震
• 申請(qǐng)（專利權(quán)）人: 上海理工大學(xué)
• 主分類號(hào): G06K9/62
• 分類號(hào): G06K9/62;G06N3/04;G06N3/08
• 代理公司: 上海天協(xié)和誠(chéng)知識(shí)產(chǎn)權(quán)代理事務(wù)所 31216
• 代理人: 沈國(guó)良

本發(fā)明公開了一種基于密集連接殘差網(wǎng)絡(luò)的圖像分類方法，本方法首先對(duì)輸入圖片進(jìn)行數(shù)據(jù)預(yù)處理，并擴(kuò)充圖片數(shù)據(jù)量；然后將圖片輸入到密集連接殘差網(wǎng)絡(luò)提取圖像特征；最后將提取到的圖像特征輸入到Softmax分類器，得出圖片分類結(jié)果。本方法克服圖像分類任務(wù)中傳統(tǒng)方法效果不好、常用的深度學(xué)習(xí)方法計(jì)算量太大、模型訓(xùn)練和運(yùn)行對(duì)硬件設(shè)備要求太高的缺陷，通過(guò)結(jié)合殘差網(wǎng)絡(luò)和密集連接網(wǎng)絡(luò)的優(yōu)點(diǎn)，達(dá)到較高的識(shí)別率的同時(shí)占用較少的計(jì)算資源。

技術(shù)領(lǐng)域

本發(fā)明涉及機(jī)器學(xué)習(xí)和機(jī)器視覺技術(shù)領(lǐng)域，尤其涉及一種基于密集連接殘差網(wǎng)絡(luò)的圖像分類方法。

背景技術(shù)

圖像分類是計(jì)算機(jī)視覺領(lǐng)域中最活躍的研究課題之一，迅速和準(zhǔn)確地識(shí)別出物體對(duì)機(jī)器人導(dǎo)航、醫(yī)療診斷、安防、工業(yè)檢測(cè)等有著重要的意義。提取圖像特征是物體識(shí)別中最重要也是最棘手的工作，圖像特征的好壞很大程度上決定了識(shí)別的效果。相比傳統(tǒng)的圖像特征提取方法，深度神經(jīng)網(wǎng)絡(luò)能提取到表達(dá)能力更強(qiáng)的圖像特征，更有利于圖像分類，因此現(xiàn)在大多數(shù)物體識(shí)別框架都基于深度學(xué)習(xí)。但是，目前大多數(shù)用于圖像分類的深度學(xué)習(xí)方法計(jì)算量很大，訓(xùn)練時(shí)間長(zhǎng)，對(duì)訓(xùn)練設(shè)備有較高的要求。深度殘差網(wǎng)絡(luò)和密集連接網(wǎng)絡(luò)是近幾年涌現(xiàn)出的優(yōu)秀卷積神經(jīng)網(wǎng)絡(luò)模型，深度殘差網(wǎng)絡(luò)可以有效避免傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)模型的梯度消失或爆炸以及模型退化問(wèn)題。密集連接網(wǎng)絡(luò)提高參數(shù)的利用率，網(wǎng)絡(luò)能夠利用較少參數(shù)量達(dá)到較高的識(shí)別率，但是網(wǎng)絡(luò)中的大量密集連接不可避免地消耗了大量的GPU內(nèi)存，計(jì)算深層的密集連接網(wǎng)絡(luò)對(duì)機(jī)器的硬件要求較高。

發(fā)明內(nèi)容

本發(fā)明所要解決的技術(shù)問(wèn)題是提供一種基于密集連接殘差網(wǎng)絡(luò)的圖像分類方法，本方法克服傳統(tǒng)深度學(xué)習(xí)方法針對(duì)圖像分類的缺陷，通過(guò)結(jié)合殘差網(wǎng)絡(luò)和密集連接網(wǎng)絡(luò)的優(yōu)點(diǎn)，利用較少的參數(shù)量達(dá)到較高的識(shí)別率，減少計(jì)算資源占用，有效提高圖像的識(shí)別率。

為解決上述技術(shù)問(wèn)題，本發(fā)明基于密集連接殘差網(wǎng)絡(luò)的圖像分類方法包括如下步驟：

步驟一、對(duì)輸入圖片進(jìn)行數(shù)據(jù)預(yù)處理，并擴(kuò)充圖片數(shù)據(jù)量；

步驟二、將圖片輸入到密集連接殘差網(wǎng)絡(luò)提取圖像特征，密集連接殘差網(wǎng)絡(luò)由一個(gè)小型密集連接網(wǎng)絡(luò)和一個(gè)殘差結(jié)構(gòu)組成，在密集連接殘差網(wǎng)絡(luò)中，串聯(lián)操作將網(wǎng)絡(luò)內(nèi)的所有卷積層的輸出特征圖串聯(lián)之后再輸入到殘差函數(shù)中；

步驟三、將提取到的圖像特征輸入到Softmax分類器，得出圖片分類結(jié)果。

進(jìn)一步，所述數(shù)據(jù)預(yù)處理將所有樣本均減去整個(gè)數(shù)據(jù)集樣本的均值和方差，使得模型的收斂更快；所述擴(kuò)充圖片數(shù)據(jù)量將圖片隨機(jī)的翻轉(zhuǎn)和旋轉(zhuǎn)訓(xùn)練，以擴(kuò)充數(shù)據(jù)的多樣性，使得模型學(xué)習(xí)更具代表的特征。

進(jìn)一步，所述密集連接殘差網(wǎng)絡(luò)采用下式表示：

y_l＝y(tǒng)_l-1+F(H_d(y₀，...，y_d])，[W₀，...，W_d])

其中y_l-1和y_l分別為網(wǎng)絡(luò)的第l個(gè)密集連接殘差結(jié)構(gòu)的輸入和輸出，[y₀，...，y_d][y₀，...，y_d]表示密集連接殘差網(wǎng)絡(luò)內(nèi)部所有的卷積層，[W₀，，W_d]表示密集連接殘差網(wǎng)絡(luò)內(nèi)部每個(gè)卷積層對(duì)應(yīng)的權(quán)重參數(shù)。

進(jìn)一步，所述Softmax分類器的圖片分類操作中，Softmax分類器輸出的是每一個(gè)樣本屬于各個(gè)類別的概率，損失函數(shù)的表達(dá)式如下式所示：

其中，x_i表示輸出層第i個(gè)神經(jīng)元的輸入，θ為學(xué)習(xí)參數(shù)。