[發(fā)明專(zhuān)利]一種基于元骨干網(wǎng)絡(luò)的小樣本圖像分類(lèi)方法

有效

• 申請(qǐng)?zhí)枺?/td>: 202011083540.2
• 申請(qǐng)日: 2020-10-12
• 公開(kāi)（公告）號(hào): CN112215280B
• 公開(kāi)（公告）日: 2022-03-15
• 發(fā)明（設(shè)計(jì)）人: 龐善民;吳偉
• 申請(qǐng)（專(zhuān)利權(quán)）人: 西安交通大學(xué)
• 主分類(lèi)號(hào): G06K9/62
• 分類(lèi)號(hào): G06K9/62;G06V10/764;G06V10/774;G06N3/04;G06N3/08
• 代理公司: 北京東方盛凡知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11562
• 代理人: 張換君

本發(fā)明公開(kāi)一種基于元骨干網(wǎng)絡(luò)的小樣本圖像分類(lèi)方法，包括以下步驟，初始化特征器提取器和余弦分類(lèi)器權(quán)重生成器的權(quán)重；從訓(xùn)練集單元中為每一個(gè)類(lèi)別隨機(jī)采樣出若干個(gè)樣本，將樣本通過(guò)余弦分類(lèi)器權(quán)重生成器單元產(chǎn)生初始權(quán)重；從訓(xùn)練集單元中采樣出一個(gè)批樣本訓(xùn)練數(shù)據(jù)，將批樣本訓(xùn)練數(shù)據(jù)輸入到元骨干網(wǎng)絡(luò)中，得到分類(lèi)結(jié)果并計(jì)算損失，利用損失和隨機(jī)梯度下降訓(xùn)練方法，更新特征器提取器單元的權(quán)重，進(jìn)入內(nèi)循環(huán)步驟，循環(huán)若干次后退出內(nèi)循環(huán)，計(jì)算平均損失；利用平均損失和隨機(jī)梯度下降訓(xùn)練方法更新權(quán)重生成器單元；進(jìn)入外循環(huán)步驟，完成若干迭代次數(shù)后退出外循環(huán)步驟，結(jié)束訓(xùn)練過(guò)程，本申請(qǐng)?zhí)嵘诵颖緢D像分類(lèi)的精度。

技術(shù)領(lǐng)域

本發(fā)明屬于圖像分類(lèi)領(lǐng)域，特別涉及一種基于元骨干網(wǎng)絡(luò)的小樣本圖像分類(lèi)方法。

背景技術(shù)

從上個(gè)世界90年代起，人工智能就得到了學(xué)術(shù)屆的關(guān)注，然而在早些時(shí)候人工智能技術(shù)并沒(méi)有取得令人驚嘆的發(fā)展。隨著計(jì)算機(jī)技術(shù)的發(fā)展，一直到最近這些年，人工智能才在各個(gè)領(lǐng)域得到井噴式的發(fā)展。在圖像領(lǐng)域，自AlexNet在2012年被提出以來(lái)，卷積神經(jīng)網(wǎng)絡(luò)完善了在圖像領(lǐng)域大放異彩。在識(shí)別，檢測(cè)，分割等領(lǐng)域不僅取得了很好的學(xué)術(shù)成果，同時(shí)在實(shí)際應(yīng)用中可以提供可靠的性能。如在無(wú)人駕駛中，waymo無(wú)人車(chē)感知的核心模塊就是卷積神經(jīng)網(wǎng)絡(luò)，為無(wú)人車(chē)提供了類(lèi)似人類(lèi)的視野。在文本領(lǐng)域，谷歌提出的BERT模型同樣在多種任務(wù)上取得了超越人類(lèi)的能力。在其他領(lǐng)域，DeepMind發(fā)明的圍棋模型阿爾法狗戰(zhàn)勝了人類(lèi)圍棋最頂尖的選手。OpenAI在dota游戲中的人工智能組隊(duì)?wèi)?zhàn)勝了人類(lèi)中的職業(yè)玩家。

上述模型在取得成功的同時(shí)，無(wú)不以大量訓(xùn)練數(shù)據(jù)驅(qū)動(dòng)，廣泛分布的數(shù)據(jù)使得模型在執(zhí)行任務(wù)階段表現(xiàn)的出色。而在現(xiàn)實(shí)中，標(biāo)注大量數(shù)據(jù)需要耗費(fèi)較多人力物力，在某些特定領(lǐng)域，數(shù)據(jù)本身極難獲取，標(biāo)注同樣需要較為專(zhuān)業(yè)的知識(shí)。當(dāng)標(biāo)注的數(shù)據(jù)量受限，模型的性能立馬就會(huì)下降。因此，越來(lái)越多的研究關(guān)注于小樣本學(xué)習(xí)，小樣本學(xué)習(xí)是只使用少量的標(biāo)注數(shù)據(jù)也能取到較好的訓(xùn)練結(jié)果，將小樣本學(xué)習(xí)與圖像分類(lèi)相結(jié)合是當(dāng)前研究的一個(gè)重點(diǎn)。

在圖像分類(lèi)領(lǐng)域，首先需要提出單幅圖像的特征，然后使用分類(lèi)器對(duì)特征向量進(jìn)行分類(lèi)。卷積神經(jīng)網(wǎng)絡(luò)(CNN)，通過(guò)被用來(lái)提取圖像特征，CNN通過(guò)反向傳播算法來(lái)更新權(quán)重，經(jīng)過(guò)大量次迭代使模型獲得可靠的分類(lèi)能力。但是使用卷積神經(jīng)網(wǎng)絡(luò)的圖像分離嚴(yán)重依賴(lài)訓(xùn)練數(shù)據(jù)的數(shù)量以及多樣性，如果訓(xùn)練數(shù)據(jù)較少，且每個(gè)類(lèi)別的圖像幾乎相似，那么訓(xùn)練出來(lái)的模型泛化性能會(huì)很差，分類(lèi)結(jié)果往往不可靠。人類(lèi)卻可以通過(guò)極少量樣本的學(xué)習(xí)來(lái)識(shí)別一類(lèi)物體。例如人類(lèi)在識(shí)別貓的時(shí)候，不需要大量不同種類(lèi)貓的圖片數(shù)據(jù)來(lái)學(xué)習(xí)，僅憑少量幾張樣本或基于以往的經(jīng)驗(yàn)就可以識(shí)別出大量甚至是不同種類(lèi)的貓。在這種背景下，小樣本學(xué)習(xí)受到越來(lái)越多的關(guān)注，研究者們?cè)噲D通過(guò)更少量的樣本，學(xué)習(xí)出一個(gè)更智能泛化性能更好的模型。

小樣本學(xué)習(xí)旨在通過(guò)少量的被標(biāo)注樣本，學(xué)習(xí)到一個(gè)泛化性能較好，可以應(yīng)用多種場(chǎng)景。并且針對(duì)一個(gè)新任務(wù)，模型經(jīng)過(guò)少量次數(shù)的重新訓(xùn)練，就能獲得較高的性能。在以往的深度學(xué)習(xí)訓(xùn)練中，每當(dāng)遇到新數(shù)據(jù)就要重新訓(xùn)練，上一次的學(xué)習(xí)經(jīng)驗(yàn)并不能直接應(yīng)用于新的任務(wù)。然而重新訓(xùn)練通常需要花費(fèi)相當(dāng)長(zhǎng)的時(shí)間，尤其在數(shù)據(jù)比較少的情況下，模型經(jīng)常會(huì)過(guò)擬合。

發(fā)明內(nèi)容

本發(fā)明文提出一種基于元骨干網(wǎng)絡(luò)的小樣本圖像分類(lèi)方法，小樣本學(xué)習(xí)從更優(yōu)的學(xué)習(xí)過(guò)程，更好的泛化能力等方向出發(fā)，使訓(xùn)練后的模型在小樣本數(shù)據(jù)下表現(xiàn)較好。一個(gè)智能的模型應(yīng)當(dāng)像人類(lèi)一樣，能從小樣本中汲取經(jīng)驗(yàn)，并快速學(xué)習(xí)新任務(wù)。本文的研究重點(diǎn)就使通過(guò)小樣本數(shù)據(jù)，來(lái)訓(xùn)練一個(gè)泛化性能較好的模型，并且能快速適應(yīng)多種新任務(wù)。。

為實(shí)現(xiàn)上述目的，本發(fā)明提供了如下方案：

本發(fā)明公開(kāi)了一種基于元骨干網(wǎng)絡(luò)的小樣本圖像分類(lèi)方法，所述元骨干網(wǎng)絡(luò)包括訓(xùn)練集單元、特征器提取器單元、余弦分類(lèi)器單元、余弦分類(lèi)器權(quán)重生成器單元，包括以下步驟：

S1.初始化所述特征器提取器單元和余弦分類(lèi)器權(quán)重生成器單元的權(quán)重；

S2.根據(jù)原始圖像生成數(shù)據(jù)集，通過(guò)所述訓(xùn)練集單元，輸入外循環(huán)步驟；