[發明專利]一種基于小樣本學習的無標簽圖像分類方法

有效

• 申請號: 202110149704.5
• 申請日: 2021-02-03
• 公開（公告）號: CN112733965B
• 公開（公告）日: 2023-04-07
• 發明（設計）人: 劉龍;劉澤寧;黃西平
• 申請（專利權）人: 西安理工大學
• 主分類號: G06F18/241
• 分類號: G06F18/241;G06F16/51;G06T9/00;G06N3/04;G06N3/08;G06F18/22
• 代理公司: 西安弘理專利事務所 61214
• 代理人: 戴媛

本發明公開了一種基于小樣本學習的無標簽圖像分類方法，具體包括：1、利用隨機數據增強網絡S將輸入圖像集M變換產生兩個映射集構成注意力索引圖像集K，構成注意力權重圖像集Q；2、利用深度神經編碼器網絡f(·)、g(·)分別對Q、K進行編碼，f(·)學習權重圖像集Q的特征表示Rsubgt;Q/subgt;，g(·)學習索引圖像集K的特征表示；3、經過編碼器網絡的特征表示構成正索引對(Rsubgt;Q′/subgt;，)，以及一組負樣本通過相似度度量函數S(Rsubgt;Q/subgt;，Rsubgt;K/subgt;)，度量Rsubgt;Q′/subgt;與之間的相似程度；4、通過對比預測損失函數L訓練，提高Rsubgt;Q/subgt;與正索引的相似度，同時最小化Rsubgt;Q′/subgt;與負索引的相似度；5、針對C?way、K?shot任務，利用已訓練好的編碼器網絡，對權重圖片Q進行分類。本發明實現了對沒有大量標注數據甚至無標記數據的分類。

技術領域

本發明屬于遷移學習技術領域，涉及一種基于小樣本學習的無標簽圖像分類方法。

背景技術

隨著神經網絡的提出，特別是深度神經網絡的出現，在圖像識別、自然語言處理等方面大放異彩。憑借有標注的大數據和計算機強大的算力，深度神經網絡在模式識別等領域的表現已遠超人類。但是，依靠有標注數據驅動的深度神經網絡十分脆弱，其泛化水平極其低下。當深度神經網絡訓練好，用于解決特定圖像分類問題，其模型具有很高的性能，但當應用場景切換時，區別于訓練場合時，其性能大幅下降，甚至完全不可用，相較于人類“觸類旁通”和“聞一知十”的真正智能還存在著較大的缺陷。

為了解決目標領域只有少量甚至沒有標注樣本的極具挑戰性的學習問題，遷移學習作為一種新的學習范式引起了廣泛關注和研究。遷移學習主要解決當場景或任務轉換時學習系統如何快速調整以適應的問題。當把訓練好的模型應用在跨域并發生不可預見的場景改變時，遷移學習仍可以保障模型性能不會發生大幅下降，通過這種方式，遷移學習讓所學知識達到復用。同時，若系統能夠通過遷移學習不斷調整模型參數以適應新域，那么假設外部環境變換時，該系統則具有更強的魯棒性。

與上述介紹的遷移學習略有區別，在小樣本學習中，目標域通常具有更為少量的數據，這些數據包括有標簽和無標簽兩類情況。由于數據獲取和標記往往需要耗費大量時間、精力和成本，因此進一步降低數據及標簽限制尤為重要。但當數據量和標簽數大幅下降時，模型僅僅依據先前經驗做出正確分類的可能性極小。

發明內容

本發明的目的是提供一種基于小樣本學習的無標簽圖像分類方法，解決了現有技術中存在的給定訓練樣本數量較少且無標簽情況下對遷移模型性能的影響，導致訓練后圖像分類器分類正確率低下的問題。

本發明所采用的技術方案是，一種基于小樣本學習的無標簽圖像分類方法，其特征在于，具體按照以下步驟實施：

步驟1、利用隨機數據增強網絡S將給定輸入圖像集M變換產生兩個映射集構成注意力索引圖像集K，構成注意力權重圖像集Q；

步驟2、利用深度神經編碼器網絡f(·)、g(·)分別對圖像集Q、K進行編碼，f(·)學習權重圖像集Q的特征表示R_Q，g(·)學習索引圖像集K的特征表示R_K，將訓練好后的f(·)用于下游微調任務；

步驟3、經過編碼器網絡的特征表示構成正索引對以及一組負樣本通過相似度度量函數S(R_Q，R_K)，度量R_Q′與之間的相似程度；

步驟4、通過對比預測損失函數L訓練，提高R_Q與正索引的相似度，同時最小化R_Q′與負索引的相似度，當訓練樣本集M全部迭代完成，則訓練結束；

步驟5、在測試階段，針對C-way、K-shot任務，利用已訓練好的編碼器網絡，對權重圖片Q進行分類。

本發明的特點還在于：