[發明專利]基于對抗融合多源遷移學習的圖像分類方法

有效

• 申請號: 202010521228.0
• 申請日: 2020-06-10
• 公開（公告）號: CN111738315B
• 公開（公告）日: 2022-08-12
• 發明（設計）人: 方敏;徐筱;杜輝;胡心鈺;李海翔;郭龍飛
• 申請（專利權）人: 西安電子科技大學
• 主分類號: G06V10/764
• 分類號: G06V10/764;G06V10/40;G06V10/82;G06N3/04;G06N3/08
• 代理公司: 陜西電子工業專利中心 61205
• 代理人: 王品華;黎漢華

本發明公開了一種基于對抗融合多源遷移學習的圖像分類方法，主要解決現有技術圖像分類準確率低的問題。其實現方案是：1)建立特征提取網絡，從原始圖像文件中提取圖像特征；2)將圖像特征輸入特定的域判別器及分類器，計算得到域判別損失及目標域數據的偽標記、源域數據的分類損失；3)利用目標域樣本偽標記與源域樣本標記，計算得到源域與目標域中所有類別的MMD距離之和；4)利用域判別損失、分類損失及MMD距離之和對特征提取網絡、域判別器及分類器進行訓練；5)將待測樣本依次輸入到訓練后的特征提取網絡、域判別器及分類器，輸出待測樣本的類別標記。本發明能有效提高各類圖像的分類準確率，可用于訓練數據標記缺失下的圖像分類。

技術領域

本發明屬于圖像識別領域，特別涉及一種圖像分類方法，可用于訓練數據標記缺失下的圖像分類。

背景技術

遷移學習是把在一個領域中學習到的知識、經驗“遷移”到另外一個不同但相關的領域，以提高模型的學習效率，而不用重新開始學。一般把待分類或待預測的領域稱為“目標域”；把有大量標記數據的輔助域稱為“源域”，二者是存在域差異的。利用遷移學習研究圖像分類問題在國內外已取得了顯著的成效。現有的遷移學習方法可分為基于樣本、基于特征和基于模型的方法。

受到博弈論中二人零和博弈的啟發，有學者提出生成式對抗網絡GAN，其包含一對互相對抗的模塊，分別是生成式模型和判別式模型，可簡稱為生成器和判別器。生成器可以生成數據，其原始輸入是隨機噪聲數據，目的是盡可能逼近真實數據；判別器的目的是盡可能的區分出生成數據和真實數據。

受GAN中對抗思想的啟發，有研究人員提出基于對抗思想進行遷移學習。在基于對抗思想的遷移學習方法中，生成器與GAN中生成樣本這一目標不同，其不再真正生成數據，而是對原始數據進行特征提取，使得判別器無法對兩個領域進行分辨，此時生成器可以稱為特征提取器。基于對抗的遷移學習核心思想是訓練兩個神經網絡：一個試圖區分源域和目標域特征的判別網絡，一個試圖迷惑判別網絡使其無法區分源域和目標域特征的特征提取網絡，基于這樣的領域對抗思想，特征提取器最終能夠提取到判別器無法區分的域不變特征，即可遷移特征，因此基于這種可遷移特征訓練的分類器可以直接用來分類目標域的數據。

多源遷移方法，是利用基分類器加權來進行多個源域的遷移，利用多個源域訓練得到的多個分類器對目標域數據進行預測，結果加權得到目標域數據的最終標記。如A-SVM方法提出了一個自適應的支持向量機模型，其利用多個源域分類器集成得到一個目標域的支持向量機分類模型，但是該方法認為所有源域分類器對目標域的貢獻相同，并未考慮到不同源域之間的差異。MultiSourceTrAdaBoost方法利用樣本加權的方式來對多個源域進行遷移，該方法在每個源域和目標域組合上學習一個分類器，然后計算多個弱分類器的分類誤差并進行權值更新。MultiSourceTrAdaBoost方法中源域樣本的權值更新策略類似于TrAdaBoost算法，目標域樣本的權值更新策略類似于AdaBoost算法，最終利用訓練好的加權分類器對目標域樣本預測。Sun等人提出兩級多源遷移學習方法，分別基于邊緣分布和條件分布進行加權，使得源域和目標域分布更相近。

隨著深度神經網絡和生成對抗網絡的發展，基于深度網絡的多源域適應方法近兩年也得到了國內外學者們的關注，如多源域對抗網絡MDAN，該方法使用對抗策略學習多個源域的具有域不變性和任務判別性的特征；Xu R等人提出把所有的源域和目標域數據映射到一個公共的特征空間，以學習可遷移的域不變特征。

上述方法雖能實現目標域數據標記缺失下的圖像分類工作，但其由于使用同一網絡對源域數據進行特征提取，導致源域數據喪失部分有效特征，影響最終分類效果。

發明內容

本發明的目的在于針對上述現有技術的不足，提出一種基于對抗融合多源遷移學習的圖像分類方法，以提高訓練數據標記缺失下的圖像分類準確率。

為實現上述目的，本發明的技術方案包括如下步驟：