[發明專利]一種基于遷移互學習的小樣本電力設備圖像分類方法

有效

• 申請號: 202210348529.7
• 申請日: 2022-04-01
• 公開（公告）號: CN114580571B
• 公開（公告）日: 2023-05-23
• 發明（設計）人: 周伯俊;顧菊平;張新松;程天宇;華亮;徐一鳴;趙鳳申;趙佳皓;蔣凌;言淳愷
• 申請（專利權）人: 南通大學
• 主分類號: G06V10/764
• 分類號: G06V10/764;G06N3/045;G06N3/047;G06N3/08;G06V10/82
• 代理公司: 暫無信息
• 代理人: 暫無信息

本發明涉及小樣本圖像分類技術領域，尤其涉及一種基于遷移互學習的小樣本電力設備圖像分類方法，具體包括以下步驟：首先通過旋轉、裁剪等方法增強數據集；然后構造兩個具有交叉熵損失和自監督損失的互學習小樣本遷移模型，同時兩個模型的輸出相互為另一模型提供互信息損失；最后固定訓練好的其中一個模型的主干網絡作為特征提取器與新的分類器結合，對新的電力設備類別的圖像樣本進行分類預測。本發明能夠通過兩個模型互學習的方式提高主干網絡模型特征提取能力，訓練后的主干網絡可以與多種新的分類器相結合完成對未可見類別樣本的分類決策；同時，本發明只需要少量圖像數據，即可訓練出高精度的分類模型，非常適用于電力設備巡檢場景。

技術領域

本發明涉及小樣本圖像分類技術領域，尤其涉及一種基于遷移互學習的小樣本電力設備圖像分類方法。

背景技術

近年來，深度學習技術在諸如圖像分類、目標檢測和語義分割等計算機視覺任務中取得突破性發展。然而，在訓練樣本數目非常少的情況下，深度學習模型往往出現過擬合，其性能遠遠不能令人滿意。相比之下，人類視覺只需要少量示例樣本就能識別大量物體，并且具有快速理解新概念并將其泛化的能力。在這種強大學習能力的啟發下，小樣本學習逐漸成為計算機視覺和機器學習領域中的研究熱點。

為了保證電力設備的安全可靠運行，電力公司需要對電力設備進行定期巡檢。為了減輕人工巡檢工作量，電力行業目前已投入大量智能巡檢設備，通過人工智能圖像處理算法代替人工完成設備巡檢。

圖像分類任務是電力設備智能巡檢的重要一環。傳統的人工智能算法需要大量的數據才能訓練出較高分類精度的模型。由于電力設備的安全性和敏感性等原因，傳統技術很難獲得大量的電力設備圖像。因此如何通過有限的圖像數據集訓練出高效的人工智能模型是目前電力設備圖像分類的一大挑戰。

目前，基于遷移學習的小樣本圖像分類方法雖然能夠解決訓練樣本不足的問題，但是研究中發現遷移模型在訓練過程中仍然存在過擬合現象。為了進一步提高小樣本圖像分類的性能，尋求一種具有較好泛化性能且適用于電力設備巡檢場景的圖像分類算法，顯得尤為重要。

發明內容

本發明的目的是為了解決現有技術中存在的缺點，而提出的一種基于遷移互學習的小樣本電力設備圖像分類方法，該方法能夠通過兩個模型互學習的方式提高主干網絡模型特征提取能力，最后遷移至新的分類器，完成對未可見類別的樣本的分類決策；同時，該方法只需要少量圖像數據，即可訓練出高精度的分類模型，非常適用于電力設備巡檢場景。

為了實現上述目的，本發明采用了如下技術方案：

一種基于遷移互學習的小樣本電力設備圖像分類方法，具體步驟如下：

步驟1、對輸入電力設備圖像數據進行裁剪、旋轉擴充預處理；

步驟2、構建兩個互學習的小樣本遷移模型T₁和T₂，模型T₁通過參數為θ1的主干網絡提取電力設備圖像特征，通過參數為的基類分類器進行基類標簽預測，通過參數為τ1的旋轉分類器進行旋轉標簽預測；同樣地，對于模型T₂，其主干網絡、基類分類器以及旋轉分類器的參數分別為θ2，τ2；

步驟3、將預處理后的電力圖像樣本輸入到模型T₁和T₂中，經過主干網絡提取得到d維的特征張量，然后將特征張量傳入基類分類器與旋轉分類器得到基類分類值和旋轉分類值；

步驟4、將T₁和T₂模型同時進行預訓練，計算每個模型對應的交叉熵損失函數L_CE和自監督損失函數L_SSL以及它們之間的互信息損失函數L_KD，從而得到總的損失函數，并基于總損失函數計算梯度分別對T₁和T₂中的參數進行優化從而完成預訓練過程；