[發明專利]一種基于特征篩選的深度學習分類方法

在審

• 申請號: 202011288159.X
• 申請日: 2020-11-17
• 公開（公告）號: CN112434732A
• 公開（公告）日: 2021-03-02
• 發明（設計）人: 杜少毅;王娟;龍紅;韓泓丞;楊靜;崔文婷
• 申請（專利權）人: 西安交通大學
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08;G06N20/00
• 代理公司: 西安通大專利代理有限責任公司 61200
• 代理人: 王艾華

本發明公開一種基于特征篩選的深度學習分類方法，使用本發明中提出的基于特征篩選的深度學習分類方法在數據集進行訓練與測試可得到精確的圖像分類模型。本發明可以高效的完成對圖像的精確分類，在特征與目標之間存在嚴重的過擬合，冗余以及噪聲多等情況下，可以通過特征篩選的方法減少特征數量(降維)，從而提高模型泛化能力以獲得更高的分類精度。在圖像分類任務中，數據和特征決定了機器學習的上限，而模型和算法只是逼近這個上限而已。由此可見，特征工程在機器學習中占有相當重要的地位。可以實現對輸入數據所屬類別進行預測，因而廣泛應用于安防領域，交通領域的交通場景物體識別、車輛計數、車牌識別，以及互聯網和生物醫學圖像分析領域。

技術領域

本發明屬于計算機圖像處理領域，具體涉及基于深度卷積神經網絡的圖像分類技術，機器學習分類算法以及特征篩選方法。

背景技術

計算機視覺是一個專注于幫助計算機理解圖片和視頻的研究領域，理解數字圖像的內容包括從圖像中提取描述，該描述可能是圖像中的物體、文本描述、三維模型等。在抽象層面上，計算機視覺的目標是使用觀察到的圖像數據來推斷有關世界的事物。它是一個多學科領域，包括計算機科學(圖形、算法、理論、系統、體系結構)，數學(信息檢索、機器學習)，工程學(機器人、語音、自然語言處理、圖像處理)，物理學(光學)，生物學(神經科學)和心理學(認知科學)等等，廣義上可以稱為人工智能和機器學習的子領域，但是往往涉及使用專門的算法。計算機視覺四大基本任務:分類、定位、檢測、分割。其中分類是計算機視覺中最基礎的任務,給定一張輸入圖像，圖像分類任務旨在判斷該圖像所屬類別。但是，視覺任務一個最主要的不足就是對于圖像質量的要求比較嚴格。視覺技術獲取的圖像信息帶有較多噪聲，給分類算法精度帶來極大的挑戰。與此同時基于深度學習的分類方法，通過有監督或無監督的方式學習層次化的的特征，取代了傳統手工設計或選擇圖像特征的工作，深度學習模型中的卷積神經網絡已經在圖像領域取得了驚人的成績，卷積神經網絡利用圖像像素信息作為輸入，最大程度上保留了輸入圖像的所有信息，通過卷積池化操作進行特征提取，全連接層將各部分特征匯總、產生分類器、最后進行預測識別。這種端到端的學習方法取得了非常好的效果，得到了廣泛的應用。而特征選擇對于數據科學家、機器學習從業者來說非常重要。好的特征選擇能夠提升模型的性能，更能幫助我們理解數據的特點、底層結構，這對進一步改善模型、算法都有著重要作用。

發明內容

本發明的目的在于提供一種基于特征篩選的深度學習分類方法。

為達到上述目的，本發明采用了以下技術方案。

該圖像分類方法包括以下步驟：

首先收集數據，對數據集進行預處理，然后分別訓練多個卷積神經網絡的分類模型，使每個網絡分類效果達到最優；然后選出分類效果最好的模型，提取全連接層的特征，使用特征篩選的原則對其進行篩選得到新的特征子集；最后在該特征子集上使用機器學習的分類算法得到更加精確的分類結果。

所述圖像分類方法具體包括以下步驟：

1)首先收集數據集，然后對得到的數據集進行預處理，包括轉換原始數據格式、裁切數據的感興趣區域，并對數據進行旋轉，鏡像，裁切，平移，歸一化等操作，然后對數據集進行獨立同分布采樣，將數據集劃分為訓練集，驗證集和測試集；

2)利用收集數據集分別在多個深度卷積神經網絡，如Xception，ResNet，DensNet，GooLeNet等中進行網絡模型的訓練，使每個模型得到最優結果；

3)將步驟2)獲得的具有最優結果的模型進行保存，使用本發明所提出的特征篩選的方法對網絡模型全連接層輸出的特征向量進行篩選，從而得到與目標類別相關性較高的特征；

4)根據步驟3)得到新的特征子集，在特征子集上采用機器學習的分類算法如支持向量機，決策樹以及邏輯回歸等實現類別預測。

所述步驟2)包括以下具體步驟：