[發明專利]一種基于最大化比率和線性判別分析的數據降維方法

在審

• 申請號: 202110216054.1
• 申請日: 2021-02-26
• 公開（公告）號: CN112836671A
• 公開（公告）日: 2021-05-25
• 發明（設計）人: 王靖宇;王紅梅;聶飛平;李學龍
• 申請（專利權）人: 西北工業大學
• 主分類號: G06K9/00
• 分類號: G06K9/00;G06K9/62
• 代理公司: 西北工業大學專利中心 61204
• 代理人: 劉新瓊

本發明涉及一種基于最大化比率和線性判別分析的數據降維方法，屬于圖像分類與模式識別領域。包括構建數據矩陣、標簽向量和標簽矩陣；計算類內協方差矩陣和類間協方差矩陣；構建基于最大化比率和的線性判別分析的優化問題；采用交替優化迭代算法求解能夠最大化目標函數的投影矩陣。本發明建立了基于最大化比率和的線性判別分析方法的目標函數，避免了傳統線性判別分析傾向于選擇小方差、鑒別能力弱的特征的問題，能夠選擇更有利于分類的特征。不依賴類內協方差矩陣的逆矩陣的計算，不需要進行數據預處理，提高了數據降維方法對原始數據特征的適應性。

技術領域

本發明屬于圖像分類與模式識別領域，具體涉及一種基于最大化比率和線性判別分析的數據降維方法。

背景技術

數據降維技術是圖像分類和模式識別領域的一個重要的研究課題。在大數據背景下，在實際應用場景中直接獲取的原始數據量是巨大的，這些數據的高維度和高冗余對數據存儲和數據處理造成了極大的困難，并且提高了對數據存儲和處理的硬件平臺的要求。數據降維是對原始高維數據進行降維處理，在保證降維后的數據仍然保留原始數據包含的大部分信息的同時，盡可能降低數據的維度，以提高數據存儲和處理效率，降低對硬件和后續數據處理算法的要求。由于數據降維能減少數據維度和需要的存儲空間，節約模型訓練計算時間，提高后面應用算法的準確度，數據降維技術已經被廣泛應用于人臉識別、高光譜圖像分類、中草藥分類的等實際應用場景的前期數據處理中。

目前的數據降維方法包括特征選擇和特征提取兩類，特征選擇方法是從原始高維數據中直接選擇關鍵特征，特征提取是將現有特征投影到新空間形成新特征。前者有利于保留數據的物理意義，而后者獲得的新特征難以解釋，但是特征選擇的效果相對于特征提取略遜一籌。線性判別分析時特征提取的常用方法，它能夠很好地保留數據的判別信息，常用于數據分類的預處理步驟。但是傳統的線性判別分析的降維后數據維度不能高于或等于數據的總類別數，并且在求解過程中容易由于矩陣的非奇異性導致不可求解。

圖像分類的原始數據特征往往是高維度的，過高的維度反而可能導致分類精度降低，并且原始數據含有冗余信息，將其直接用于分類工作會導致數據處理速度慢、分類精度低等問題。隨著高光譜技術的發展，高光譜成像已經廣泛應用于地物分類，如何對高維度的高光譜數據進行降維，進而降低數據存儲處理成本、提取數據的關鍵特征和類別信息，具有重大的實際意義。

楊明莉，范玉剛，李寶蕓(《基于LDA和ELM的高光譜圖像降維與分類方法研究》,電子測量與儀器學報,2020,34(05):190-196.)采用線性判別分析對高光譜圖像數據進行降維，然后采用極限學習機進行分類。線性判別分析通過學習一個投影矩陣將原始數據從高維空間投影到低維空間，使子空間內的同類樣本的相似性更高，不同類別的樣本的區別更大。因此線性判別分析能夠較好地降低數據維度，并且強化類別特征，進而使最終的高光譜圖像地物分類的速度提高、分類精度提高。

但是采用傳統的線性判別分析方法趨向于選擇方差小的特征，這些特征難以有效區分類別，并且傳統線性判別分析在求解過程中需要對類內協方差矩陣求逆，但是很多時候該矩陣是奇異的，此時該方法失效，不能進行對高光圖像進行數據降維。通常情況下，傳統的線性判別分析必須通過預處理保證類內協方差矩陣的奇異性，才能實現高維數據的降維，從而導致數據處理流程復雜以及預處理算法和數據降維算法相互影響的問題。

發明內容

要解決的技術問題

針對已經提出的傳統線性判別分析趨向于選擇方差小且判別力低的特征，并且優化問題的求解依賴于可逆的類內協方差矩陣的問題，本發明提出了一種基于最大化比率和線性判別分析的數據降維方法；由于降維方法的不完善導致在圖像分類方法中的效率低和準確率不高的問題，本發明提出了一種高光譜圖像的地物分類方法。

技術方案

一種基于最大化比率和線性判別分析的數據降維方法，其特征在于步驟如下：