[發明專利]一種基于局部線性回歸的流形學習泛化算法

有效

• 申請號: 201410288959.X
• 申請日: 2014-06-24
• 公開（公告）號: CN104050482B
• 公開（公告）日: 2017-06-13
• 發明（設計）人: 張淼;劉攀;賴鎮洲;沈毅
• 申請（專利權）人: 哈爾濱工業大學
• 主分類號: G06K9/62
• 分類號: G06K9/62
• 代理公司: 暫無信息
• 代理人: 暫無信息

技術領域

本發明屬于高光譜圖像數據降維技術領域，具體涉及一種流形學習的泛化算法。

背景技術

高光譜圖像能夠記錄地物豐富的光譜信息，這有利于準確精細對地物進行分類識別。但是高光譜數據波段數變大必然會造成信息冗余和數據處理的困難，帶來維數災難，這種現象給高光譜數據處理帶來了阻礙，因此消除高光譜數據的這種信息的冗余性成為了必須解決的問題。高光譜數據的這種冗余性主要是高光譜數據波段間的相關性造成的，降維是一種重要的預處理方法，利用低維數據來表達高維數據的特征，它能有效保留圖像信息，減少信息冗余。常見的高光譜圖像降維算法分為線性降維和非線性降維，盡管像PCA(Principal Component Analysis)和LDA(Linear Discriminant Analysis)這樣的線性降維算法實現簡單，但是因為高光譜圖像具有非線性特性，因此流形學習算法可以更好地挖掘高光譜數據的非線性結構，提高數據分析能力。經典的流形學習算法有LE(Laplacian Egenmap)、LLE(Locally Linear Embedding)和LTSA(Local Tangent Space Alignment)算法，可用于高光譜圖像的特征提取算法。但是經典非線性的流形學習算法大多無泛化能力，無法直接學習新的高光譜數據，必須和所有的舊數據一起學習才能夠獲得新的降維結果。

流形學習算法的泛化問題可以描述為：已知高光譜數據集X＝{x₁，x₂，...，x_N}∈R^D×N，N是樣本集個數，D是樣本集維數，x_j表示的第j個高光譜數據樣本，還已知某一種流形學習算法對X降維之后獲得的降維數據集Y＝{y₁，y₂，...，y_N}∈R^d×N，d是降維維數，y_j為x_j的降維結果，對于一個新的高光譜數據x_new∈R^D×1，求取x_new對應的降維結果y_new∈R^d×1。

為了使得流形學習具備泛化能力，目前已經有許學者做了許多嘗試。其中將非線性學習算法進行線性化、將非線性學習算法進行核拓展等都是常用的思路。然而線性化會改變原流形學習算法的降維結果，而核拓展則需要為每個特定的流形學習算法構造核函數。

發明內容

本發明的目的在于提出一種適用于任何一種流形學習算法、能夠保持原流形學習降維結果、基于局部線性回歸的流形學習泛化方法，使得不具備泛化能力的流形學習算法如LTSA、LLE、LE等經典流形學習算法獲得泛化能力，從而使得流形學習算法適用于高光譜圖像的降維處理過程。

本發明的目的是通過以下技術方案實現的：

分布在高維流形上的數據在一個很小的局部區域可近似看作分布在一個低維超平面上，在這個鄰域內，可假設高維數據和低維嵌入之間存在一個線性映射。因此，對于一個新的樣本點，首先在原始數據空間中尋找它的鄰域，然后在這個鄰域中構建一個從高維到低維的線性映射，最后通過線性映射實現對新樣本的泛化。

如圖1所示，本發明提供的基于局部線性回歸的流形學習泛化算法，其具體步驟如下：

步驟一、尋找領域：

對于一個新的數據樣本x_new，在高光譜數據集X中找到x_new的k個最近樣本點構成鄰域數據集D是樣本集維數，并獲得在降維數據集Y中對應的降維鄰域數據集d是降維維數，要求k≥d，R表示實數域。

計算x_new與X中第j個高光譜數據樣本的x_j的距離B(j)：

B(j)＝||x_j-x_new||₂ j＝1，2，...，N。

對距離向量B中的元素從小到大排序，取前k個最小的元素對應的數據樣本組成并在Y_old中找到對應的

步驟二、計算投影矩陣：

1)構建矩陣C：

其中，H_k為k維中心化算子，e_k＝[1，1，...1]^T∈R^k×1是長度為k的元素全為“1”的列向量，I_k為k×k的單位矩陣。