[發明專利]一種基于數據全局-局部結構保持投影的數據降維方法

無效

• 申請號: 201310567890.X
• 申請日: 2013-11-13
• 公開（公告）號: CN103605889A
• 公開（公告）日: 2014-02-26
• 發明（設計）人: 羅利佳;包士毅;高增梁
• 申請（專利權）人: 浙江工業大學
• 主分類號: G06F19/00
• 分類號: G06F19/00
• 代理公司: 杭州天正專利事務所有限公司 33201
• 代理人: 王兵;黃美娟

技術領域

本發明涉及機器學習、模式識別和人工智能領域，具體涉及一種基于數據全局-局部結構保持投影的數據降維方法。

背景技術

當今，受益于信息技術的迅猛發展，數據獲取和存儲變得相對容易，科學研究、工程應用、社會生活的各個領域每時每刻都在快速地產生著海量的數據。這些數據呈現出多樣化、大規模、高維度等特征，其中雖蘊含了內容豐富的規律與信息，但它們往往被大量的冗余數據所掩蓋，難以直觀觀察得到。如何有效地從高維海量數據中提取出有用的特征信息或規律，成為當今信息科學與技術所面臨的基本問題。

目前，數據降維是處理高維數據最有效的手段，己被廣泛用于解決實際應用中的信息處理問題。數據降維的基本思想是通過將高維數據投影至一個低維空間，去除原數據中的冗余信息，得到原數據特征在低維空間中的等價表示，從而在低維空間更高效、準確地開展數據分析，探知數據的本質規律。數據降維旨在挖掘隱藏在高維數據背后的本質特征，幫助我們更深入地理解數據特征和總結數據規律。數據降維的關鍵在于找到一個合適的投影，使得投影到低維空間的數據盡可能等價地描述原數據的基本特征。

在過去幾十年間，許多數據降維方法被提出，其中代表性方法包括：主成分分析（PCA，principal?component?analysis）、獨立成分分析（ICA，independent?component?analysis）、線性判別分析（LDA，linear?discriminant?analysis）、局部線性嵌入（LLE，locally?linear?embedding）、局部保持投影（LPP，locality?preserving?projections）等。這些方法大致可劃分為兩大類：全局性降維方法和基于流形學習的局部性降維方法，分別以PCA和LPP為典型代表。全局性降維方法僅關注了數據的全局結構信息（方差信息），而沒有考慮數據的局部結構信息（數據點之間的拓撲關系），容易導致降維過程中數據局部特征的丟失。與全局性降維方法相反，基于流形學習的局部性降維方法雖能很好地保持數據的局部結構信息，但由于對數據全局結構特征的保持沒有給出明確的約束，降維后可能會破壞數據的全局特征，造成數據信息的丟失。

數據的結構包含全局結構和局部結構兩部分內容，全局結構描述了數據的外部整體特征，而局部結構則反映了數據的內在組織方式，二者都包含了重要的數據信息，缺一不可。因此，在實施數據降維和特征提取時應對兩者進行綜合考慮，使得降維后的數據不僅具有與原始數據相似的整體結構，而且具有相似的局部結構。但現有的絕大多數據降維方法，不論是全局性降維方法還是局部性降維方法，都只考慮了其中一個方面，因而降維后的數據難以完整、準確地反映原數據的特征，易造成數據特征信息的丟失和誤讀，嚴重影響數據降維和特征提取的效果。

發明內容

為了克服現有數據降維方法僅關注數據全局或局部特征、易造成數據特征信息丟失的缺陷，本發明提供一種能同時挖掘數據全局和局部特征、降維效果良好的基于數據全局-局部結構保持投影（GLSPP，global-local?structure?preserving?projections）的數據降維方法。

本發明所采用的技術方案包括如下步驟：

（1）選擇n個m維數據樣本{x₁,x₂,…,x_i,…,x_n}，建立樣本集X=[x₁,x₂,…,x_n]∈R^m×n，并將其標準化為具有零均值和單位方差的數據，然后計算各樣本對(x_i,x_j)之間的距離d(x_i,x_j)；

（2）劃分各樣本點x_i的鄰域Ω(x_i)，得到其近鄰點和非近鄰點；

（3）根據各樣本對(x_i,x_j)之間的鄰接和非鄰接關系，分別求取權值w_ij和建立樣本集X的鄰接權矩陣W和非鄰接權矩陣

（4）利用鄰接權矩陣W和非鄰接權矩陣分別建立對應于數據局部結構保持和全局結構保持的目標函數J_Local(a)和J_Global(a)，構造優化問題；