[發(fā)明專利]一種用于模式分類的特征選擇方法

有效

• 申請?zhí)枺?/td>: 201310304574.3
• 申請日: 2013-07-19
• 公開（公告）號: CN103425994A
• 公開（公告）日: 2013-12-04
• 發(fā)明（設(shè)計(jì)）人: 曹蘇群;朱全銀;左曉明;高尚兵;陳曉峰;張虹;楊格蘭;陳召興
• 申請（專利權(quán)）人: 淮陰工學(xué)院
• 主分類號: G06K9/62
• 分類號: G06K9/62
• 代理公司: 南京天華專利代理有限責(zé)任公司 32218
• 代理人: 徐冬濤

1.一種用于模式分類的特征選擇方法，其特征在于：通過采用模糊Fisher準(zhǔn)則為目標(biāo)函數(shù)求得無監(jiān)督最佳鑒別矢量的基礎(chǔ)上，根據(jù)該矢量中每一維的值求得每個(gè)特征重要性權(quán)值，按照該權(quán)值大小進(jìn)行特征排序，通過給定閾值，選取特征子集，進(jìn)而實(shí)現(xiàn)數(shù)據(jù)降維；具體包括以下各步驟：

A、將原始數(shù)據(jù)轉(zhuǎn)換為N×d矩陣，其中N為樣本個(gè)數(shù)，d為特征維數(shù)；

B、給定閾值ε或迭代次數(shù)α，給定特征重要性閾值θ；

C、使用k-means算法初始化隸屬矩陣U=[μ_ij]_c×N以及聚類中心m=(m₁,m₂,...,m_c)，其中u_ij表示第j個(gè)樣本屬于第i類的程度，c為分割聚類數(shù)目，此處i、j為變量且取值區(qū)間分別為:[1，c]、[1，N]，設(shè)m為模糊指數(shù)且m>1；

D、使用以下公式分別計(jì)算模糊類內(nèi)散布矩陣S_fw、模糊類間散布矩陣S_fb：

Sfw=Σi=1cΣj=1Nuijm(xj-mi)(xj-mi)T]]>

Sfb=Σi=1cΣj=1Nuijm(mi-x‾)(mi-x‾)T]]>

其中隸屬度函數(shù)u_ij∈[0,1]且x_j為N維列向量，在樣本空間定義各類樣本均值向量記為m_i，為所有樣本均值，T表示矩陣轉(zhuǎn)置；

E、使用以下公式求得矩陣最大特征值λ對應(yīng)的模為1的特征向量ω：

Sfw-1Sfbω=λω]]>

該公式為求一般矩陣的特征值問題，其中λ取該矩陣的最大特征值，而ω為λ對應(yīng)的特征向量；

F、使用以下公式分別計(jì)算新的m_i和μ_ij：

mi=Σj=1Nuijm(xj-1λx‾)Σj=1Nuijm(1-1λ)]]>

其中m_i是局部解，

uij=(ωT(xj-mi)(xj-mi)Tω-1λωT(mi-x‾)(mi-x‾)Tω)-1m-1Σk=1c(ωT(xj-mk)(xj-mk)Tω-1λωT(mk-x‾)(mk-x‾)Tω)-1m-1]]>

其中k為變量且取值區(qū)間分別為：[1，c]，在模糊聚類中，通常限定u_ij∈[0,1]，因此對上式給出如下限定條件，若：

ωT(xj-mi)(xj-mi)Tω≤1λωT(mi-x‾)(mi-x‾)Tω]]>

則：u_ij=1且對所有i′≠i，有u_i′j=0；

G、使用以下公式計(jì)算J_FFC并將迭代次數(shù)自增1：

JFFC=ωTSfbωωTSfwω]]>

其中J_FFC為模糊Fisher準(zhǔn)則(Fuzzy?Fisher?Criterion)函數(shù)；

H、按照預(yù)先設(shè)定的條件進(jìn)行判斷，如預(yù)先設(shè)定的條件得到滿足，則轉(zhuǎn)到步驟I，否則返回步驟D；

I、使用以下公式計(jì)算各特征的重要性度量f_k，并將特征按照f_k降序排列：

fk=|ωk|Σk=1d|ωk|]]>

其中定義f_k為第k個(gè)特征重要性度量，設(shè)ω=(ω₁,ω₂,…ω_d)′；

J、在降序排列的特征中尋找前d_θ個(gè)特征作為降維后特征，使得且d_θ最小，從而實(shí)現(xiàn)降維，算法結(jié)束。