[發(fā)明專利]基于神經模糊網絡的特征選擇方法

在審

• 申請?zhí)枺?/td>: 201510658528.2
• 申請日: 2015-10-12
• 公開（公告）號: CN105389599A
• 公開（公告）日: 2016-03-09
• 發(fā)明（設計）人: 胡靜
• 申請（專利權）人: 上海電機學院
• 主分類號: G06K9/66
• 分類號: G06K9/66;G06N3/08
• 代理公司: 上海思微知識產權代理事務所(普通合伙) 31237
• 代理人: 菅秀君

技術領域

本發(fā)明涉及模式識別技術領域，更具體地說，本發(fā)明涉及一種基于神經模糊網絡的特征選擇方法。

背景技術

特征選擇是模式識別等技術的關鍵問題。近年來，將人工神經網絡用于特征選擇是一個熱點問題。通過具有良好學習性能的人工神經網絡，可以推斷出各個特征或特征子集的重要程度，但也存在一些問題。

在特征選擇領域，大部分基于人工神經網絡的特征選擇可以看作是網絡剪枝算法的一個特例，不同的是被剪除的是輸入節(jié)點，而不是隱層節(jié)點或權值。目前廣泛應用的方法是利用剪枝前后網絡輸出之間的變化量作為被剪枝特征重要性的度量，這種方法也可以稱為特征顯著性度量法。一般都假設對于一個學習良好的網絡，一個特征的重要程度越低，它對網絡的輸出影響就越小。

目前主要用于特征顯著性度量的神經網絡類型分為兩大類，一類是基于多層感知器的多層前向網絡，如Ruck教授提出的一種基于多層感知器的特征選擇算法，定義了一種特征顯著性度量方法，即通過計算網絡的輸出相對于網絡輸入的變化率來衡量特征的重要程度；R.K.De教授在此基礎上，提出了另一種方法，即首先取數(shù)據(jù)的最小值和最大值進行歸一化，然后再通過計算網絡的輸出相對于網絡輸入的變化率來衡量特征的重要程度。

另一大類就是模糊神經網絡，如MK.Jia教授提出利用隸屬度函數(shù)將數(shù)據(jù)從原始特征空間映射到隸屬度空間，并在隸屬度的意義上進行網絡剪枝和計算網絡對某特征的敏感性。D.Chakraborty教授利用前一種方法設計了基于模糊規(guī)則神經模糊網絡，可以同時進行特征選擇和分類。該網絡共有4層，分3個階段來訓練，其中第2個階段完成特征選擇，而隸屬度函數(shù)調整則在最后階段完成，也就是說，在隸屬度函數(shù)學習之前特征選擇已經完成了。

上述方法都是以人工神經網絡為基礎來進行特征選擇的。第一大類主要是基于多層感知器的特征選擇為主。雖然對特征選擇而言取得了一些較好的分類效果，但這種簡單的方法對于某些特殊分布的數(shù)據(jù)，其結果不能反映出真實情況。如果事先對數(shù)據(jù)進行歸一化處理，盡管能保證某些不變性，比如位移和縮放的不變，但可能會喪失其它不變性，比如旋轉性，并且可能丟失一些對于分類具有重要作用的信息。第二大類方法是基于模糊邏輯與人工神經網絡的，雖然避免了由于數(shù)據(jù)的歸一化而使得一些重要特征丟失問題，對特殊分布數(shù)據(jù)也能反映出一定的真實性。但是，由于其隸屬度函數(shù)的定義實際上是在網絡學習之前完成的，所以隸屬度映射仍然可能造成映射后的數(shù)據(jù)失真。D.Chakraborty教授提出的四層結構網絡，第2個階段就完成特征選擇，而隸屬度函數(shù)調整則在最后階段完成，也就是說，在隸屬度函數(shù)學習之前特征選擇已經完成了。所以，特征選擇的結果將會嚴重依賴于隸屬度函數(shù)的初始值。

發(fā)明內容

本發(fā)明所要解決的技術問題是針對現(xiàn)有技術中存在上述缺陷，提供一種基于神經模糊網絡的特征選擇方法；其中本發(fā)明的神經模糊網絡目的在于，特征選擇是在整個網絡學習完成后，即隸屬度自學習完成后進行的，避免了特征結果依賴于隸屬度函數(shù)參數(shù)初始值的問題。此外，模糊隸屬度函數(shù)是通過自學習完成的，避免了由于數(shù)據(jù)歸一化帶來的重要特征丟失的問題。并且，還定義了一種新的特征度量方法，使得剪枝過程是在模糊神經網絡的映射層進行，而不是在輸入層進行。該方法容易和其他搜索算法結合起來組成一個完整的模式分類系統(tǒng)。

為了實現(xiàn)上述技術目的，根據(jù)本發(fā)明，提供了一種基于神經模糊網絡的特征選擇方法，包括：

第一步驟：基于χ訓練神經模糊網絡，調整模糊隸屬度函數(shù)的參數(shù)以得到隸屬度函數(shù)集：