[發明專利]一種集“分類與聚類”為一體的模糊神經網絡算法

在審

• 申請號: 201710583337.3
• 申請日: 2017-07-17
• 公開（公告）號: CN107451655A
• 公開（公告）日: 2017-12-08
• 發明（設計）人: 胡靜
• 申請（專利權）人: 上海電機學院
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08;G06K9/62
• 代理公司: 上海申匯專利代理有限公司31001
• 代理人: 翁若瑩,吳小麗

技術領域

本發明涉及模式分類技術領域，尤其涉及一種集“分類與聚類”為一體的模糊神經網絡算法。

背景技術

在模式分類領域中，監督與非監督學習一直扮演著相當重要的角色。所謂監督學習，即作為訓練樣本的輸入數據都有著類別信息，被稱之為已標識樣本(labeled)；模式分類(Classification)的主要任務就是探索某個類與類之間的判定邊界，使得類別的誤分率最小化。而非監督學習方式正相反，作為訓練樣本的輸入數據沒有類別信息，被稱之為未標識樣本(unlabeled)；模式聚類(Clustering)的主要任務是根據某種相似性準則，將輸入模式劃分成若干個組(class)或者類(cluster)。

通常，這兩種學習方式被分開來研究與應用，例如，Simpson提出的模糊最小-最大神經網絡(Fuzzy Min-Max Neural Network)，簡稱FMM，就是一種既可以應用于模式分類，也可以用于模式聚類的模糊神經網絡。但它們都是分別應用于兩種不同的模式分類，一種稱為有監督學習，另一種稱為無監督學習，因為這兩種方法都實現簡單，并且效率較高，故這兩種方法得到了廣泛的研究。

Simpson提出的模糊最小-最大神經網絡FMM是一種采用超盒(hyperbox)隸屬度函數的模糊神經網絡，一個超盒就定義了n維模式空間中的一個區域，所有包含在超盒內的模式對該超盒都具有完全的隸屬度(membership)。一個超盒完全由它的最小點和最大點確定，且此最小-最大點對和這個超盒的隸屬度函數聯合起來定義了一個模糊集(即類別)。

下面詳細說明Simpson提出的模糊最小-最大神經網絡FMM的工作原理：

FMM主要采用超盒對模式空間進行劃分，一個超盒定義了n維模式空間的一個區域。所有包含在超盒中的模式具有相同的類別，一個超盒由它在模式空間的最小點和最大點共同表示，并且對應一個模糊隸屬度函數。(1)在分類問題中，表示相同類別的超盒模糊集合構成并表示一個類別的模糊集合；(2)在聚類問題中，超盒的最小點與最大點對，和這個超盒的隸屬度函數聯合起來定義了一個模糊集(即聚類)。

圖1所示為三維模式空間中的一個超盒C，從圖1中可以看出，它完全由一對最小點Min和最大點Max確定。雖然超盒的每一維分量都可以取任何范圍的值，但FMM中規定超盒每維分量的取值都在0和1之間。因此，模式空間將是一個三維的單位立方體。每個超盒模糊集的隸屬度函數都描述了樣本隸屬于該超盒的程度，且隸屬度取值范圍也在0到1之間。

假設B_j為第j個超盒模糊集，則定義B_j為如下有序集合：

B_j＝{X_h，V_j，W_j，b_j(X_h，V_j，W_j)} (1)

其中：h＝{1，2，...m}，m為設定的正整數；是第h個輸入模式，是低端點，是高端點。V_j是第h個輸入模式的最小點，W_j是第h個輸入模式的最大點，模糊隸屬度函數0≤b_j(X_h，V_j，W_j)≤1。隸屬度函數衡量了第h個輸入樣本X_h位于由最小點V_i和最大點W_j形成的超盒中的程度。在逐維比較的標準中，這一準則可以被看成是數據落在超盒最小-最大邊界之外的每維分量比該超盒最大(小)點的值大(小)多少。X_h越接近于超盒，0≤b_j(X_h，V_j，W_j)≤1就越接近于1。

FMM的學習方法就是一個擴張與壓縮超盒的過程，假設訓練集為X∈{X_h|h＝1，2，...，m}，其中，X_h＝(x_h1，x_h2，...x_hn)∈Iⁿ是第n個樣本。開始學習中選擇有序對并尋找離此樣本最近的超盒，如果超盒滿足擴張條件，則擴張該超盒以包含這個樣本；如果不能找到滿足擴張準則的超盒，則形成一個新的超盒并將其加入到系統中。這個遞增的過程允許多次修改已存在的超盒，同時，也可以避免新的超盒加入時的重新訓練。