[發明專利]一種基于投影與支持向量機的多類分類方法

在審

• 申請號: 201611189741.4
• 申請日: 2016-12-21
• 公開（公告）號: CN106778875A
• 公開（公告）日: 2017-05-31
• 發明（設計）人: 羅秋鳳;張銳;吳武斌;陳喆
• 申請（專利權）人: 南京航空航天大學
• 主分類號: G06K9/62
• 分類號: G06K9/62
• 代理公司: 江蘇圣典律師事務所32237
• 代理人: 賀翔,劉輝

技術領域

本發明涉及一種支持向量機(SVM)一對一的多類分類方法，具體是一種基于投影與支持向量機的多類分類方法。

背景技術

支持向量機最初是為解決二分類問題設計的，針對實際應用中的多個模式分類，主要使用一對多、一對一兩種多類分類方法。一對多的分類方法，是在m個類別的數據集上訓練m個子分類器，每個子分類器分別以第i類和其余類別來構建SVM分類器，以待分樣本點在各分類器上的取值大小，確定樣本的歸屬類別；一對一的分類方法，是在m個類別兩兩之間建立m(m-1)/2個子分類器，依據各分類器的投票多少，確定待分樣本的歸屬類別。

采用一對多、一對一兩種支持向量機分類器，對某些故障類型進行診斷識別，有時會發生不可識別區域的決策盲區問題。比如，為提高某型無人機任務執行的精準性和飛行安全性，在TMS320F28335的硬件平臺上，基于支持向量機(SVM)的機器算法，構建了陀螺儀故障在線診斷裝置。偏置故障、卡死故障、漂移故障、乘性故障為四種常見的四種常見的陀螺儀故障類型，陀螺儀故障在線診斷裝置分別采用以上兩種方法對四種故障類型進行診斷識別，有時就會發生不可識別區域的決策盲區問題。在其他應用場合也存在類似問題。

中國發明專利CN103839071A公開了一種基于模糊支持向量機的多分類方法(簡稱模糊決策法)，對多分類方法產生的決策盲區，基于模糊技術計算樣本的隸屬度，依據隸屬度大小來判別樣本的歸屬類別。模糊技術在處理噪聲或孤立點樣本的分類問題時分類效果明顯。但決策盲區通常是一個很小的區域，此區域內樣本距離各類的分類面都很近，各樣本歸屬度的經驗分界值極不易確定，易產生誤判。

中國期刊論文《改進的一對一支持向量機多分類算法》(簡稱KNN緊密度法)(《計算機工程與設計》，vol33(5)，1837-1841，2012)描述了一種基于樣本到類中心間歐氏距離，和樣本到樣本間歐氏距離的KNN(k nearest neighbor)方法方式構建判別函數確定類別的歸屬方法。其解決決策盲區的方法是基于類間歐氏距離表征樣本間相似度的方法，屬弱分類器型的決策方案，影響了診斷精度；待分樣本與類中心、樣本間間歐氏距離的大計算量，又難以滿足工程應用中故障識別的實時性問題。

發明內容

本發明要解決的技術問題是提供一種基于投影與支持向量機的多類分類方法，該分類方法能夠在提高樣本分類準確率的同時，盡可能地縮短分類器的決策時間，并且完全消除決策盲區。

為實現上述發明目的，本發明采用以下技術方案：首先基于支持向量機強分類器機制，一對一的多個二分類器對待分樣本進行投票，統計待分樣本在各類別分類器的得票數，當最高得票類別數唯一時，待分樣本類別確定；當且僅當最高得票類別數等于參與投票類別數時，計算待分樣本與支持向量集中心間的向量到待分樣本與類別中心間向量的投影，淘汰投影最大的一個最高得票數類別，縮小據識區域。然后繼續在剩下的最高得票數類別間回溯采用一對一的二分類器投票甄別機制，識別待分樣本類別，直至決策盲區消失；當最高得票類別數小于參與投票類別數時，繼續在最高得票數類別間回溯采用一對一的二分類器投票甄別機制。

具體來講，一種基于投影與支持向量機的多類分類方法，包括以下步驟：

1)兩兩類別間構建一對一支持向量機分類器，待分樣本輸入到分類器，使用一對一支持向量機分類器方法對待分樣本進行分類，累計各類別的得票數。

2)統計各類別的得票數，求取最高得票數和最高得票的類別數，比較最高得票的類別數與參與投票的類別數之間的大小。

3)如果最高得票數的類別數與參與投票的類別數相同，進行如下步驟：

311)計算待分樣本與對應類別支持向量集中心間的向量到待分樣本與類別中心間向量的投影；

312)比較各投影值大小，淘汰投影值最大的類別；

313)重新初始化各參數：各類別的得票數賦值0，參與投票的類別數減1；

314)將待分樣本輸入到剩下的最高得票類別間兩兩組成的一對一支持向量機分類器中進行再次投票，再轉入步驟2)。

如果最高得票的類別數不唯一且小于參與投票的類別數，進行如下步驟：

321)重新初始化各參數：各類別的得票數賦值0，參與投票的類別數賦值為得票數最高的類別數；

322)最高得票的類別間兩兩組成一對一支持向量機分類器，繼續將待分樣本輸入到剛組成的一對一支持向量機分類器進行再次投票。然后轉入步驟2)。

如果，最高投票數唯一，終止判別，得票數最高的類即為待分樣本的歸屬類別。