[發明專利]一種稀疏表示下支持向量機核函數選擇方法及其應用

在審

• 申請號: 201410791173.X
• 申請日: 2014-12-18
• 公開（公告）號: CN104462019A
• 公開（公告）日: 2015-03-25
• 發明（設計）人: 梁禮明;鐘震;楊國亮;馮新剛;林元璋;袁曉
• 申請（專利權）人: 江西理工大學
• 主分類號: G06F17/15
• 分類號: G06F17/15;G06K9/62
• 代理公司: 贛州凌云專利事務所 36116
• 代理人: 曾上;盧和炳

技術領域

本發明將稀疏表示理論應用于支持向量機核函數選擇，是一種支持向量機核函數選擇的新方法及應用。

背景技術

支持向量機(Support?Vector?Machine，SVM)是20世紀90年代Vapnik基于統計學習理論提出的一種新的機器學習方法。SVM是一種基于核的學習方法，核函數選取對支持向量機性能有著重要的影響，如何有效地進行核函數選擇是SVM研究領域的一個重要問題。由于不同核函數蘊藏的幾何度量特征各異，選擇不同的核函數導致SVM泛化能力存在差異。所以，針對具體實際問題,選擇什么樣的核函數是至關重要的，也是SVM應用領域遇到的一個重大難題。傳統的SVM核函數選擇的方法是人為指定，導致存在很大的局限性和盲目性。因此，研究開發一種能兼顧不同核函數的度量特征，充分利用給定具體問題的樣本先驗信息，且具有通用性的核函數選擇方法是SVM應用領域的研究熱點。

發明內容

本發明的目的是提供一種稀疏表示下支持向量機核函數選擇方法及其應用，克服支持向量機應用過程中核函數選擇的盲目性，從樣本先驗信息出發，運用稀疏表示理論構建一種有監督的SVM核函數選擇機制，完善SVM核函數選擇方法，有助于SVM學習能力和泛化能力的提高。

本發明的技術方案：一種稀疏表示下支持向量機核函數選擇方法，包括如下步驟：

步驟1..輸入樣本數據其中Rⁿ為n維數據空間，l為樣本數，對X進行變換使數據的范數小于1；

步驟2..選取與構造滿足Mercer條件的不同核函數，建立完備的SVM核函數稀疏字典；

所述的稀疏字典可以涵蓋不同類型的SVM核函數或同一類型但參數不同的核函數的SVM核函數，以及不同類型的SVM核函數組合形式，即此稀疏字典需具備通用性和完備性；

步驟3..利用稀疏表示理論求得樣本數據在稀疏字典下的稀疏編碼；

①稀疏表示：

對于M維的空間F，空間里的任意一個X∈F，都可以通過一組的線性組合來表示，其展開式如下：

其中Φ＝[φ₁φ₂Λφ_M]為M個SVM核函數構成的矩陣，稱為字典；目標是找到一個使得式(1)成立的同時，其中非0元素的個數盡可能的少，具有較好的稀疏性，為稀疏編碼；

②稀疏編碼的優化模型如下：

minΦ,φ||X-Φφ||F2+α||φ||1]]>

s.t.Σi=1dΦi,j2≤1,∀j---(2)]]>

所述的稀疏表示的稀疏性是通過將系數矩陣的l₁范數作為正則項來保證的；

當稀疏字典Ф完備時，即Ф為固定的，此時模型(2)轉化為以下無約束最小二乘問題