[發明專利]一種基于分形理論的支持向量機核函數選擇方法及其應用

在審

• 申請號: 201810095926.1
• 申請日: 2018-01-31
• 公開（公告）號: CN108256586A
• 公開（公告）日: 2018-07-06
• 發明（設計）人: 梁禮明;陳明理;吳健;楊國亮;翁發祿
• 申請（專利權）人: 江西理工大學
• 主分類號: G06K9/62
• 分類號: G06K9/62
• 代理公司: 贛州凌云專利事務所 36116
• 代理人: 曾上

本發明涉及一種基于分形理論的支持向量機核函數選擇方法及其應用，這是一種有指導性的SVM核函數選擇方法，能夠針對具體問題有效地選擇合適的核函數，克服了現有的SVM模型選擇方法中人為指定核函數類型而導致模型不能達到最優性能的缺陷，并具有實施預測準確率高，運算速度快、非常適合實時在線SVM模型預測控制場所。

技術領域

本發明將分形理論應用于支持向量機核函數選擇，是一種支持向量機核函數選擇的新方法及應用。

背景技術

核方法(Kernel Method，KM)是基于核的機器學習方法的總稱，它在處理非線性分類問題時，通過變換將輸入空間映射到高維空間(特征空間)，利用這種方法間接地實現復雜問題的分類，此變換以核函數形式隱式定義。核方法不必針對樣本空間進行復雜處理，而是在特征空間中高效地計算內積，因此核函數的引入顯著地提高其計算能力。支持向量機(Support Vector Machine，SVM)作為最具代表性的核方法，而各類核函數所表現出的特征度量各異，即不同核函數由樣本數據生成的核矩陣各具差異，甚至差異程度迥異。因此，核函數是支持向量機泛化能力的關鍵因素。如何針對給定的樣本數據選擇或者構造合適的核函數便成為SVM研究的熱點之一。但核函數的選擇一直是SVM研究中開放性的問題，沒有具體的理論指導，存在著偶然性和局限性。研究一種既能充分利用給定具體問題的樣本信息，又能結合不同核函數蘊藏的度量特征且具有通用性的核函數選擇方法，則對于SVM技術的發展以及核方法的完善有著積極意義。

對于給定的具體問題(樣本數據集)而言，可用統計學習理論的一個核心概念—VC維來描述擬建模型函數集容量的表達能力，即用VC維來度量具體問題的復雜程度。然而，遺憾的是VC維是一個抽象的概念，迄今為止尚無明確的統一計算方法。而分形理論是利用整體與局部相似的特點，將一個復雜現象看成是由簡單現象迭代而成，能夠較好地反映系統的動力特性，即混沌時間序列中復雜現象所蘊含的規律和特性。

發明內容

本發明的目的是提供一種基于分形理論的支持向量機核函數選擇方法及其應用，它能夠更好地挖掘出不規則樣本數據集的潛在信息，并且結合核函數的幾何度量和幾何性質，有指導性地選擇SVM核函數，避免了核函數選擇的局限性和偶然性，以提高支持向量機的泛化能力。

本發明的技術方案：一種基于分形理論的支持向量機核函數選擇方法，包括如下步驟：

步驟1，數據預處理：給定具有l個樣本數據集其中x_i∈Rⁿ為n維輸入數據，y_i∈R為一維輸出數據，l為樣本數，對T進行變換使數據的范數小于1；

步驟2，核矩陣G構造：用G表示對應于核函數k的核矩陣，即

G_ij＝<φ(x_i),φ(x_j)>＝k(x_i,x_j)

其中k(x_i,x_j)＝k(x_j,x_i)，φ為特征映射；

步驟3，分形維數計算：利用關聯維數測算樣本數據與核矩陣G的特征信息，并找出它們之間的關聯性，關聯維數具體的計算方法如下：

假設在空間中某一點集是由N個點組成，則任選n維相空間中點集{x_i}(i＝1,2,…,N)的一點x_i作參考點，計算另外N-1個點到它的距離，則可以統計出落于以點x_i為中心，以小標量δ為半徑的體積元中的點的個數。凡空間距離小于δ的點對稱為有關聯的點對，它在一切可能的N²配對中所占比例稱為關聯函數，即

其中θ(r)是Heaviside函數，定義為