[發明專利]采用MPI和OpenMP編程實現支持向量機方法

無效

• 申請號: 201210156635.1
• 申請日: 2012-05-18
• 公開（公告）號: CN102707955A
• 公開（公告）日: 2012-10-03
• 發明（設計）人: 廖士中;盧瑋
• 申請（專利權）人: 天津大學
• 主分類號: G06F9/44
• 分類號: G06F9/44
• 代理公司: 天津市北洋有限責任專利代理事務所 12201
• 代理人: 劉國威

技術領域

本發明涉及基于統計學習理論的機器學習方法，具體講，基于MPI和OpenMP的混合編程實現并行化支持向量分類器。

背景技術

1．支持向量機(SVM)

支持向量機(Support?Vector?Machine，SVM)是Vapnik等人提出的一種基于統計學習理論的機器學習方法，它以最大化分類間隔構造最優分類超平面來提高分類器的泛化能力，較好地解決了非線性、高維數、局部極小點等問題。與傳統的神經網絡學習方法相比，SVM具有結構風險最小，可以逼近任意函數且保證全局最優，適用于小樣本、非線性核高維建模的領域。目前，SVM已廣泛應用于手寫字識別、文本分類、語音識別等方面，并取得了良好的應用效果。

對于2-分類支持向量機，已知訓練集：

T={(x₁，y₁),(x₂，y₂),...,(x_l，y_l)}∈(X×Y)^l

其中x_i∈X＝Rⁿ，y_i∈Y＝{1,-1},i＝1,...,l。

尋找X＝Rⁿ上的一個實值函數g(x)以便用決策函數f(x)＝sgn(g(x))推斷任意模式x相對應的y值即類別。

2-分類線性分類支持向量機簡單模型如下：

subject?to:y_i(ω^Tx_i+b)≥1-ξ_i,i＝1,...,n，?????(1)

ξ_i≥0,i＝1,...,n

建立拉格朗日原函數：

令偏導等于零且KKT條件為：

∂L∂ω=0⇒ω=Σinαiyixi,---(3)]]>

∂L∂b=0⇒Σinαiyi=0,---(4)]]>