[發明專利]一種面向大規模數據的并行結構化支持向量機分類方法

在審

• 申請號: 201410185389.1
• 申請日: 2014-05-04
• 公開（公告）號: CN103971136A
• 公開（公告）日: 2014-08-06
• 發明（設計）人: 楊明;郭麗娜;高陽
• 申請（專利權）人: 南京師范大學
• 主分類號: G06K9/66
• 分類號: G06K9/66;G06K9/62
• 代理公司: 南京知識律師事務所 32207
• 代理人: 李媛媛

技術領域

本發明屬于人工智能模式識別分類領域，特別是一種面向大規模數據的并行支持向量機分類方法。

背景技術

分類問題是機器學習的主要研究內容，支持向量機作為主流的分類方法之一，在軟件模塊缺陷檢測、圖像識別等領域取得了廣泛的應用，倍受研究者的關注。為了獲得更好的分類效果，研究者們也相繼提出了最小二乘支持向量機、模糊支持向量機等。標準的支持向量機問題的實質是一個二次規劃問題，在支持向量機的求解方面，研究者也做了大量的工作，較為常用的方法有牛頓法、分塊方法、分解方法、梯度下降的方法等。然而，隨著時代的發展，科技的進步，我們所面臨的數據規模不斷的增大，經典的串行支持向量機主要針對小規模數據，面對大規模數據存在效率低的不足。為此，設計適用于大規模樣本的并行支持向量機分類方法成了關鍵任務。

目前，經典的并行支持向量機的研究主要集中在數據層面，即在原始數據集的多個子數據集上并行訓練支持向量機，進而通過合并得到最終分類結果。相對于面向數據層面的并行支持向量機而言，在求解算法上進行并行支持向量機還不多見。

已有的并行支持向量機算法在模型中考慮類分布信息的研究工作還比較少。樣本的結構信息往往對大間隔分類器的分類面的確定同樣具有指導意義。目前，研究者也提出了很多考慮樣本結構信息的大間隔分類器算法，如：最小最大概率機、最大最小間隔機、結構大間隔機、結構支持向量機等。

發明內容

本發明為了能夠解決大規模數據的支持向量機分類問題，并且提高分類精度，提出了一種面向大規模數據的并行支持向量機分類方法，在有效處理大規模數據分類問題的同時還提高了分類效果。

本發明采用的技術方案如下：

一種面向大規模數據的并行結構化支持向量機分類方法，包括如下步驟：

步驟1，樣本歸一化：對訓練樣本和測試樣本分別進行歸一化到相同的范圍內；

步驟2，求得大規模訓練樣本集結構化信息：由于協方差矩陣往往可以反映樣本的分布信息，因此在Hadoop平臺上分別求得正、負類樣本的協方差矩陣作為樣本的整體結構信息；

步驟3，利用大規模訓練樣本集訓練分類模型；根據并行結構化支持向量機隨機次梯度投影并行執行的方法，在Hadoop平臺上訓練得到并行結構化支持向量機模型；

步驟4，根據分類模型對測試樣本進行分類；根據步驟3訓練得到的并行結構化支持向量機模型，對測試樣本進行分類。

所述步驟2具體包括如下步驟：在Hadoop平臺下，大規模訓練樣本被劃分為多個子集，分散地存放在多個數據節點上，求得大規模訓練樣本的協方差矩陣可以借助一個MapReduce(映射歸約)任務完成；