[發明專利]一種提高SVM建模準確率的方法

無效

• 申請號: 201010214057.3
• 申請日: 2010-06-29
• 公開（公告）號: CN102279906A
• 公開（公告）日: 2011-12-14
• 發明（設計）人: 曾華宗
• 申請（專利權）人: 上海聚類生物科技有限公司
• 主分類號: G06F19/12
• 分類號: G06F19/12
• 代理公司: 暫無信息
• 代理人: 暫無信息

技術領域

本發明屬于生物技術領域，涉及一種提高SVM數據建模準確率的方法。

背景技術

數據建模指的是對現實世界各類數據的抽象組織，確定數據庫需管轄的范圍、數據的組織形式等直至轉化成現實的數據庫。將經過系統分析后抽象出來的概念模型轉化為物理模型后，再利用計算機工具建立數據庫實體以及各實體之間關系的過程。

SVM(Support?Vector?Machine)又稱支持向量機，是Corinna?Cortes和Vapnik[8]等于1995年首先提出的，是一種新的基于可以訓練的機器學習上的建模方法。SVM是建立在統計學習理論的VC維理論和結構風險最小原理基礎上的，根據有限的樣本信息在模型的復雜性(即對特定訓練樣本的學習精度)和學習能力(即無錯誤地識別任意樣本的能力)之間尋求最佳折衷，以期獲得最好的推廣能力。通過對許多小樣本的學習，獲得最佳的核心參數及函數。SVM的主要思想可以概括為兩點：(1)它是針對線性可分情況進行分析，對于線性不可分的情況，通過使用非線性映射算法將低維輸入空間線性不可分的樣本轉化為高維特征空間使其線性可分，從而使得高維特征空間采用線性算法對樣本的非線性特征進行線性分析成為可能；(2)它基于結構風險最小化理論之上在特征空間中建構最優分割超平面，使得學習器得到全局最優化，并且在整個樣本空間的期望風險以某個概率滿足一定上界。

將SVM支持向量機引入生物信息學的分析研究中，可用來建立檢測差異表達蛋白的預測模型，通過對多組差異表達蛋白的機器學習，自動尋找最佳模型參數，建立SVM模型。利用SVM建立的預測模型可以最大化類與類之間的間隔，具有很好自適應能力，預測準確率一般在60％-65％之間。

發明內容

SVM(支持向量機)建模的方法是建立在統計學習理論上的機器學習方法，具有相對優良的性能指標。我們在進行差異表達基因研究時，選取幾個差異表達基因建立SVM模型，同時按照ANOVA的p-value將基因排序，按照p-value值由小到大的順序將其他基因一次一個的加入到模型中，通過訓練學習，觀察并記錄每個基因數模型的記憶能力及預測準確率，最終找到預測準確率最高的一個模型，我們隨機選取訓練集和測試集，多次建模，結果發現模型平均預測準確率在60％-65％之間，并不能有顯著的提高。

為了提高SVM建模的準確率，本發明所述方法設計了一套SVM建模的實施過程，通過自適應的機器學習，對影響預測結果準確性的預測錯誤的樣本進行剔除，最終可以最大程度的提高模型預測的準確性。該方法包括如下幾個基本步驟：

步驟1、選取特定樣本建立N組訓練集和測試集

步驟2、選一組訓練集和測試集進行SVM建模

步驟3、尋找最優SVM參數范圍，記錄預測錯誤樣本號。

步驟4、對每組訓練集和測試集重復步驟2、3。

步驟5、取各組最優SVM參數范圍的交集，剔除共有的預測錯誤的樣本

步驟6、應用上述SVM參數，重新建立SVM模型

步驟7、SVM模型的微調

附圖說明

圖1、本發明所述方法的實施流程圖

實施方式

本發明所述的方法可用來提高SVM建模的準確率，其具體的實施流程如下：

步驟1、對一特定的樣本建立若干訓練集和測試集(比如有N組)，使得N組訓練集和測試集之間的交集為0，即保證N組訓練集和測試集能最大程度的線性無關。

步驟2、隨機選定一組訓練集和測試集。

步驟3、對選定的訓練集和測試集進行訓練和預測，尋找最優的SVM參數，即c，g值和核函數t的選擇，得到最優預測率對應的一組參數范圍(即c的范圍、g的范圍和采用哪種核函數)。

步驟4、記錄步驟3測試集中預測錯誤的樣本號。

步驟5、對于每一組訓練集和測試集，重復步驟2到步驟4的工作，分別記錄每一組的最優參數范圍和預測錯誤的樣本號，整理成列表。

步驟6、對得到的N組訓練集和測試集的參數范圍(即c的范圍，g的范圍和采用哪種核函數)取交集，作為SVM模型的最優參數，同時找出各組中共有的預測錯誤樣本的樣本號。

步驟7、剔除預測錯誤的樣本，并采用步驟六中得到的SVM最優參數進行預測模型的重建立。

步驟8、根據具體情況，對模型進行細微調整。

通過以上八步基本上可以最大程度的提高模型預測的準確性。

以上是對本發明的描述而非限定，基于本發明思想的其它實施方式，均在本發明的保護范圍之中。