[發明專利]3D手寫識別SVM分類器核參數選取方法及用途

有效

• 申請號: 201410063443.5
• 申請日: 2014-02-25
• 公開（公告）號: CN103942574B
• 公開（公告）日: 2017-01-11
• 發明（設計）人: 沈海斌;楊海
• 申請（專利權）人: 浙江大學
• 主分類號: G06K9/66
• 分類號: G06K9/66;G06N3/00
• 代理公司: 杭州求是專利事務所有限公司33200
• 代理人: 林松海

技術領域

本發明屬于3D手寫識別技術領域，特別涉及3D手寫識別技術中的SVM分類器優化的問題。

背景技術

手寫識別技術是在人機交互技術趨勢下逐漸發展形成的一門熱門技術。對比傳統的平面手寫識別，3D手寫識別是目前一種新興的手寫識別技術，可以提供給用戶一種更加自然和高效的人機交互體驗，在這些年逐漸成為了手寫識別技術的研究熱點，是今后手寫識別的發展趨勢。

一直以來，SVM分類器的核函數參數優化問題是3D手寫識別過程的關鍵技術，核函數的性能對于最后的識別正確率有著重要的影響。傳統的SVM核函數參數選取方法包括網格搜索法與交叉驗證法，這兩種方法的優點是算法實現較為簡單，但同時也暴露出訓練出來的分類器識別精度偏低的缺陷，也不能夠滿足對于3D手寫識別正確率的要求。近年來隨著群智能算法的崛起，學者們開始研究如何將群智能算法應用于SVM核函數領域。目前常見的應用于SVM核函數領域的群智能算法包括遺傳算法、粒子群算法和蛙跳算法。遺傳算法的特點是對目標函數要求不高，局部性能較好，但是對初值敏感，算法精度偏低；粒子群算法的特點是收斂速度快，全局性能好，但是其局部性能較差，很容易陷入局部極值，出現早熟現象；蛙跳算法的特點是魯棒性較好，但是算法精度偏低，并且實現復雜。以上算法都在不同程度上滿足了SVM核函數參數選取的要求，但是對于全局與局部性能的平衡，以及魯棒性、簡易性和計算精度的兼顧上仍有欠缺，在3D手寫識別系統中的識別效果不是很理想。

2005年，Krishnanand與Ghose提出了螢火蟲算法(Glowworm?Swarm?Optimization,GSO)。螢火蟲算法是新一批崛起的群智能算法的代表，以其極強的局部與全局優化性能、較高的魯棒性等天然優勢受到了學者的廣泛關注，目前已成功應用于多模態函數優化、傳感器的噪聲測試、有害氣體泄露定位和計算機模擬人工機器人等人工智能領域。在基本螢火蟲算法中，發光越亮的螢火蟲所在位置的目標函數值越優，每只螢火蟲都擁有自己的視野范圍，在視野范圍內依靠動態決策來選擇比自己亮度高的螢火蟲結為鄰居并決定移動方向。這種依賴于局部信息搜索的機制使得螢火蟲算法整體上不易陷于局部極值點并且因為動態決策域的存在，魯棒性都得到保證，同時螢火蟲個體傾向于向最優位置、熒光最亮個體移動，最優個體隨機移動，尋找更優位置，從而使整個群體形成正反饋，全局尋優能力大大增強，因此理論上很適合組合參數式（類似于SVM核參數的懲罰因子和高斯徑向基寬度的參數組合）的全局優化過程。但是螢火蟲算法收斂速度還不夠快，算法后期會出現的收斂不穩定現象，這些缺點限制了螢火蟲算法在3D手寫識別中的應用。

發明內容

本發明的目的是提供一種3D手寫識別SVM分類器核參數選取方法及用途，從而構建性能更加優良的3D手寫識別系統，進而可以有效地提高3D手寫識別系統的識別率。

本發明的技術方案如下：

3D手寫識別SVM分類器核參數選取方法，核參數選取過程包括以下步驟：

1）加速度傳感器采集數據：采用三維加速度傳感器評估板進行數據的采集；

2）預處理：預處理階段使用卡爾曼濾波方法濾除環境因素帶來的手抖、溫度噪聲，同時對因為書寫者的書寫順序與姿勢不同帶來的差異進行數據歸一化；

3）特征提取：提取旋轉特征作為時域特征，提取快速傅氏變換特征作為頻域特征；采用串行方法進行時域和頻域特征融合，得到時頻域融合特征；利用主成分分析和線性鑒別分析組合算法降維；

4）SVM分類識別：識別部分選用徑向基核函數作為訓練函數，首先設定懲罰因子和徑向基核函數寬度的變化范圍，構成解空間，將螢火蟲隨機分布在解空間中，在每次迭代過程中通過改進位置更新機制并參考亮度因素進行位置更新，算法的最優解即代表SVM核參數的最佳值，最后利用3D手寫特征樣本和優化過的核函數訓練出最佳的SVM分類器，從而對新的3D手寫數據進行高精度的分類判斷。

步驟4）中所述的位置更新機制的公式如下所示：