[發(fā)明專(zhuān)利]基于最小二乘支持向量機(jī)技術(shù)的偏向性分類(lèi)及參數(shù)尋優(yōu)方法

有效

• 申請(qǐng)?zhí)枺?/td>: 201310084937.7
• 申請(qǐng)日: 2013-03-15
• 公開(kāi)（公告）號(hào): CN103324939B
• 公開(kāi)（公告）日: 2017-10-27
• 發(fā)明（設(shè)計(jì)）人: 白瑞林;張振堯;吉峰
• 申請(qǐng)（專(zhuān)利權(quán)）人: 江南大學(xué);無(wú)錫信捷電氣股份有限公司
• 主分類(lèi)號(hào): G06K9/62
• 分類(lèi)號(hào): G06K9/62
• 代理公司: 暫無(wú)信息
• 代理人: 暫無(wú)信息

1.一種基于最小二乘支持向量機(jī)技術(shù)的偏向性分類(lèi)及參數(shù)尋優(yōu)方法，適用于實(shí)時(shí)性要求較高場(chǎng)合的分類(lèi)器，其特征在于，包括以下步驟：

(1)：所述步驟(1)中，輸入為包含有合格樣本和瑕疵樣本的原訓(xùn)練數(shù)據(jù)，采用K近鄰算法計(jì)算每個(gè)樣本x_i的5個(gè)最近鄰，如果5個(gè)最近鄰的類(lèi)別均與x_i的類(lèi)別不同，則刪去x_i，經(jīng)此處理，去除了原始訓(xùn)練樣本數(shù)據(jù)中的孤立樣本，并將結(jié)果輸送到步驟(2)虛擬少數(shù)類(lèi)過(guò)采樣算法(SMOTE)中；

(2)：所述步驟(2)中，對(duì)每個(gè)瑕疵樣本計(jì)算其5個(gè)最近鄰，倘若其中有三個(gè)近鄰屬于合格樣本，則判定該瑕疵樣本為邊界樣本；對(duì)邊界樣本進(jìn)行過(guò)采樣，即在邊界樣本與其近鄰的三個(gè)合格樣本之間人工合成新的瑕疵樣本，并加入到訓(xùn)練樣本數(shù)據(jù)中，作為步驟(3)中最小二乘支持向量機(jī)訓(xùn)練時(shí)的輸入數(shù)據(jù)；

(3)：所述步驟(3)中，采用耦合模擬退火算法對(duì)最小二乘支持向量機(jī)核函數(shù)參數(shù)和懲罰參數(shù)組合進(jìn)行初步尋優(yōu)，采用K折交叉驗(yàn)證每一組參數(shù)解對(duì)應(yīng)的誤分率，取誤分率最小的那組參數(shù)組合作為初步最優(yōu)解，進(jìn)行兩次退火獲得初步最優(yōu)參數(shù)組合[sig，gam]；

(4)：所述步驟(4)中，對(duì)獲得初步最優(yōu)參數(shù)組合[sig，gam]，在sig和gam的鄰域以步長(zhǎng)0.2進(jìn)行精細(xì)搜索，其中兩個(gè)參數(shù)的尋優(yōu)范圍分別為：

sig∈(exp{log(sig)-1.5}，exp{log(sig)+1.5})

gam∈(exp{log(gam)-2}，exp{log(gam)+2})

采用K折交叉驗(yàn)證每一組參數(shù)解對(duì)應(yīng)的誤分率，取誤分率最低對(duì)應(yīng)的那組參數(shù)組合作為最優(yōu)參數(shù)；

(5)：所述步驟(5)中，對(duì)(3)、(4)所得結(jié)果進(jìn)行比較，取較低誤分率對(duì)應(yīng)的那組參數(shù)作為最終的最優(yōu)參數(shù)組合；如果相同的最低誤分率對(duì)應(yīng)多組參數(shù)，則取gam最低的那組參數(shù)做為最優(yōu)參數(shù)，避免模型過(guò)學(xué)習(xí)。