[發(fā)明專利]基于多標(biāo)簽約束支持向量機(jī)的分類方法

有效

• 申請?zhí)枺?/td>: 201210398567.X
• 申請日: 2012-10-18
• 公開（公告）號: CN102945372A
• 公開（公告）日: 2013-02-27
• 發(fā)明（設(shè)計）人: 祁仲昂;楊名;張仲非;張正友
• 申請（專利權(quán)）人: 浙江大學(xué)
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06F17/30
• 代理公司: 杭州宇信知識產(chǎn)權(quán)代理事務(wù)所(普通合伙) 33231
• 代理人: 張宇娟;施海寅

1.一種基于多標(biāo)簽約束支持向量機(jī)的分類方法，其特征在于，包括以下步驟：

首先，在多標(biāo)簽空間中定義一種新型的距離度量方法，用來衡量在特定的分類目標(biāo)下多標(biāo)簽空間中點與點之間的距離，所述新型的距離度量方法為：將多標(biāo)簽訓(xùn)練集表示為多標(biāo)簽訓(xùn)練集中的每個點都被標(biāo)上了多種多樣的標(biāo)簽，整個多標(biāo)簽訓(xùn)練集的標(biāo)簽字典組成了S維的多標(biāo)簽空間多標(biāo)簽訓(xùn)練集中的每個點在視角中的特征向量表示為x_i，在標(biāo)簽字典中的標(biāo)簽向量表示為d_i＝(d_i，1，d_i，2，...，d_i，S)′，其中d_i，r∈{0，1}，1≤r≤S表示字典中的第r個標(biāo)簽T_r是否在I_i中出現(xiàn)，同時用y_i，r表示I_i的分類標(biāo)簽，y_i，r＝2·d_i，r-1，在多標(biāo)簽一對多One?Vs?All的分類模式中，當(dāng)一個標(biāo)簽T_r被作為分類目標(biāo)時，標(biāo)簽字典中其余的標(biāo)簽就會組成一個S-1維的標(biāo)簽特征空間用t_i，r表示I_i在空間中的特征向量，t_i，r＝(d_i，1，...，d_i，r-1，d_i，r+1，...，d_i，s)′，

定義當(dāng)給定d_i，k＝0or1時，d_i，r＝0or1的條件概率如下所示：

P10=ΔP(di,r=1|di,k=0)=1-P00]]>

P01=ΔP(di,r=0|di,k=1)=1-P11]]>

將每一個標(biāo)簽T_r的關(guān)聯(lián)度向量標(biāo)記為g_r，

g_r＝(g_r，1，...，g_r，r-1，g_r，r+1，...，g_r，S)′；

向量的每一個元素表示標(biāo)簽T_r與其他標(biāo)簽的關(guān)聯(lián)度；

關(guān)聯(lián)度元素g_r，k(k∈{1，...，r-1，r+1，...，S})的定義如下式所示：g_r，k＝P₀₀·P₁₁+P₁₀·P₀₁，將樣本點在空間中的特征向量與每一個標(biāo)簽T_r關(guān)聯(lián)度向量結(jié)合起來，得到多標(biāo)簽空間中一種新型的距離度量方法的定義如下式所示：dis_r(I_i，I_j)＝||(t_i，r-t_j，r)⊙g_r||_p，其中⊙表示向量之間的阿達(dá)馬Hadamard乘積；

然后，在特定的分類目標(biāo)下對多標(biāo)簽空間中的每個點定義一個鄰域，某點的鄰域包含在新型的距離度量方法下離中心點最近的幾個點，并提出了多標(biāo)簽鄰域相似度約束，所述的鄰域以及多標(biāo)簽鄰域相似度約束的建立方法為：I_i在空間中用這種新型距離度量方法定義的鄰域，不包括I_i自己，表示為I_i和其鄰域中數(shù)據(jù)點的分類結(jié)果相似度高，和非鄰域數(shù)據(jù)點的分類結(jié)果相似度低，鄰域的大小u表示I_i在空間中的最鄰近的鄰居點的個數(shù)，所述多標(biāo)簽約束支持向量機(jī)通過添加多標(biāo)簽空間鄰域相似度約束來最小化每一個點和其在多標(biāo)簽空間中最鄰近的鄰居點的分類結(jié)果之間的差異，該約束如下所示：

且|w^Tx_i-w^Tx_j|≤η_ij，η_ij≥0；

其中w是多標(biāo)簽約束支持向量機(jī)分類器的系數(shù)；

最后，結(jié)合多標(biāo)簽鄰域相似度約束和傳統(tǒng)的支持向量機(jī)約束，提出一種新的多標(biāo)簽約束支持向量機(jī)分類器進(jìn)行多標(biāo)簽分類訓(xùn)練，所述新的多標(biāo)簽約束支持向量機(jī)分類器的建立方法為：結(jié)合上述多標(biāo)簽約束條件和傳統(tǒng)的支持向量機(jī)約束條件，整合到多標(biāo)簽約束支持向量機(jī)的優(yōu)化式中，優(yōu)化式如下所示：

minw=12||w||2+CΣi=1nξi+Σi=1nΣj∈NirC*edisr(Ii,Ij)·ηij]]>

s.t.∀i=1n:]]>yi,r(wTxi+b^)≥1-ξi,]]>ξ_i≥0

且|w^Tx_i-w^Tx_j|≤η_ij，η_ij≥0

其中分別是多標(biāo)簽約束支持向量機(jī)分類器的系數(shù)和偏置，C和C^*是常數(shù)，且C^*＜C，ξ_i是松弛變量。