[發(fā)明專利]基于多標(biāo)簽二視角支持向量機(jī)的分類方法

有效

• 申請?zhí)枺?/td>: 201210396612.8
• 申請日: 2012-10-18
• 公開（公告）號: CN102945370A
• 公開（公告）日: 2013-02-27
• 發(fā)明（設(shè)計）人: 祁仲昂;楊名;張仲非;張正友
• 申請（專利權(quán)）人: 浙江大學(xué)
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06F17/30
• 代理公司: 杭州宇信知識產(chǎn)權(quán)代理事務(wù)所(普通合伙) 33231
• 代理人: 張宇娟;施海寅

1.一種基于多標(biāo)簽二視角支持向量機(jī)的分類方法，其特征在于，包括以下步驟：

首先，在多標(biāo)簽空間中定義一種新型的距離度量方法，用來衡量在特定的分類目標(biāo)下多標(biāo)簽空間中點(diǎn)與點(diǎn)之間的距離，其中所述新型的距離度量方法為，將多標(biāo)簽訓(xùn)練集表示為所述多標(biāo)簽訓(xùn)練集的兩個相互條件獨(dú)立的視角空間分別表示為和所述多標(biāo)簽訓(xùn)練集中的每個點(diǎn)都被標(biāo)上了多種多樣的標(biāo)簽，所述多標(biāo)簽訓(xùn)練集的標(biāo)簽字典組成了S維的多標(biāo)簽空間所述多標(biāo)簽訓(xùn)練集中的每個點(diǎn)在視角空間和中的特征向量分別表示為和在標(biāo)簽字典中的標(biāo)簽向量表示為d_i＝(d_i，1，d_i，2，...，d_i，S)′，其中d_i，r∈{0，1}，1≤r≤S表示標(biāo)簽字典中的第r個標(biāo)簽T_r是否在I_i中出現(xiàn)，同時用y_i，r表示I_i的分類標(biāo)簽，y_i，r＝2·d_i，r-1，在多標(biāo)簽一對多的分類模式中，當(dāng)一個標(biāo)簽T_r被作為分類目標(biāo)時，標(biāo)簽字典中其余的標(biāo)簽就會組成一個S-1維的標(biāo)簽特征空間用t_i，r表示I_i在空間中的特征向量，其中t_i，r＝(d_i，1，...，d_i，r-1，d_i，r+1，...，d_i，S)′，

定義當(dāng)給定d_i，k＝0or?1時，d_i，r＝0or1的條件概率如下所示：

P10=ΔP(di,r=1|di,k=0)=1-P00]]>

P01=ΔP(di,r=0|di,k=1)=1-P11]]>

將每一個標(biāo)簽T_r的關(guān)聯(lián)度向量標(biāo)記為g_r，

g_r＝(g_r，1，...，g_r，r-1，g_r，r+1，...，g_r，S)′，

向量的每一個元素表示標(biāo)簽T_r與其他標(biāo)簽的關(guān)聯(lián)度，

關(guān)聯(lián)度元素g_r，k(k∈{1，...，r-1，r+1，...，S})的定義如下式所示：g_r，k＝P₀₀·P₁₁+P₁₀·P₀₁，將樣本點(diǎn)在空間中的特征向量與每一個標(biāo)簽T_r關(guān)聯(lián)度向量結(jié)合起來，得到多標(biāo)簽空間中一種新型的距離度量方法的定義如下式所示：dis_r(I_i，I_j)＝||(t_i，r-t_j，r)⊙g_r||_p，其中⊙表示向量之間的阿達(dá)馬Hadamard乘積；

然后，在兩個相互條件獨(dú)立的視角上提取訓(xùn)練集的兩組特征，結(jié)合利用二視角所包含的兩組特征的互補(bǔ)信息；

最后，結(jié)合多標(biāo)簽空間和二視角空間中的信息，利用定義的一種新的多標(biāo)簽二視角支持向量機(jī)分類器進(jìn)行多標(biāo)簽分類訓(xùn)練，所述新的多標(biāo)簽二視角支持向量機(jī)分類器的建立方法為：I_i在標(biāo)簽特征空間中定義的鄰域，不包括I_i自己，表示為I_i和其鄰域中數(shù)據(jù)點(diǎn)的分類結(jié)果相似度高，和非鄰域數(shù)據(jù)點(diǎn)的分類結(jié)果相似度低，鄰域的大小u表示I_i在空間中的最鄰近的鄰居點(diǎn)的個數(shù)，將和分別標(biāo)記為和

通過最大化同一個樣本點(diǎn)在兩個視角下的分類相似度來添加二視角約束，該二視角約束如下所示：

∀i=1n:|w(a)Txi(a)+b^(a)-w(b)Txi(b)-b^(b)|≤ηi,ηi≥0]]>

其中w^(z)，分別是多標(biāo)簽二視角支持向量機(jī)分類器MSVM-2K在視角z＝a，b上的系數(shù)和偏置，

通過最小化每一個點(diǎn)和其在多標(biāo)簽空間中最鄰近的鄰居點(diǎn)的分類結(jié)果在同一個視角和在不同視角之間的差異來添加多標(biāo)簽約束，多標(biāo)簽約束如下所示：

且

|w(a)Txi(a)-w(a)Txj(a)|≤ηij(aa),ηij(aa)≥0---(1)]]>

|w(b)Txi(b)-w(b)Txj(b)|≤ηij(bb),ηij(bb)≥0---(2)]]>

|w(a)Txi(a)+b^(a)-w(b)Txj(b)-b^(b)|≤ηij(ab),ηij(ab)≥0---(3)]]>

|w(b)Txi(b)+b^(b)-w(a)Txj(a)-b^(a)|≤ηij(ba),ηij(ba)≥0---(4)]]>

利用柔性分類標(biāo)簽來替代同一個視角下的多標(biāo)簽約束(1)和(2)；同時，只選取不同視角下的多標(biāo)簽約束(3)和(4)中的一個以降低計算復(fù)雜度，將每個點(diǎn)I_i的柔性分類標(biāo)簽標(biāo)記為l_i，r，l_i，r的取值不僅取決于I_i的分類標(biāo)簽y_i，r，還取決于I_i在空間中最鄰近的鄰居點(diǎn)的分類標(biāo)簽，l_i，r的定義如下所示：

D是常量，且0≤D＜1，多標(biāo)簽二視角支持向量機(jī)的優(yōu)化式如下所示：

Cij=C(ab)i=jC(ab)*/edisr(Ii,Ij)i≠j]]>

s.t.∀i=1n:li,r(w(a)Txi(a)+b^(a))≥|li,r|2-|li,r|ξi(a),ξi(a)≥0]]>

li,r(w(b)Txi(b)+b^(b))≥|li,r|2-|li,r|ξi(b),ξi(b)≥0]]>

且

|w(a)Txi(a)+b^(a)-w(b)Txj(b)-b^(b)|≤ηij(ab),ηij(ab)≥0]]>

其中C^(a)，C^(b)，C^(ab)，C^(ab)*和D是常量，C^(ab)*＜C^(ab)，0≤D＜1。