[發(fā)明專利]一種基于模型自適應(yīng)選擇的多分類模型融合方法

在審

• 申請(qǐng)?zhí)枺?/td>: 201810876135.2
• 申請(qǐng)日: 2018-08-03
• 公開(kāi)（公告）號(hào): CN109086825A
• 公開(kāi)（公告）日: 2018-12-25
• 發(fā)明（設(shè)計(jì)）人: 高欣;刁新平;何楊;井瀟
• 申請(qǐng)（專利權(quán)）人: 北京郵電大學(xué)
• 主分類號(hào): G06K9/62
• 分類號(hào): G06K9/62
• 代理公司: 暫無(wú)信息
• 代理人: 暫無(wú)信息

本發(fā)明實(shí)施例提出了一種基于模型自適應(yīng)選擇的多分類模型融合方法，包括：分別計(jì)算基分類模型對(duì)每一類樣本的分類準(zhǔn)確率，對(duì)結(jié)果輸出為概率值的分類模型，取其分類結(jié)果的Top?N分類標(biāo)簽集；根據(jù)各基分類模型對(duì)每類樣本的分類準(zhǔn)確率最大值，設(shè)置各類樣本的動(dòng)態(tài)準(zhǔn)確率閾值，并對(duì)各數(shù)據(jù)集樣本設(shè)置分類結(jié)果融合標(biāo)記；根據(jù)樣本的融合標(biāo)記，對(duì)每一個(gè)樣本自適應(yīng)選擇參與融合的基分類模型，結(jié)合基分類模型的Top?N分類標(biāo)簽集，實(shí)現(xiàn)基分類模型融合。本發(fā)明實(shí)施例提供的技術(shù)方案，可以將結(jié)果輸出形式分別為概率值和樣本所屬類標(biāo)簽的兩個(gè)基分類模型進(jìn)行有效融合，能針對(duì)每一個(gè)數(shù)據(jù)樣本實(shí)現(xiàn)基分類模型的自適應(yīng)選擇，提高融合之后分類模型的準(zhǔn)確率。

【技術(shù)領(lǐng)域】

本發(fā)明涉及機(jī)器學(xué)習(xí)領(lǐng)域解決多分類問(wèn)題時(shí)的分類模型融合方法，尤其涉及一種兩個(gè)基分類模型輸出形式分別為概率值和類別標(biāo)簽的多分類模型融合方法。

【背景技術(shù)】

在將多個(gè)分類模型融合以解決多分類問(wèn)題時(shí)，需要綜合基分類模型的學(xué)習(xí)結(jié)果來(lái)決定融合后分類模型的輸出。利用數(shù)據(jù)挖掘技術(shù)解決多分類問(wèn)題，綜合多個(gè)基分類模型的學(xué)習(xí)結(jié)果實(shí)現(xiàn)信息互補(bǔ)以進(jìn)一步提升分類模型的性能，是當(dāng)今研究的熱點(diǎn)之一。目前在對(duì)基分類模型結(jié)果進(jìn)行融合時(shí)，常用的模型融合方法主要包括最值法、求和法、均值法、投票法，考慮到不同分類模型的決策性能不同，通常在對(duì)基分類模型結(jié)果進(jìn)行融合時(shí)會(huì)對(duì)不同的分類模型結(jié)果設(shè)置權(quán)值，從而更好的保證融合后分類模型性能的提升。最值法、求和法和均值法在進(jìn)行模型融合時(shí)，其要求基分類模型的結(jié)果輸出形式必須是數(shù)據(jù)樣本屬于每一樣本類別的概率值，而對(duì)于輸出結(jié)果為樣本類別標(biāo)簽的基分類模型并不適用；在利用投票法進(jìn)行模型融合時(shí)，其對(duì)基分類模型的結(jié)果輸出形式?jīng)]有限制，但是其少數(shù)服從多數(shù)的決策機(jī)制決定了其只能適用于基分類模型個(gè)數(shù)不少于三個(gè)的情況。考慮到現(xiàn)有的模型融合方法對(duì)基分類模型結(jié)果輸出形式及基分類模型個(gè)數(shù)的限制，對(duì)于兩個(gè)基分類模型的輸出分別為概率值和樣本標(biāo)簽的情況，現(xiàn)有的模型融合方法并不能有效適用。當(dāng)分類模型輸出結(jié)果為將樣本屬于各類別的概率時(shí)，可以通過(guò)比較分類模型將樣本分為各類的概率大小，獲取該分類模型對(duì)該樣本的前N個(gè)分類標(biāo)簽，以下簡(jiǎn)稱為Top-N分類標(biāo)簽集。

【發(fā)明內(nèi)容】

有鑒于此，本發(fā)明實(shí)施例提出了一種基于模型自適應(yīng)選擇的多分類模型融合方法，可以解決現(xiàn)有融合算法對(duì)基分類模型的限制，并針對(duì)每一個(gè)數(shù)據(jù)樣本實(shí)現(xiàn)對(duì)基分類模型的自適應(yīng)選擇。

本發(fā)明實(shí)施例提出的一種基于模型自適應(yīng)選擇的多分類模型融合方法，包括：

分別計(jì)算基分類模型對(duì)于每一類樣本的分類準(zhǔn)確率，對(duì)結(jié)果輸出為概率值的分類模型，取其分類結(jié)果的Top-N分類標(biāo)簽集；

根據(jù)各基分類模型對(duì)每類樣本的分類準(zhǔn)確率最大值，設(shè)置各類樣本的動(dòng)態(tài)準(zhǔn)確率閾值，并對(duì)各數(shù)據(jù)集樣本設(shè)置分類結(jié)果融合標(biāo)記；

根據(jù)樣本的融合標(biāo)記，對(duì)每一個(gè)樣本自適應(yīng)選擇參與融合的基分類模型，結(jié)合基分類模型的Top-N分類標(biāo)簽集，實(shí)現(xiàn)基分類模型融合。

上所述方法中，分別計(jì)算基分類模型對(duì)每一類樣本的分類準(zhǔn)確率，對(duì)于結(jié)果輸出為概率值的分類模型，取其分類結(jié)果的Top-N分類標(biāo)簽集的方法為：基分類模型個(gè)數(shù)為2，樣本類別數(shù)為M，訓(xùn)練集樣本數(shù)量為n，x為樣本特征向量集，x＝[x₁ x₂ … x_n]，x_i表示第i個(gè)樣本的特征向量，i＝1，2，…，n，第k個(gè)基分類模型學(xué)習(xí)到的模型為f_k(x)；若分類模型k的輸出結(jié)果為樣本屬于各類別的后驗(yàn)概率，則f_k(x_i)表示模型對(duì)第i個(gè)樣本分類結(jié)果中概率的最大值對(duì)應(yīng)的樣本類別標(biāo)簽，即其Top-1分類標(biāo)簽；若分類模型k的輸出為樣本的預(yù)測(cè)類標(biāo)簽，則f_k(x_i)表示分類模型k對(duì)第i個(gè)樣本的分類標(biāo)簽。a_k，j表示第k個(gè)基分類模型的輸出結(jié)果中，分類標(biāo)簽為第j類的樣本預(yù)測(cè)準(zhǔn)確率。用于計(jì)算基分類模型對(duì)于每一類樣本的分類準(zhǔn)確率的表達(dá)式為