[發(fā)明專利]一種基于參考點(diǎn)非支配排序遺傳算法的多目標(biāo)特征選擇方法及系統(tǒng)

在審

• 申請?zhí)枺?/td>: 202011009918.4
• 申請日: 2020-09-23
• 公開（公告）號: CN112183608A
• 公開（公告）日: 2021-01-05
• 發(fā)明（設(shè)計(jì)）人: 何發(fā)智;舒凌軒;胡訓(xùn);李浩然
• 申請（專利權(quán)）人: 武漢大學(xué)
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06F16/2458;G06N3/12;G06N20/00
• 代理公司: 武漢科皓知識產(chǎn)權(quán)代理事務(wù)所(特殊普通合伙) 42222
• 代理人: 羅飛

本發(fā)明公開了一種基于參考點(diǎn)非支配排序遺傳算法的多目標(biāo)特征選擇方法及系統(tǒng)，涉及數(shù)據(jù)挖掘和機(jī)器學(xué)習(xí)領(lǐng)域，該方法是一種基于包裝器結(jié)構(gòu)的五個(gè)目標(biāo)優(yōu)化算法，旨在最大程度地提高分類器的分類精度，最大程度地減少分類特征數(shù)量，以及優(yōu)化三個(gè)基于熵的相關(guān)性、冗余度和互補(bǔ)性度量。五個(gè)目標(biāo)的優(yōu)化擴(kuò)大了搜索空間，從而使該方法能夠生成大量的帕累托有效解。該方法在保證分類性能的同時(shí)，能夠針對不同基數(shù)級別識別出所有具有同等信息的特征子集。并搭建了一個(gè)計(jì)算系統(tǒng)來執(zhí)行該方法。

技術(shù)領(lǐng)域

本發(fā)明涉及數(shù)據(jù)挖掘和機(jī)器學(xué)習(xí)技術(shù)領(lǐng)域，具體涉及一種基于參考點(diǎn)非支配排序遺傳算法的多目標(biāo)特征選擇方法及系統(tǒng)。

背景技術(shù)

特征選擇，也稱特征子集選擇，是數(shù)字圖像處理中數(shù)據(jù)預(yù)處理的重要組成部分。近年來在機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘也有著重要的作用。特征選擇主要應(yīng)用于數(shù)字圖像處理中數(shù)據(jù)預(yù)處理部分，圖像中經(jīng)過特征提取得到的一些特征，例如顏色特征、紋理特征、形狀特征或者通過專業(yè)知識得到的一些圖像特征等等，存在一些冗余的特征，特征選擇通過去除這些冗余的特征，降低數(shù)據(jù)特征的維度，從而降低圖像處理后續(xù)操作的復(fù)雜度、提高系統(tǒng)整體的性能。特征選擇在圖像處理的諸多領(lǐng)域例如圖像識別、圖像分類、圖像分割等等有著重要的作用。

特征選擇的新興趨勢是開發(fā)兩目標(biāo)優(yōu)化算法，這類算法分析了特征數(shù)量最小化和分類性能的最大化的折衷，能夠得到一組帕累托有效子集，每個(gè)子集具有不同的基數(shù)和相應(yīng)的分類性能。近年來這類算法被廣泛應(yīng)用。

本申請發(fā)明人在實(shí)施本發(fā)明的過程中，發(fā)現(xiàn)現(xiàn)有技術(shù)的方法，至少存在如下技術(shù)問題：

但是，基于特征數(shù)量和分類性能的兩目標(biāo)特征選擇算法忽略了對于給定的基數(shù)可能存在具有相似信息內(nèi)容的多個(gè)子集這一事實(shí)，因此導(dǎo)致特征選擇效果不佳。

發(fā)明內(nèi)容

本發(fā)明引入一種多目標(biāo)特征選擇方法來解決該問題。該方法是一種基于包裝器結(jié)構(gòu)的五個(gè)目標(biāo)優(yōu)化算法，旨在最大程度地提高分類器的分類精度，最大程度地減少分類特征數(shù)量，以及優(yōu)化三個(gè)基于熵的相關(guān)性、冗余度和互補(bǔ)性度量。五個(gè)目標(biāo)的優(yōu)化擴(kuò)大了搜索空間，從而使該方法能夠生成大量的帕累托有效解，改善特征選擇效果。

為了解決上述技術(shù)問題，本發(fā)明一方面提供了一種基于參考點(diǎn)非支配排序遺傳算法的多目標(biāo)特征選擇方法，包括：

S1：對于輸入數(shù)據(jù)集，采用全局優(yōu)化算法來尋找一組帕累托子集，其中，一組帕累托子集為特征選擇的一組最優(yōu)解，為一組特征子集，全局優(yōu)化算法為參考點(diǎn)非支配排序遺傳算法，以相關(guān)性、互補(bǔ)性、分類精度、冗余度和特征數(shù)量為優(yōu)化目標(biāo)，使得相關(guān)性、互補(bǔ)性和分類精度最大，并使得冗余度和特征數(shù)量最小；

S2：計(jì)算帕累托子集的最佳分類精度值，并基于最佳精度值和預(yù)設(shè)參數(shù)δ找出δ準(zhǔn)等信息子集，根據(jù)找出的δ準(zhǔn)等信息子集消除劣等子集，得到最終的目標(biāo)δ準(zhǔn)等信息子集，其中，δ準(zhǔn)等信息子集用以表示與步驟S1中得到的特征子集的一個(gè)分類性能相近的子集，目標(biāo)δ準(zhǔn)等信息子集包含選擇出的目標(biāo)特征。

在一種實(shí)施方式中，S1具體包括：

S1.1：將輸入數(shù)據(jù)集分劃為訓(xùn)練集和測試集；

S1.2：采用參考點(diǎn)非支配排序遺傳算法初始化種群；

S1.3：在算法的每次迭代中計(jì)算每個(gè)個(gè)體的相關(guān)性、互補(bǔ)性、分類精度、冗余度和特征數(shù)量五個(gè)目標(biāo)值，并利用這些目標(biāo)值對種群進(jìn)行更新，其中，每個(gè)個(gè)體對應(yīng)一個(gè)特征；

S1.4：算法結(jié)束迭代后得到一組關(guān)于相關(guān)性、互補(bǔ)性和分類精度、冗余度和特征數(shù)量五個(gè)目標(biāo)值的一組帕累托有效解A，將其作為特征子集。

在一種實(shí)施方式中，S2具體包括：

S2.1：計(jì)算S1中得到的一組特征子集的最佳分類精度值，最佳分類精度值為分類精度的最大值；