[發(fā)明專利]一種基于參考點非支配排序遺傳算法的多目標特征選擇方法及系統(tǒng)

在審

• 申請?zhí)枺?/td>: 202011009918.4
• 申請日: 2020-09-23
• 公開（公告）號: CN112183608A
• 公開（公告）日: 2021-01-05
• 發(fā)明（設計）人: 何發(fā)智;舒凌軒;胡訓;李浩然
• 申請（專利權）人: 武漢大學
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06F16/2458;G06N3/12;G06N20/00
• 代理公司: 武漢科皓知識產(chǎn)權代理事務所(特殊普通合伙) 42222
• 代理人: 羅飛

本發(fā)明公開了一種基于參考點非支配排序遺傳算法的多目標特征選擇方法及系統(tǒng)，涉及數(shù)據(jù)挖掘和機器學習領域，該方法是一種基于包裝器結(jié)構(gòu)的五個目標優(yōu)化算法，旨在最大程度地提高分類器的分類精度，最大程度地減少分類特征數(shù)量，以及優(yōu)化三個基于熵的相關性、冗余度和互補性度量。五個目標的優(yōu)化擴大了搜索空間，從而使該方法能夠生成大量的帕累托有效解。該方法在保證分類性能的同時，能夠針對不同基數(shù)級別識別出所有具有同等信息的特征子集。并搭建了一個計算系統(tǒng)來執(zhí)行該方法。

技術領域

本發(fā)明涉及數(shù)據(jù)挖掘和機器學習技術領域，具體涉及一種基于參考點非支配排序遺傳算法的多目標特征選擇方法及系統(tǒng)。

背景技術

特征選擇，也稱特征子集選擇，是數(shù)字圖像處理中數(shù)據(jù)預處理的重要組成部分。近年來在機器學習和數(shù)據(jù)挖掘也有著重要的作用。特征選擇主要應用于數(shù)字圖像處理中數(shù)據(jù)預處理部分，圖像中經(jīng)過特征提取得到的一些特征，例如顏色特征、紋理特征、形狀特征或者通過專業(yè)知識得到的一些圖像特征等等，存在一些冗余的特征，特征選擇通過去除這些冗余的特征，降低數(shù)據(jù)特征的維度，從而降低圖像處理后續(xù)操作的復雜度、提高系統(tǒng)整體的性能。特征選擇在圖像處理的諸多領域例如圖像識別、圖像分類、圖像分割等等有著重要的作用。

特征選擇的新興趨勢是開發(fā)兩目標優(yōu)化算法，這類算法分析了特征數(shù)量最小化和分類性能的最大化的折衷，能夠得到一組帕累托有效子集，每個子集具有不同的基數(shù)和相應的分類性能。近年來這類算法被廣泛應用。

本申請發(fā)明人在實施本發(fā)明的過程中，發(fā)現(xiàn)現(xiàn)有技術的方法，至少存在如下技術問題：

但是，基于特征數(shù)量和分類性能的兩目標特征選擇算法忽略了對于給定的基數(shù)可能存在具有相似信息內(nèi)容的多個子集這一事實，因此導致特征選擇效果不佳。

發(fā)明內(nèi)容

本發(fā)明引入一種多目標特征選擇方法來解決該問題。該方法是一種基于包裝器結(jié)構(gòu)的五個目標優(yōu)化算法，旨在最大程度地提高分類器的分類精度，最大程度地減少分類特征數(shù)量，以及優(yōu)化三個基于熵的相關性、冗余度和互補性度量。五個目標的優(yōu)化擴大了搜索空間，從而使該方法能夠生成大量的帕累托有效解，改善特征選擇效果。

為了解決上述技術問題，本發(fā)明一方面提供了一種基于參考點非支配排序遺傳算法的多目標特征選擇方法，包括：

S1：對于輸入數(shù)據(jù)集，采用全局優(yōu)化算法來尋找一組帕累托子集，其中，一組帕累托子集為特征選擇的一組最優(yōu)解，為一組特征子集，全局優(yōu)化算法為參考點非支配排序遺傳算法，以相關性、互補性、分類精度、冗余度和特征數(shù)量為優(yōu)化目標，使得相關性、互補性和分類精度最大，并使得冗余度和特征數(shù)量最小；

S2：計算帕累托子集的最佳分類精度值，并基于最佳精度值和預設參數(shù)δ找出δ準等信息子集，根據(jù)找出的δ準等信息子集消除劣等子集，得到最終的目標δ準等信息子集，其中，δ準等信息子集用以表示與步驟S1中得到的特征子集的一個分類性能相近的子集，目標δ準等信息子集包含選擇出的目標特征。

在一種實施方式中，S1具體包括：

S1.1：將輸入數(shù)據(jù)集分劃為訓練集和測試集；

S1.2：采用參考點非支配排序遺傳算法初始化種群；

S1.3：在算法的每次迭代中計算每個個體的相關性、互補性、分類精度、冗余度和特征數(shù)量五個目標值，并利用這些目標值對種群進行更新，其中，每個個體對應一個特征；

S1.4：算法結(jié)束迭代后得到一組關于相關性、互補性和分類精度、冗余度和特征數(shù)量五個目標值的一組帕累托有效解A，將其作為特征子集。

在一種實施方式中，S2具體包括：

S2.1：計算S1中得到的一組特征子集的最佳分類精度值，最佳分類精度值為分類精度的最大值；