[發(fā)明專利]基于改進哈里斯鷹算法的特征選擇方法

在審

• 申請?zhí)枺?/td>: 202111405009.7
• 申請日: 2021-11-24
• 公開（公告）號: CN114117876A
• 公開（公告）日: 2022-03-01
• 發(fā)明（設(shè)計）人: 周士華;鄒樂旺;呂卉
• 申請（專利權(quán)）人: 大連大學(xué)
• 主分類號: G06F30/25
• 分類號: G06F30/25;G06N3/00;G06F111/08
• 代理公司: 大連智高專利事務(wù)所(特殊普通合伙) 21235
• 代理人: 畢進

本發(fā)明公開了基于改進哈里斯鷹算法的特征選擇方法，包括：隨機構(gòu)造初始的特征子集；通過改進哈里斯鷹優(yōu)化算法對所述特征子集進行迭代尋優(yōu)；利用目標(biāo)函數(shù)獲取哈里斯鷹特征子集的適應(yīng)度，并確定其個體最優(yōu)與全局最優(yōu)；根據(jù)所述全局最優(yōu)輸出特征子集。本發(fā)明其將二階分類錯誤率與特征子集長度的加權(quán)作為評估函數(shù)，通過改進哈里斯鷹優(yōu)化算法迭代尋優(yōu)，篩選出質(zhì)量較佳的特征子集。

技術(shù)領(lǐng)域

本發(fā)明涉及特征選擇技術(shù)領(lǐng)域，具體來說是針對分類不平衡問題，使用改進哈里斯鷹優(yōu)化算法進行特征選擇的方法。

背景技術(shù)

特征選擇是機器學(xué)習(xí)領(lǐng)域數(shù)據(jù)預(yù)處理的重要方法之一。但由于特征選擇本身的性質(zhì)是個NP難問題，即特征數(shù)為n時，搜索空間為2ⁿ；導(dǎo)致研究者們只能退而求其次，使用近似算法獲取特征選擇問題的近似最優(yōu)解，這也使得群體智能優(yōu)化算法在特征選擇問題中得到廣泛應(yīng)用。

另一方面，由于數(shù)據(jù)集本身的特性，會導(dǎo)致部分分類數(shù)據(jù)樣本遠(yuǎn)遠(yuǎn)少于其它分類數(shù)據(jù)，這將大大影響算法的分類準(zhǔn)確性，而且僅僅考慮分類錯誤率會使得選擇到的特征子集中包含較多的冗余特征，此時大大提高了算法的計算復(fù)雜度，這一點對于高維數(shù)據(jù)尤為明顯。

發(fā)明內(nèi)容

本發(fā)明針對分類不平衡問題，提出了基于改進哈里斯鷹優(yōu)化算法的特征選擇方法，其將二階分類錯誤率與特征子集長度的加權(quán)作為評估函數(shù)，通過改進哈里斯鷹優(yōu)化算法迭代尋優(yōu)，篩選出質(zhì)量較佳的特征子集。

為實現(xiàn)上述目的，本申請?zhí)岢龌诟倪M哈里斯鷹算法的特征選擇方法，包括：

隨機構(gòu)造初始的特征子集；

通過改進哈里斯鷹優(yōu)化算法對所述特征子集進行迭代尋優(yōu)；

利用目標(biāo)函數(shù)獲取哈里斯鷹特征子集的適應(yīng)度，并確定其個體最優(yōu)與全局最優(yōu)；

根據(jù)所述全局最優(yōu)輸出特征子集。

進一步的，通過改進哈里斯鷹優(yōu)化算法對所述特征子集進行迭代尋優(yōu)，具體為：

將每一個特征子集對應(yīng)的看成一個粒子，在粒子初始化時，其維度根據(jù)數(shù)據(jù)集的特征數(shù)確定，其值則隨機初始化為[0，1]之間的隨機數(shù)，若值大于等于0.5則表示該特征選取為有用特征，否則表示不選取。例如下表所示：

一個特征數(shù)量為9的數(shù)據(jù)集，則粒子維度為9；隨機初始化其值，根據(jù)結(jié)果可知，特征4、特征6、特征8、特征9選取為有用特征。

特征選擇初期階段，要求算法有較強的搜索能力，后期要求算法有較強的開發(fā)能力。據(jù)此，本申請針對哈里斯鷹算法作如下改進：

設(shè)粒子在t時刻的位置為X(t)，粒子的全局最優(yōu)位置為gbest，粒子個體最優(yōu)位置為pbest；當(dāng)控制因子C_r值大于[0,1]間的隨機數(shù) rand時，使用下式更新粒子位置：

其中d代表粒子的維度，范圍是[1,D]中的任意整數(shù)，這里的D是粒子搜索空間的總維度；rand是在區(qū)間(0，1)內(nèi)均勻分布的隨機數(shù)； i代表當(dāng)前粒子的索引號；當(dāng)控制因子C_r值小于等于[0,1]間的隨機數(shù) rand時，使用下式更新粒子位置：

Y＝gbest-E*(gbest-X_i) (3)

temp₁＝gbest-α₁*|gbest-X_i| (5)