[發(fā)明專利]一種通過改進(jìn)隨機森林提高類不平衡分類性能的方法

在審

• 申請?zhí)枺?/td>: 202010840414.0
• 申請日: 2020-08-20
• 公開（公告）號: CN111950645A
• 公開（公告）日: 2020-11-17
• 發(fā)明（設(shè)計）人: 周麗雅;王景景;張漢敬;趙揚帆;宮生文;王芳
• 申請（專利權(quán)）人: 青島科技大學(xué)
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N20/00
• 代理公司: 青島海昊知識產(chǎn)權(quán)事務(wù)所有限公司 37201
• 代理人: 劉艷青

1.一種通過改進(jìn)隨機森林算法提高類不平衡分類性能的方法，其特征在于，該方法包括以下步驟：

S1：獲取訓(xùn)練樣本數(shù)據(jù)集，且各樣本數(shù)據(jù)均能夠明確其為正類或負(fù)類；

S2：基于上述訓(xùn)練樣本數(shù)據(jù)集，利用隨機森林算法生成一個隨機森林RF0；

S3：利用每個樣本數(shù)據(jù)未參與構(gòu)建的樹集合對該樣本數(shù)據(jù)進(jìn)行分類預(yù)測，得到每個樣本數(shù)據(jù)的預(yù)測分類值；

S4：選取本為正類卻被預(yù)測為負(fù)類的樣本數(shù)據(jù)，將其Votes值作為新的投票邊界進(jìn)行再次分類預(yù)測，并計算G-mean值；所述Votes值代表投票某個樣本數(shù)據(jù)為負(fù)類的樹數(shù)占所有投票樹數(shù)的比例；

S5：找到S4執(zhí)行結(jié)果中使G-mean取值最大的Votes值，即為最優(yōu)投票邊界；

S6：利用S5得到的最優(yōu)投票邊界和RF0，對未知類別的新數(shù)據(jù)進(jìn)行分類，輸出分類結(jié)果。

2.如權(quán)利要求1所述的提高類不平衡分類性能的方法，其特征在于，所述S3具體為：

S3-1：根據(jù)所述S2得到隨機森林RF0，利用每個樣本數(shù)據(jù)未參與構(gòu)建的樹集合對該樣本數(shù)據(jù)進(jìn)行分類預(yù)測，此時隨機森林的投票邊界采用默認(rèn)值0.5；

S3-2：獲取每一個訓(xùn)練樣本被其未參與構(gòu)建的樹集合進(jìn)行分類預(yù)測時的投票結(jié)果Votes：

設(shè)X為隨機森林中預(yù)測某一樣本為正類的樹數(shù)，Y為預(yù)測該樣本為負(fù)類的樹數(shù)；Votes代表判定該樣本為負(fù)類的樹數(shù)占所有投票樹數(shù)的比例，即Votes=Y/(X+Y)；設(shè)Threshold為投票邊界，當(dāng)Votes≥Threshold時，該樣本被判定為負(fù)類；否則，該樣本被判定為正類；

S3-3：將所有訓(xùn)練樣本按照其Votes值從大到小順序進(jìn)行排列。

3.如權(quán)利要求2所述的提高類不平衡分類性能的方法，其特征在于，所述S3-1中，隨機森林的投票邊界還可以根據(jù)待分類數(shù)據(jù)集的人工經(jīng)驗值進(jìn)行選取，不限于0.5的默認(rèn)值。

4.如權(quán)利要求1所述的提高類不平衡分類性能的方法，其特征在于，所述S4具體為：

S4-1：確定最優(yōu)投票邊界的候選投票邊界位置集合

從RF的默認(rèn)投票邊界值0.5開始，沿著Votes值逐漸增大的方向，自動搜索那些本是正類卻被預(yù)測為負(fù)類的訓(xùn)練樣本，將這些樣本的Votes值放入候選的投票邊界位置集合；

S4-2：依次將上述投票邊界位置集合中的Votes值作為RF0的新的投票邊界再進(jìn)行分類，計算對應(yīng)的G-mean值。

5.如權(quán)利要求4所述的提高類不平衡分類性能的方法，其特征在于，所述S4-1中，所述默認(rèn)投票邊界值0.5還能夠被待分類數(shù)據(jù)集的人工經(jīng)驗值進(jìn)行替代，不限于0.5的默認(rèn)值。

6.所述權(quán)利要求1-5任一權(quán)利要求所提供的提高類不平衡分類性能的方法在網(wǎng)絡(luò)安全、生物信息、工業(yè)故障檢測、醫(yī)學(xué)領(lǐng)域上的應(yīng)用。

7.如權(quán)利要求6所述的應(yīng)用，其特征在于，所述醫(yī)學(xué)領(lǐng)域具體為醫(yī)學(xué)罕見病檢測技術(shù)。