[發(fā)明專利]一種基于隨機(jī)森林特征提取的BP神經(jīng)網(wǎng)絡(luò)的數(shù)值預(yù)測(cè)方法

在審

• 申請(qǐng)?zhí)枺?/td>: 201910025537.6
• 申請(qǐng)日: 2019-01-13
• 公開(kāi)（公告）號(hào): CN109754122A
• 公開(kāi)（公告）日: 2019-05-14
• 發(fā)明（設(shè)計(jì)）人: 胡燕祝;王松
• 申請(qǐng)（專利權(quán)）人: 胡燕祝
• 主分類號(hào): G06Q10/04
• 分類號(hào): G06Q10/04;G06N3/08;G06N99/00
• 代理公司: 暫無(wú)信息
• 代理人: 暫無(wú)信息

1.基于隨機(jī)森林特征提取的BP神經(jīng)網(wǎng)絡(luò)的數(shù)值預(yù)測(cè)方法，其具體歸類步驟如下：

(1)選擇袋外數(shù)據(jù)X₁(x₁，x₂，...，x_n)，計(jì)算袋外數(shù)據(jù)誤差error⁽¹⁾：

式中，g₂，g₃，...，g_i是沒(méi)有抽到的袋外數(shù)據(jù)，N為樣本總數(shù)；

(2)隨機(jī)對(duì)袋外數(shù)據(jù)所有樣本的特征T(t₁，t₂，...，t_m)加入噪聲干擾，再次計(jì)算袋外數(shù)據(jù)誤差error⁽²⁾：

式中，g₂，g₃，...，g_i是沒(méi)有抽到的袋外數(shù)據(jù)特征中加入噪聲的數(shù)據(jù)，N為樣本總數(shù)；

(3)計(jì)算所有特征T(t₁，t₂，...，t_m)的重要性I：

式中，N為決策樹(shù)的個(gè)數(shù)，m為特征個(gè)數(shù)，error⁽¹⁾為未加入噪聲前袋外誤差，error⁽²⁾為在特征中加入噪聲后的袋外誤差；

(4)確定重要性較大的特征T(t₁，t₂，...，t_s)及其重要程度ω(ω₁，ω₂，...ω_s)：

設(shè)定最后需要預(yù)留的特征個(gè)數(shù)s，重復(fù)上述三步，刪除重要性較小的特征，得到最終的特征T(t₁，t₂，...，t_s)和特征對(duì)應(yīng)的重要性程度ω(ω₁，ω₂，...ω_s)；

(5)訓(xùn)練BP神經(jīng)網(wǎng)絡(luò)，更新連接權(quán)值ω_i：

將上一步驟得到的特征重要性程度設(shè)為輸入層神經(jīng)元和第一個(gè)隱藏層神經(jīng)元之間的連接權(quán)值ω(ω₁，ω₂，...ω_s)，然后根據(jù)誤差反向傳播算法，更新連接權(quán)值ω_i，具體公式如下：

其中，為實(shí)際輸出值，y_i為理想輸出值，η為每次更新的步長(zhǎng)；

(6)將測(cè)試集樣本作為輸入，進(jìn)行特征選擇然后將選擇好的特征輸入到BP神經(jīng)網(wǎng)絡(luò)中進(jìn)行預(yù)測(cè)，得到預(yù)測(cè)結(jié)果，完成基于隨機(jī)森林特征提取的BP神經(jīng)網(wǎng)絡(luò)的數(shù)值預(yù)測(cè)方法。