[發(fā)明專利]一種基于bagging的水文集成預(yù)測模型的構(gòu)建方法

在審

• 申請?zhí)枺?/td>: 202010976110.7
• 申請日: 2020-09-16
• 公開（公告）號(hào): CN112183722A
• 公開（公告）日: 2021-01-05
• 發(fā)明（設(shè)計(jì)）人: 余宇峰;朱躍龍;萬定生;趙群;鄧勁柏;楊志勇;姚成;王繼民
• 申請（專利權(quán)）人: 河海大學(xué)
• 主分類號(hào): G06N3/04
• 分類號(hào): G06N3/04;G06N3/06;G06N3/08;G06F16/29
• 代理公司: 南京華恒專利代理事務(wù)所(普通合伙) 32335
• 代理人: 宋方園

1.一種基于bagging的水文集成預(yù)測模型的構(gòu)建方法，其特征在于：包括以下步驟：

S1、構(gòu)建數(shù)據(jù)集

將選擇的水文數(shù)據(jù)按照季節(jié)分為四類，并分別對四類水文數(shù)據(jù)歸一化使得對應(yīng)水文數(shù)據(jù)在[-1,1]之間，然后分別對歸一化后的四類水文數(shù)據(jù)隨機(jī)打亂順序，并各自選擇部分水文數(shù)據(jù)作為訓(xùn)練集，部分水文數(shù)據(jù)作為驗(yàn)證集，剩下的水文數(shù)據(jù)作為測試集；自此分別得到四類訓(xùn)練集以及對應(yīng)的測試集；

S2、對數(shù)據(jù)集利用bagging法有放回地自主采樣；

分別對四類訓(xùn)練集進(jìn)行隨機(jī)采樣，且每類訓(xùn)練集均采集m次，得到4類均包含m個(gè)采樣集的訓(xùn)練集，即：

S3、構(gòu)建有差異的基模型

根據(jù)步驟S2所得4m個(gè)采樣集給與不同的GRU水文模型，構(gòu)建4m個(gè)有差異的GRU水文模型，并把GRU水文模型作為水文集成預(yù)測模型中的基模型；每m個(gè)GRU水文模型對四類訓(xùn)練集分別訓(xùn)練，同類型訓(xùn)練集中每個(gè)GRU水文模型初始化不同的權(quán)值；

S4、對差異基模型進(jìn)行訓(xùn)練

使用小批量梯度下降算法MBGD對每個(gè)GRU水文模型更新網(wǎng)絡(luò)權(quán)重，計(jì)算模型預(yù)測誤差，再反向計(jì)算每個(gè)神經(jīng)元的預(yù)測誤差，對網(wǎng)絡(luò)進(jìn)行迭代訓(xùn)練；

S5、集成模型并最終輸出水文預(yù)測

通過驗(yàn)證集反推得到GRU水文模型的加權(quán)系數(shù)，對各GRU水文模型的預(yù)測值進(jìn)行加權(quán)平均，得到最終的水文預(yù)測值。

2.根據(jù)權(quán)利要求1所述的基于bagging的水文集成預(yù)測模型的構(gòu)建方法，其特征在于：所述步驟S4中水文集成預(yù)測模型采用GRU模型作為基模型，以小批量梯度下降算法MBGD作為優(yōu)化方法進(jìn)行訓(xùn)練，具體步驟如下：

S4.1、對水文樣本集進(jìn)行歸一化，對網(wǎng)絡(luò)權(quán)重進(jìn)行初始化；

其中采用sigmoid函數(shù)和tanh函數(shù)作為激活函數(shù)，采用均方誤差函數(shù)mse作為損失函數(shù)，均方誤差mse計(jì)算公式如下：

其中，y_i為第i時(shí)刻的水文預(yù)測值，Y_i為第i時(shí)刻的水文真實(shí)值，n為模型輸入的水文樣本數(shù)目；

S4.2、對GRU隱藏層的每個(gè)單元進(jìn)行前向計(jì)算

構(gòu)建更新門z_t：z_t＝σ(W₁·[h_t-1,x_t])

W₁是更新門的權(quán)重矩陣，h_t-1為前一時(shí)刻神經(jīng)元的輸出，當(dāng)更新門z_t的值越大時(shí)，前一時(shí)刻神經(jīng)元留下的信息越少，而當(dāng)前時(shí)刻神經(jīng)元中留下的信息越多；σ是指sigmoid函數(shù)；

構(gòu)建重置門r_t：r_t＝σ(W₂·[h_t-1,x_t])

W₂是重置門的權(quán)重矩陣，當(dāng)重置門r_t取值為0時(shí)，則放棄前一時(shí)刻神經(jīng)元傳遞的無用信息，僅將當(dāng)前時(shí)刻神經(jīng)元的輸入保留作為輸入；

神經(jīng)元中待定輸出：

W₃是更新門的權(quán)重矢量，Tanh是雙曲正切函數(shù)，

神經(jīng)元輸出：

h_t為t時(shí)刻神經(jīng)元的輸出；

S4.3、計(jì)算模型的預(yù)測誤差mse，然后反向計(jì)算每個(gè)神經(jīng)元的預(yù)測誤差，使用小批量梯度下降算法MBGD更新網(wǎng)絡(luò)權(quán)重，對網(wǎng)絡(luò)進(jìn)行迭代訓(xùn)練；

S4.4、當(dāng)均方誤差mse不再下降或者滿足預(yù)設(shè)條件時(shí)，迭代結(jié)束，網(wǎng)絡(luò)訓(xùn)練完成。