[發(fā)明專利]基于多層Bi-GRU的Seq2seq網(wǎng)絡(luò)短期電力負(fù)荷預(yù)測方法

在審

• 申請?zhí)枺?/td>: 201810064305.7
• 申請日: 2018-01-23
• 公開（公告）號: CN108197751A
• 公開（公告）日: 2018-06-22
• 發(fā)明（設(shè)計）人: 路寬;蘇建軍;趙巖;畢貞福;王昕;孟祥榮;高嵩;孫雯雪;龐向坤;趙陽;王文寬;李軍;韓英昆;于慶彬;姚長青;李克雷;顏慶
• 申請（專利權(quán)）人: 國網(wǎng)山東省電力公司電力科學(xué)研究院;國家電網(wǎng)公司
• 主分類號: G06Q10/04
• 分類號: G06Q10/04;G06Q50/06
• 代理公司: 濟(jì)南圣達(dá)知識產(chǎn)權(quán)代理有限公司 37221
• 代理人: 張勇

本發(fā)明公開了一種基于多層Bi?GRU的Seq2seq網(wǎng)絡(luò)短期電力負(fù)荷預(yù)測方法，利用FCM方法提取相似日樣本并通過Min?max標(biāo)準(zhǔn)化方法對輸入變量進(jìn)行標(biāo)準(zhǔn)化，以Bi?GRU神經(jīng)元為基本單位構(gòu)建多層次Seq2seq神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，同時選用SELU激活函數(shù)作為整個神經(jīng)網(wǎng)絡(luò)的輸出層激活函數(shù)以減少梯度消失和梯度爆炸，實現(xiàn)整體模型在訓(xùn)練過程中平穩(wěn)運行。

技術(shù)領(lǐng)域

本發(fā)明涉及一種基于多層Bi-GRU的Seq2seq網(wǎng)絡(luò)短期電力負(fù)荷預(yù)測方法。

背景技術(shù)

電力工業(yè)中，短期電力負(fù)荷預(yù)測主要用于安排電力系統(tǒng)發(fā)電組合，優(yōu)化負(fù)荷調(diào)度。準(zhǔn)確的負(fù)荷預(yù)測是保證電網(wǎng)供需平衡的關(guān)鍵，也是確保電網(wǎng)安全穩(wěn)定經(jīng)濟(jì)運行的重要前提。根據(jù)預(yù)測結(jié)果，發(fā)電計劃可以得到合理安排，從而能夠使系統(tǒng)在安全范圍內(nèi)保持必要的運行費用最小。

傳統(tǒng)的短期電力負(fù)荷預(yù)測法主要有回歸分析法、趨勢外推法、專家系統(tǒng)法和時間序列法等。其中：趨勢外推法和回歸分析法主要適用于負(fù)荷數(shù)據(jù)中存在著明顯的變化趨勢且負(fù)荷數(shù)據(jù)變化比較平穩(wěn)的情況；專家系統(tǒng)法需要借用專家的主觀經(jīng)驗，個體差異較大；時間序列方法則只考慮了負(fù)荷本身的自相關(guān)關(guān)系，而忽視了對負(fù)荷影響因素的深入分析。此外，由于短期負(fù)荷數(shù)據(jù)中存在著明顯的波動性和隨機性，傳統(tǒng)的預(yù)測方法往往無法做到準(zhǔn)確預(yù)測。隨著機器學(xué)習(xí)、大數(shù)據(jù)分析和高效計算技術(shù)的發(fā)展，目前常用的短期電力負(fù)荷預(yù)測方法主要有支持向量機、人工神經(jīng)網(wǎng)絡(luò)模型等。

近年來，LSTM(Long Short Time Memory,LSTM)等具有循環(huán)網(wǎng)絡(luò)結(jié)構(gòu)的深度學(xué)習(xí)模型在自然語言處理、圖像識別等領(lǐng)域取得了一系列成果，其預(yù)測精度和可靠性得到了顯著提升。通過引入輸入門、遺忘門和輸出門，LSTM減輕了傳統(tǒng)RNN在長時間序列中的梯度消失問題，從而在序列預(yù)測領(lǐng)域中得到應(yīng)用。此外，LSTM模型也廣泛應(yīng)用于能源需求預(yù)測中，Daniel M，Kasun A和Milos M比較了標(biāo)準(zhǔn)LSTM模型與基于LSTM的Seq2seq網(wǎng)絡(luò)的短期電力負(fù)荷預(yù)測精度。Zheng H T，Yuan J B和Chen L給出了一個通用的框架，其將相似日選擇、經(jīng)驗?zāi)Ｊ椒纸夂蚅STM模型相結(jié)合來進(jìn)行預(yù)測短期負(fù)荷。GRU模型于2014年提出。已有研究結(jié)果顯示，GRU的性能與LSTM相當(dāng)，但計算效率更高，參數(shù)更少。但上述算法都存在預(yù)測精度低、過程復(fù)雜的缺點。

發(fā)明內(nèi)容

本發(fā)明為了解決上述問題，提出了一種基于多層Bi-GRU的Seq2seq網(wǎng)絡(luò)短期電力負(fù)荷預(yù)測方法，本發(fā)明能夠提高預(yù)測精度。

為了實現(xiàn)上述目的，本發(fā)明采用如下技術(shù)方案：

一種基于多層Bi-GRU的Seq2seq網(wǎng)絡(luò)短期電力負(fù)荷預(yù)測方法，利用FCM方法提取相似日樣本并通過Min-max標(biāo)準(zhǔn)化方法對輸入變量進(jìn)行標(biāo)準(zhǔn)化，以Bi-GRU神經(jīng)元為基本單位構(gòu)建多層次Seq2seq神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，同時選用SELU激活函數(shù)作為整個神經(jīng)網(wǎng)絡(luò)的輸出層激活函數(shù)以減少梯度消失和梯度爆炸，實現(xiàn)整體模型在訓(xùn)練過程中平穩(wěn)運行。

進(jìn)一步的，使用FCM計算樣本在不同簇中的隸屬度，根據(jù)隸屬度水平對樣本進(jìn)行分類，分到同類的樣本可以被歸類為具有相似水平較高的樣本。

進(jìn)一步的，將已經(jīng)分類完畢的數(shù)據(jù)劃分為訓(xùn)練集數(shù)據(jù)和測試集數(shù)據(jù)，對數(shù)據(jù)運用Min-max方法標(biāo)準(zhǔn)化。

使用Min-max方法來對輸入數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化，標(biāo)準(zhǔn)化的范圍為[0,1]。

使用多層Bi-GRU的Seq2seq網(wǎng)絡(luò)模型對標(biāo)準(zhǔn)化后的訓(xùn)練數(shù)據(jù)進(jìn)行訓(xùn)練，并把標(biāo)準(zhǔn)化后的測試集數(shù)據(jù)帶入訓(xùn)練完畢的模型中進(jìn)行預(yù)測，然后反向變化后得出最終預(yù)測結(jié)果。

訓(xùn)練過程中，使用隨機梯度下降法對模型的參數(shù)進(jìn)行優(yōu)化。