[發(fā)明專利]時(shí)間序列預(yù)測(cè)區(qū)間估計(jì)方法

在審

• 申請(qǐng)?zhí)枺?/td>: 202210630783.6
• 申請(qǐng)日: 2022-06-06
• 公開（公告）號(hào): CN114997371A
• 公開（公告）日: 2022-09-02
• 發(fā)明（設(shè)計(jì)）人: 閻威武;李慶輝
• 申請(qǐng)（專利權(quán)）人: 上海交通大學(xué)
• 主分類號(hào): G06N3/04
• 分類號(hào): G06N3/04;G06N3/08;G06Q10/04
• 代理公司: 上海漢聲知識(shí)產(chǎn)權(quán)代理有限公司 31236
• 代理人: 胡晶

本發(fā)明提供了一種時(shí)間序列預(yù)測(cè)區(qū)間估計(jì)方法，基于循環(huán)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)(RNN)，構(gòu)建基于覆蓋寬度準(zhǔn)則(CWC)綜合指標(biāo)的預(yù)測(cè)區(qū)間優(yōu)化目標(biāo)函數(shù),實(shí)現(xiàn)基于循環(huán)神經(jīng)網(wǎng)絡(luò)的時(shí)間序列預(yù)測(cè)區(qū)間估計(jì)方法(RNN?LUBE)；所述預(yù)測(cè)區(qū)間優(yōu)化目標(biāo)函數(shù)為CWC目標(biāo)函數(shù)的可微近似形式，能夠使用梯度下降法訓(xùn)練網(wǎng)絡(luò)；結(jié)合時(shí)間序列周期分解方法，提供一種結(jié)合周期分解的循環(huán)神經(jīng)網(wǎng)絡(luò)LUBE方法，在預(yù)測(cè)區(qū)間估計(jì)方法能直接獲取時(shí)間序列的周期分量，以提升區(qū)間估計(jì)的效果。本發(fā)明通過改進(jìn)LUBE方法的網(wǎng)絡(luò)結(jié)構(gòu)和目標(biāo)函數(shù)，將時(shí)間序列的周期分解模型引入上述預(yù)測(cè)區(qū)間估計(jì)模型，提高了預(yù)測(cè)區(qū)間估計(jì)的質(zhì)量和綜合性能。

技術(shù)領(lǐng)域

本發(fā)明涉及人工智能、電子信息工程技術(shù)領(lǐng)域，具體地，涉及一種時(shí)間序列預(yù)測(cè)區(qū)間估計(jì)方法。

背景技術(shù)

在社會(huì)經(jīng)濟(jì)中的實(shí)際數(shù)據(jù)存在不確定性，這種時(shí)序數(shù)據(jù)的不確定分析和預(yù)測(cè)是電力、鋼鐵、化工等行業(yè)生產(chǎn)、運(yùn)行、調(diào)度、優(yōu)化、決策分析和管理的重要基礎(chǔ)。時(shí)間序列數(shù)據(jù)模型的不確定性由幾個(gè)原因造成：模型錯(cuò)誤設(shè)定或者偏差、訓(xùn)練數(shù)據(jù)的不確定性或者方差、模型參數(shù)的不確定性。數(shù)據(jù)情況的不同、模型結(jié)構(gòu)的不同和訓(xùn)練中的細(xì)微差異都會(huì)導(dǎo)致對(duì)同一個(gè)時(shí)間點(diǎn)的分析和預(yù)測(cè)結(jié)果出現(xiàn)差異。時(shí)間序列預(yù)測(cè)區(qū)間估計(jì)是時(shí)間序列領(lǐng)域經(jīng)典的問題，對(duì)時(shí)間序列目標(biāo)輸出的不確定分析中可以直觀地導(dǎo)出預(yù)測(cè)區(qū)間。對(duì)時(shí)間序列的預(yù)測(cè)區(qū)間進(jìn)行估計(jì)不僅僅是時(shí)間序列預(yù)測(cè)的補(bǔ)充工作，也帶來了更完備的分析結(jié)果。

目標(biāo)輸出的不確定性是時(shí)間序列的預(yù)測(cè)區(qū)間估計(jì)的根本原因。時(shí)間序列的預(yù)測(cè)區(qū)間由偶然不確定度和模型不確定度共同衡量。時(shí)間序列中的周期性分量是確定性分量。假設(shè)時(shí)間序列的周期分解完美提取了周期性分量，將分解的剩余數(shù)據(jù)再用于估計(jì)偶然不確定度與直接使用原始數(shù)據(jù)估計(jì)偶然不確定度是等效的。去除原始數(shù)據(jù)中的周期性序列相當(dāng)于去除了數(shù)據(jù)中的確定性性特征。因此，預(yù)測(cè)區(qū)間估計(jì)模型不再需要對(duì)周期性進(jìn)行建模，有效節(jié)省了模型的參數(shù)，且模型能夠“專注”于學(xué)習(xí)數(shù)據(jù)中的其他特征，這些特征對(duì)于預(yù)測(cè)區(qū)間估計(jì)是更加關(guān)鍵。引入時(shí)間序列的周期分解模型對(duì)預(yù)測(cè)區(qū)間估計(jì)模型有積極作用。

預(yù)測(cè)區(qū)間估計(jì)方法有：1)使用時(shí)間序列預(yù)測(cè)模型的置信區(qū)間(CIs)代替預(yù)測(cè)區(qū)間。但是，時(shí)間序列的預(yù)測(cè)區(qū)間和模型的置信區(qū)間不完全相同，這種方法會(huì)產(chǎn)生比較大的誤差。2)基于神經(jīng)網(wǎng)絡(luò)的統(tǒng)計(jì)方法，包括Delta、貝葉斯、均值方差估計(jì)(MVE)和Bootstrap等。這類方法需要數(shù)據(jù)滿足某種分布的前提假設(shè)，需要根據(jù)數(shù)據(jù)分布的形式計(jì)算均值和方差，涉及了雅可比矩陣或海森矩陣的計(jì)算，計(jì)算量巨大。3)預(yù)測(cè)區(qū)間直接估計(jì)方法，Khosravi等人(Lower upper bound estimation method for construction of neural network-basedprediction intervals.IEEE Transactions on Neural Networks,2011,22(3):337-346)提出的基于神經(jīng)網(wǎng)絡(luò)的上下界估計(jì)(LUBE,Lower Upper Bound Estimat ion)方法為代表。LUBE方法的計(jì)算量遠(yuǎn)小于神經(jīng)網(wǎng)絡(luò)的統(tǒng)計(jì)方法，是近年來發(fā)展起來的新興預(yù)測(cè)區(qū)間估計(jì)方法。LUBE方法是基于神經(jīng)網(wǎng)絡(luò)(NN)的時(shí)間序列預(yù)測(cè)區(qū)間直接估計(jì)方法(NN-LUBE)，與傳統(tǒng)的基于神經(jīng)網(wǎng)絡(luò)的統(tǒng)計(jì)預(yù)測(cè)區(qū)間估計(jì)方法不同，LUBE不依賴于數(shù)據(jù)的分布，通過神經(jīng)網(wǎng)絡(luò)直接輸出上界和下界。LUBE方法是目前非常有潛力和競(jìng)爭(zhēng)力的區(qū)間預(yù)測(cè)估計(jì)方法。

然而，NN-LUBE存在方法基于神經(jīng)網(wǎng)絡(luò)(NN)，打破了時(shí)間序列內(nèi)在的時(shí)間依賴關(guān)系，不適合時(shí)間序列預(yù)測(cè)的區(qū)間估計(jì)和不去確定性分析。

發(fā)明內(nèi)容