[發明專利]一種基于LSTM多狀態向量序列到序列模型的徑流預測方法

有效

• 申請號: 202110096015.2
• 申請日: 2021-01-25
• 公開（公告）號: CN112949902B
• 公開（公告）日: 2023-06-16
• 發明（設計）人: 尹翰林;張秀偉;張艷寧;王繁杜;郭子龍
• 申請（專利權）人: 西北工業大學
• 主分類號: G06Q10/04
• 分類號: G06Q10/04;G06N3/0442;G06N3/084;G06N3/08
• 代理公司: 西安凱多思知識產權代理事務所(普通合伙) 61290
• 代理人: 劉新瓊

本發明涉及一種基于LSTM多狀態向量序列到序列模型的徑流預測方法，屬于涉及數據驅動徑流預測技術領域。為了更精確地進行徑流預測，在長短期記憶人工神經網絡LSTM下用序列到序列方式進行徑流預測。首先準備數據集，并且進行數據的預處理，得到可用的序列數據；然后在將經過預處理的數據集劃分成訓練集、驗證集、測試集三個互斥的部分；接著構建LSTM多狀態向量序列到序列模型結構；最后定義損失函數、優化器，訓練并測試模型。數據集上的試驗結果表明，相對于已有的基于序列到序列的LSTM模型比較，本發明獲得的徑流預測結果具有較高的預測精度。

技術領域

本發明涉及數據驅動徑流預測技術領域，具體涉及一種基于LSTM多狀態向量序列到序列模型的徑流預測方法。

背景技術

徑流預測模型在水文科學中有著悠久的歷史，使用回歸方法預測徑流的首次嘗試可以追溯到170年前，在水文科學中是一個具有挑戰性和重要意義的非線性時間序列問題。由于流域水文特征、流域邊界條件、人類活動、降雨的時空分布等復雜因素的影響，導致了非常復雜的非線性水文過程。徑流預測模型有許多方法，包括物理模型和數據驅動模型，這兩種類型都有自己的特點。物理模型基于實際的物理過程但受限于簡化的假設，難以模擬非線性的水文過程，也就難以進行精準的徑流預測；基于神經網絡的數據驅動模型可以模擬高度非線性的復雜系統，因此提供了進行精準徑流預測的可能性。循環神經網絡(RNN)考慮了時間序列的序列信息，因此可以記憶先前的信息并捕捉時間動態特征。然而，當我們用較長的時間序列來訓練傳統RNN時，它們會出現梯度爆炸和梯度消失的問題。長短期記憶網絡(LSTM)是一種改進的RNN，隨著時間的推移保持對時間狀態的記憶，其三個非線性門控單元可以調節存儲單元信息流入和流出，能夠克服傳統RNN梯度爆炸和梯度消失的弱點。此外，基于序列到序列的LSTM模型(LSTM-S2S)展現了多步超前預測的良好性能，然而由于其架構內部只有一個狀態向量(如圖3所示)，該向量包含當前預測時間時刻之后的冗余信息，也就是模型會使用之后時刻的氣象信息預測當前時刻的徑流，而徑流的實際產生過程不會受到其后續氣象信息的影響，所以使用一個狀態向量的模型與實際不一致，因此對于某些復雜的站點或者流域的預測精度不夠高。

發明內容

要解決的技術問題

為了避免現有技術的不足之處，本發明提出一種基于LSTM多狀態向量序列到序列模型(LSTM-MSV-S2S)的徑流預測方法，減少了對水文物理機制的依賴性，顯著提升徑流預測的精度。

技術方案

一種基于LSTM多狀態向量序列到序列模型的徑流預測方法，其特征在于步驟如下：

步驟1：準備數據集

收集研究流域內各個氣象站點與徑流密切相關的特征數據和徑流值數據；

步驟2：原始數據集的預處理

預處理過程包括異常值處理、空值處理、標準化、數據序列化，然后將經過預處理的數據集按照年份劃分出訓練集、驗證集、測試集三個互斥的部分；

步驟3：構建LSTM多狀態向量序列到序列模型

模型整體架構包含五個部分，分別是氣象信息編碼器、徑流編碼器、一個多狀態向量序列形成的狀態矩陣、一個解碼器和一個全連接層；

步驟4：訓練模型

首先定義損失函數、優化器，然后前向傳播算法計算損失，并且反向傳播算法計算梯度，然后更新網絡參數的權重；模型進行多次迭代訓練，在每次迭代中，用納什效率系數NSE衡量其在驗證集下的表現；

步驟5：測試模型

將測試數據集送入迭代后的模型中運行，得到預測結果，并根據真實數據對預測結果進行評估。