[發(fā)明專利]基于深度雙向長(zhǎng)短期記憶網(wǎng)絡(luò)的空氣質(zhì)量預(yù)測(cè)方法

在審

• 申請(qǐng)?zhí)枺?/td>: 201911246410.3
• 申請(qǐng)日: 2019-12-06
• 公開（公告）號(hào): CN111047012A
• 公開（公告）日: 2020-04-21
• 發(fā)明（設(shè)計(jì)）人: 陸彬春;陳鳴輝;何強(qiáng);符禮丹;吳子陽(yáng);羅子鑒;季琪崧
• 申請(qǐng)（專利權(quán)）人: 重慶大學(xué)
• 主分類號(hào): G06N3/04
• 分類號(hào): G06N3/04;G06N3/08;G06Q10/04;G06Q10/06
• 代理公司: 暫無信息
• 代理人: 暫無信息

基于深度雙向長(zhǎng)短期記憶網(wǎng)絡(luò)的空氣質(zhì)量預(yù)測(cè)方法。本發(fā)明專利針對(duì)空氣污染物難以預(yù)測(cè)的現(xiàn)狀，設(shè)計(jì)了高精度預(yù)測(cè)算法。算法創(chuàng)新性地運(yùn)用基于深度雙向長(zhǎng)短期記憶網(wǎng)絡(luò)對(duì)歷史污染物指標(biāo)的時(shí)序數(shù)據(jù)進(jìn)行處理，從而進(jìn)行污染物的預(yù)測(cè)及分析。算法由PYTHON3.6.5的Keras工具搭建，包括以下步驟：S1:多個(gè)污染物指標(biāo)的時(shí)間序列數(shù)據(jù)劃分為訓(xùn)練集、驗(yàn)證集和測(cè)試集；S2:將訓(xùn)練集的數(shù)據(jù)輸入深度雙向長(zhǎng)短期記憶網(wǎng)絡(luò)中進(jìn)行訓(xùn)練，直到網(wǎng)絡(luò)收斂；S3:將驗(yàn)證集的數(shù)據(jù)輸入網(wǎng)絡(luò)進(jìn)行驗(yàn)證，并調(diào)節(jié)網(wǎng)絡(luò)的參數(shù)，最終得到最優(yōu)的參數(shù)；S4:將網(wǎng)絡(luò)應(yīng)用于測(cè)試集上進(jìn)行模型的評(píng)價(jià)，得到高準(zhǔn)確率效果；S5:將模型保存應(yīng)用于實(shí)際情況中。該算法為空氣污染物預(yù)測(cè)提供了一種新的解決方案，進(jìn)而在空氣污染預(yù)測(cè)領(lǐng)域進(jìn)行廣泛應(yīng)用。

【技術(shù)領(lǐng)域】

本發(fā)明涉及一種基于深度雙向長(zhǎng)短期記憶網(wǎng)絡(luò)的空氣質(zhì)量預(yù)測(cè)方法，屬于空氣污染預(yù)測(cè)領(lǐng)域。

【背景技術(shù)】

空氣污染物濃度的預(yù)測(cè)擁有很強(qiáng)的學(xué)科交叉性，一直是環(huán)境、氣象、數(shù)學(xué)、地理及計(jì)算機(jī)科學(xué)領(lǐng)域研究的熱點(diǎn)。由于污染成分的多樣性和復(fù)雜性，污染指標(biāo)直接往往存在高度的非線性關(guān)系，傳統(tǒng)數(shù)學(xué)模型方法很難建立精準(zhǔn)的預(yù)測(cè)模型，并且需要大量的數(shù)據(jù)采集及運(yùn)動(dòng)機(jī)理的分析，加上氣象條件實(shí)時(shí)變化的干擾，更增大了空氣污染物預(yù)測(cè)的困難程度。

常見的方法主要分為理論的方法和基于統(tǒng)計(jì)的方法。基于統(tǒng)計(jì)學(xué)的預(yù)測(cè)方法越來越受到人們的重視，因?yàn)檫@些方法本身不需要過多的先驗(yàn)知識(shí)，并且可以高效準(zhǔn)確地得到輸入和輸出之間的映射關(guān)系，例如人工神經(jīng)網(wǎng)絡(luò)、聚類、回歸等方法。目前，長(zhǎng)短期記憶網(wǎng)絡(luò)已經(jīng)被用于空氣污染物預(yù)測(cè)，并取得了良好的效果。由于可以充分利用前向和后向的信息，雙向LSTM準(zhǔn)確率通常比單向LSTM要高，穩(wěn)定性要好。因此，雙向長(zhǎng)短期記憶網(wǎng)絡(luò)作為一種優(yōu)秀的深度學(xué)習(xí)時(shí)間序列預(yù)測(cè)方法，可以有效地挖掘和利用正序和逆序時(shí)間序列的隱藏信息用于空氣污染物預(yù)測(cè)。近年來，深度學(xué)習(xí)在回歸任務(wù)中體現(xiàn)出了極大的優(yōu)勢(shì)，受此啟發(fā)，本申請(qǐng)人提出了一種基于深度雙向長(zhǎng)短期記憶網(wǎng)絡(luò)的空氣質(zhì)量預(yù)測(cè)方法來解決上述問題，以提高污染物的預(yù)測(cè)精度。

【發(fā)明內(nèi)容】

本發(fā)明專利針對(duì)上述現(xiàn)有技術(shù)存在的缺陷，設(shè)計(jì)了一種基于深度雙向長(zhǎng)短期記憶網(wǎng)絡(luò)的空氣質(zhì)量預(yù)測(cè)方法。本發(fā)明專利的技術(shù)系統(tǒng)能很好的利用歷史污染物指標(biāo)數(shù)據(jù)實(shí)現(xiàn)空氣質(zhì)量的預(yù)測(cè)，有助于空氣污染的預(yù)防和治理。

為了解決循環(huán)神經(jīng)網(wǎng)絡(luò)的梯度消失問題及充分利用數(shù)據(jù)前序和后序的關(guān)系，在本專利所提出的方法中，運(yùn)用了雙向長(zhǎng)短期記憶網(wǎng)絡(luò)。長(zhǎng)短期記憶網(wǎng)絡(luò)是循環(huán)神經(jīng)網(wǎng)絡(luò)的一種，每一個(gè)單元包含輸入門、遺忘門和輸出門，可以有效處理長(zhǎng)短期的時(shí)序數(shù)據(jù)，并獲得有用信息。雙向循環(huán)的神經(jīng)網(wǎng)絡(luò)增加了每層網(wǎng)絡(luò)之間的節(jié)點(diǎn)連接，讓前向?qū)蛹?xì)胞狀態(tài)的輸入包含輸入和上一時(shí)刻的輸出，后向?qū)拥募?xì)胞狀態(tài)的輸入包含輸入和下一時(shí)刻的的輸出，最終的輸出層由前向?qū)雍秃笙驅(qū)拥妮敵龉餐瑳Q定。

整個(gè)算法的結(jié)構(gòu)的具體步驟如下：

S1：數(shù)據(jù)采集后進(jìn)行預(yù)處理，得到污染物時(shí)序數(shù)據(jù)，并劃分?jǐn)?shù)據(jù)集為訓(xùn)練集、驗(yàn)證集和測(cè)試集；

S2：將訓(xùn)練集的數(shù)據(jù)輸入深度雙向長(zhǎng)短期記憶網(wǎng)絡(luò)中進(jìn)行訓(xùn)練，直到網(wǎng)絡(luò)收斂；

雙向長(zhǎng)短期記憶網(wǎng)絡(luò)的計(jì)算過程為：

h_i＝f(w₁x_i+w₂h_i-1)

h_i'＝f(w₃x_i+w₅h_i+1')

o_i＝g(w₅h_i+w₆h_i')

其中w為不同的權(quán)重，h為前向隱藏狀態(tài)，h’為反向隱藏狀態(tài)，x為輸入，o為輸出。