[發明專利]一種基于全局注意力機制的霧霾預測方法

有效

• 申請號: 202011415067.3
• 申請日: 2020-12-03
• 公開（公告）號: CN112580859B
• 公開（公告）日: 2022-10-18
• 發明（設計）人: 薛曉軍;張春霞;彭成;牛振東;薛濤;鹿旸
• 申請（專利權）人: 北京理工大學;中國地質大學（北京）
• 主分類號: G06Q10/04
• 分類號: G06Q10/04;G06N3/08;G06N3/04
• 代理公司: 北京正陽理工知識產權代理事務所(普通合伙) 11639
• 代理人: 張利萍

本發明涉及一種基于全局注意力機制的霧霾預測方法，屬于人工智能信息預測技術領域。本方法首先獲取環境監測點的霧霾數據，對獲取的霧霾數據進行處理，基于全局注意力機制訓練霧霾預測模型，使用霧霾預測模型輸出最終預測結果。在霧霾預測任務中，引入全局注意力機制，為不同影響因素賦予不同的權重，有效解決信息傳輸距離過長的問題。引入雙向門控循環神經網絡，不僅引入訓練數據中前面時刻數據對后面時刻數據的影響，并且分析后面時刻數據和前面時刻數據的關聯，解決了霧霾預測數據中的長期依賴問題，能夠準確地預測未來時刻的霧霾數據。本方法具有良好的擴展性，可根據不同地區的數據特征，動態改變網絡結構，得到適合本地區的霧霾預測方法。

技術領域

本發明涉及一種基于全局注意力機制的霧霾預測方法，屬于人工智能信息預測技術領域。

背景技術

霧霾是影響空氣污染狀況的重要因素之一。霧霾具有區域傳輸的特性，一個地區產生的霧霾會傳輸至其他地區，并且霧霾的區域傳輸和時間相關聯，過去多個時刻的霧霾數據和未來時刻的霧霾數據具有一定關聯。因此，可以使用各個地區多個時段的環境監測點數據，對各地區未來時刻的環境質量進行預測。

2005年，在文獻《A neural network forecast for daily average PM10concentrations in Belgium》(Atmospheric Environment,2005)中，Hooyberghs和Mensink等人，根據比利時五年間十個監測點的測量結果，利用神經網絡對比利時下一天的日平均PM10濃度進行了預測。在文獻《基于BP人工神經網絡的城市PM2.5濃度空間預測》(環境污染與防治，2013)中，王敏等人使用BP(Back Propagation，反向傳播)神經網絡預測了PM2.5濃度的空間變化，研究結果表明，在固定地點預測PM2.5濃度時，BP神經網絡比普通克里格插值方法更為準確。范峻翔等人在文獻《基于RNN的空氣污染時空預報模型研究》(測繪科學，2017)中使用RNN(Recurrent Neural Network，循環神經網絡)對霧霾時間序列數據進行了預測，并且數據中包含缺失值，使用長短期記憶網絡LSTM(Long Short-TermMemory，長短期記憶)和全連接層構建了深度學習模型，用于時空預報，研究結果表明，長短期記憶模型用于空氣污染預測時，性能優于全連接神經網絡層。

但是，現有的霧霾預測方法，較難對不同時刻數據之間的關聯進行有效表示。當輸入數據的特征維度較大或神經網絡較深時，模型中信息傳輸的距離過長，往往會丟失部分有效信息，因此，需要對不同時刻數據之間關聯的表示進行改進，解決信息傳輸距離過長的問題。

發明內容

本發明的目的是為了解決霧霾預測任務中網絡信息傳輸距離過長，導致難以獲取有效信息的技術問題，提出一種基于全局注意力機制的霧霾預測方法。

該方法的特點是將全局注意力機制和雙向門控循環神經網絡相結合，并應用在霧霾預測中，有效地考慮了不同時刻的數據對未來時刻數據的影響。

在序列數據處理方面，循環神經網絡具有較好的性能，可以對序列數據中的時序信息進行提取。雙向門控循環神經網絡是一種循環神經網絡，不僅具有較好的性能，而且結構比長短期記憶網絡更為簡潔。門控循環神經網絡由門控循環單元GRU(Gate RecurrentUnit)組成，門控循環單元中使用更新門和重置門。更新門表示前一時刻的信息對當前時刻狀態的影響程度，重置門表示新的輸入信息與之前的記憶信息結合的方式。雙向門控循環神經網絡，由兩層門控循環單元疊加組成，一層表示正向傳播的狀態，另一層表示反向傳播的狀態，對不同時刻狀態之間的關聯進行表示。