[發明專利]基于正反卷積神經網絡的時空大數據預測方法和系統

有效

• 申請號: 201711192977.8
• 申請日: 2017-11-24
• 公開（公告）號: CN107992938B
• 公開（公告）日: 2019-05-14
• 發明（設計）人: 龍明盛;王建民;王韞博;黃向東
• 申請（專利權）人: 清華大學
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06Q10/04
• 代理公司: 北京路浩知識產權代理有限公司 11002
• 代理人: 王瑩;吳歡燕

本發明提供一種基于正反卷積神經網絡的時空大數據預測方法和系統，方法包括：將時空大數據輸入訓練好的正反卷積神經網絡模型，獲取預測結果；訓練好的正反卷積神經網絡模型通過如下步驟獲?。焊鶕我粫r刻卷積記憶和任一時刻卷積輸出門獲取任一時刻卷積輸出，構建任一時刻卷積長短時間記憶單元；根據任一時刻反卷積記憶和任一時刻反卷積輸出門獲取任一時刻反卷積輸出，構建任一時刻反卷積長短時間記憶單元；搭建正反卷積神經網絡模型；將由觀測值組成的張量序列數據輸入正反卷積神經網絡模型進行訓練，獲得訓練好的正反卷積神經網絡模型。本發明通過分析和學習過去觀測到的數據，對時空數據的隱含特征進行學習，預測未來的時空大數據序列。

技術領域

本發明涉及計算機數據分析領域，更具體地，涉及一種基于正反卷積神經網絡的時空大數據預測方法和系統。

背景技術

數據挖掘的研究是以數據本身的特性為基礎，通過建模來實現對海量數據中隱藏信息的利用的，因此，能否充分捕捉數據中的種種隱含聯系是評價一個模型優劣的重要標準。作為生活在時間和空間中的生物，能夠收集到同時具有時間和空間兩種維度層次的數據。例如降水量數據中不僅包含在某一特定時間時，一定范圍內降水量分布情況的空間分布數據，還包含在某一特定空間位置的降水量時間分布數據。如果僅僅從空間維度或者時間維度來分析數據，必然會造成顯著地信息損失。

最近一段時間，數據挖掘領域最前沿的研究已經在單純涉及時間維度或者空間維度的問題上實現突破性進展，如以遞歸神經網絡為代表的時間序列數據分析方法，和以卷積神經網絡為代表的空間數據分析方法。但是，針對將時間數據和空間數據整合在一起進行分析的數據挖掘方法還遠沒有達到預期。同時，對于時空數據分析方法的需求是巨大的，諸如天氣預報、視頻分類、圖像預測等真實應用場景需要對時空數據進行處理。

發明內容

本發明提供一種克服上述問題的一種基于正反卷積神經網絡的時空大數據預測方法和系統。

根據本發明的一個方面，提供一種基于正反卷積神經網絡的時空大數據預測方法，包括：將時空大數據輸入訓練好的正反卷積神經網絡模型，獲取預測結果；其中，所述訓練好的正反卷積神經網絡模型通過如下步驟獲?。焊鶕我粫r刻卷積記憶和任一時刻卷積輸出門獲取任一時刻卷積輸出，并基于所述任一時刻卷積輸出構建任一時刻卷積長短時間記憶單元；根據任一時刻反卷積記憶和任一時刻反卷積輸出門獲取任一時刻反卷積輸出，并基于所述任一時刻反卷積輸出構建任一時刻反卷積長短時間記憶單元；通過所有卷積長短時間記憶單元和所有反卷積長短時間記憶單元搭建所述正反卷積神經網絡模型，其中，所述正反卷積神經網絡模型是以時刻和層為維度的二維模型，每一層的長度均相等，每一時刻的長度均相等；將由觀測值組成的張量序列數據輸入所述正反卷積神經網絡模型進行訓練，獲得所述訓練好的正反卷積神經網絡模型。

優選地，所述通過所有卷積長短時間記憶單元和所有反卷積長短時間記憶單元搭建所述正反卷積神經網絡模型進一步包括：將所有卷積長短時間記憶單元置入所述正反卷積神經網絡模型的較低層，將所有反卷積長短時間記憶單元置入所述正反卷積神經網絡模型的較高層，其中，任一所述反卷積長短時間記憶單元所處的層數比任一所述卷積長短時間記憶單元所處的層數高，且所述卷積長短時間記憶單元的數量與所述反卷積長短時間記憶單元的數量相等。

優選地，所述任一時刻卷積記憶通過以下步驟獲?。和ㄟ^以下公式獲取卷積輸入門：

其中，i_t為卷積輸入門，σ為S型非線性激活函數Sigmoid，W_xi為計算卷積輸入門時和做卷積操作的卷積核，*為卷積運算符，為任一時刻的輸入量，W_hi為計算卷積輸入門和做卷積操作的卷積核，為任一時刻的上一時刻的卷積輸出，W_ci為計算卷積輸入門時和做卷積操作的卷積核，⊙為阿達馬算子，為任一時刻的上一時刻的卷積記憶，b_i為卷積輸入門偏差；

通過以下公式獲取卷積遺忘門：