[發明專利]一種面向物聯網的多元時間序列預測方法及系統

在審

• 申請號: 202211530599.0
• 申請日: 2022-12-01
• 公開（公告）號: CN115759461A
• 公開（公告）日: 2023-03-07
• 發明（設計）人: 王燦;朱明華
• 申請（專利權）人: 華東師范大學
• 主分類號: G06Q10/04
• 分類號: G06Q10/04;G06Q50/26;G06F18/27;G06N3/045;G06N3/0442;G06N3/0464;G06N3/048;G06N3/084;G16Y20/10;G16Y30/00;G16Y40/10;G16Y40/20;G06F123/02
• 代理公司: 上海藍迪專利商標事務所(普通合伙) 31215
• 代理人: 徐筱梅;張翔

1.一種面向物聯網的多元時間序列預測方法，其特征在于，包括以下步驟：

S1、讀取多元時間序列數據集，并對數據進行預處理；

S2、對獲取的多元時間序列數據進行數據集劃分；

S3、初始化模型的超參數，并構建面向物聯網的多元時間序列預測模型DLARN；

S4、根據設定的超參數，對所述多元時間序列預測模型DLARN進行訓練操作，得到目標預測模型；

S5、根據所述目標預測模型進行預測操作，得到最終預測結果；其中：

步驟S3所述構建面向物聯網的多元時間序列預測模型DLARN，具體為：構建一個包括深度學習模塊和自回歸模塊的多元時間序列預測模型DLARN；其中，所述深度學習模塊依次包括卷積層、循環網絡層、注意力層和全連接層；所述自回歸模塊與深度學習模塊并行，用于捕捉時間序列的線性趨勢；

所述卷積層是一個不包含池化層的一維卷積神經網絡，使用d_f個濾波器；所述濾波器高度為N、寬度為ω，每個濾波器掃描所述輸入矩陣X_input并進行卷積操作得到一個特征向量，第k個所述濾波器的計算公式為：

l_k＝RELU(S_k*X_input+β_k)

其中，RELU(·)是激活函數，表達式為RELU(x)＝max(0,x)，S_k和β_k都是該層的超參數，*表示卷積操作；最終所有濾波器生成的特征向量組成卷積層的輸出矩陣；

所述循環網絡層是一個雙向長短期記憶遞歸神經網絡BiLSTM，由前向LSTM和后向LSTM組成，通過兩個方向發現所述多元時間序列數據的隱藏信息；

所述注意力層采用時間注意力機制，在不同的時間戳為循環網絡層輸出的隱藏狀態分配權重，其計算公式如下：

e_t＝tanh(Ph_t+g_t)

其中，h_t是所述循環網絡層在時間戳t的輸出，P和g_t代表權重和偏差；而e_t是h_t的注意力值，表示h_t對輸出值的影響程度；為了使所有的注意力權重之和保持為是1，α_t是通過變換_t得到的權重系數；而v是注意層的輸出向量；

所述自回歸模塊作為所述模型DLARN的線性預測部分，采用自回歸模型AR。

2.根據權利要求1所述的面向物聯網的多元時間序列預測方法，其特征在于，所述步驟S1中的對數據進行預處理，具體為：對所述多元時間序列數據進行缺失值處理和歸一化處理。

3.根據權利要求1所述的面向物聯網的多元時間序列預測方法，其特征在于，所述步驟S4中，對所述多元時間序列預測模型DLARN中進行訓練操作，訓練操作的過程具體為：

A1：所述多元時間序列數據輸入到卷積層中，提取輸入序列的短期時間依賴性和多個變量之間的依賴關系；

A2：將所述卷積層輸出的特征向量輸入到循環網絡層中，循環網絡層計算所述特征向量并獲得隱藏狀態，捕獲所述多元時間序列數據中潛在的長期時間依賴性；

A3：將所述循環網絡層計算得到的隱藏狀態輸入到注意力層中，獲得序列中各項數據與預測值的相關性，從而從所有的信息中突出重要的信息，減少不重要信息的干擾；

A4：將經過所述注意力層處理過數據輸入到全連接層進行全連接處理，得到所述深度學習模塊的預測值

A5：將所述多元時間序列數據輸入到自回歸模塊，采用自回歸模型AR進行處理得到自回歸模塊的預測值

A6：將步驟A4和步驟A5計算得到的兩個預測值進行加和，得到所述多元時間序列預測模型DLARN的預測值

A7：根據設計的超參數，判斷模型是否達到設置的迭代訓練次數epochs，若是，則輸出目標預測模型，否則返回步驟A1繼續訓練。

4.一種面向物聯網的多元時間序列預測系統，其特征在于，包括：物聯網感知層、智能網關層和物聯網云平臺層，所述物聯網感知層由數個傳感器組成，用于采集現實世界中的環境信息從而獲取時序數據；所述智能網關層作為感知層與云平臺層之間的橋梁，接收來自所述感知層的數據，并對數據進行處理，之后通過網絡將數據上傳至物聯網云平臺層；所述物聯網云平臺層接收來自智能網關層的數據，并執行面向物聯網的多元時間序列預測方法；所述傳感器不斷采集、經過所述智能網關層傳輸到云平臺層的數據組成了多元時間序列數據。