[發明專利]一種基于深度學習的工控系統時空數據預測方法

在審

• 申請號: 201810242045.8
• 申請日: 2018-03-22
• 公開（公告）號: CN108664687A
• 公開（公告）日: 2018-10-16
• 發明（設計）人: 陳晉音;徐軒桁;蘇蒙蒙;施朝霞
• 申請（專利權）人: 浙江工業大學
• 主分類號: G06F17/50
• 分類號: G06F17/50;G06N3/04
• 代理公司: 杭州天勤知識產權代理有限公司 33224
• 代理人: 曹兆霞

1.一種基于深度學習的工控系統時空數據預測方法，包括以下步驟：

(1)建立時空數據的訓練模型，所述訓練模型包括GCN和ST-LSTM，所述GCN用于提取輸入數據的空間特征，以t-1時刻的時空數據形成的圖卷積網絡和網絡的鄰接矩陣作為所述GCN的輸入，以t-1時刻的時空數據的空間特征作為所述GCN的輸出；所述ST-LSTM用于提取輸入數據的時空特征，將所述GCN輸出的t-1時刻第i個節點的鄰居節點隱藏層向量t-1時刻的鄰居節點cell層向量和LSTM的t時刻的輸入向量t-1時刻的隱藏層向量t-1時刻的cell層向量同時作為ST-LSTM的輸入，以t時刻的時空特征作為輸出；

(2)以t-1時刻的時空數據作為所述訓練模型的輸入，以t時刻的時空數據作為所述訓練模型的真值輸出，以所述訓練模型的輸出與真實輸出的交叉熵作為訓練目標，對所述訓練模型進行訓練，更新訓練模型的參數，當訓練目標收斂時，獲得時空數據的預測模型；

(3)將待預測的時空數據輸入到所述預測模型中，經計算獲得下一時刻的時空數據。

2.如權利要求1所述的基于深度學習的工控系統時空數據預測方法，其特征在于，在所述GCN中，每層GCN的傳播公式為：

其中，A為每層GCN的鄰接矩陣，I_N為N維的單位矩陣，H^(l)為第l層GCN的輸出，W^(l)為第l層GCN的權重矩陣，σ(·)表示非線性激活函數。

3.如權利要求2所述的基于深度學習的工控系統時空數據預測方法，其特征在于，所述非線性激活函數為ReLU函數或softmax函數。

4.如權利要求1所述的基于深度學習的工控系統時空數據預測方法，其特征在于，在訓練和計算的過程中，采用寬度優先搜索策略、深度優先搜索策略或隨機游走策略遍歷網絡中的所有節點。

5.如權利要求1所述的基于深度學習的工控系統時空數據預測方法，其特征在于，在對訓練模型進行訓練的過程中，采用梯度下降算法來更新訓練模型里的所有參數。

6.如權利要求1所述的基于深度學習的工控系統時空數據預測方法，其特征在于，在建立ST-LSTM的過程中，還進行以下操作：

(a)通過定義遺忘門f_i^t來決定從節點i的cell層信息中丟棄的信息；

其中，W_i^f表示輸入數據與遺忘門之間的權重，表示上一個時刻隱藏層向量與遺忘門之間的權重，表示GCN輸出的上一個時刻鄰居節點隱藏層向量與遺忘門之間的權重，表示遺忘門的偏置，σ(.)表示sigmoid激活函數。

(b)通過定義自適應的遺忘門來決定從節點i的鄰居節點的cell層信息中丟棄的信息；

其中，表示輸入數據與自適應遺忘門之間的權重，表示上一個時刻隱藏層向量與自適應遺忘門之間的權重，表示GCN輸出的上一個時刻鄰居節點隱藏層向量與自適應遺忘門之間的權重，表示自適應遺忘門的偏置，σ(.)表示sigmoid激活函數；

(c)通過定義輸入門來決定保存在節點i的cell層中的新輸入信息；

其中，W_i^g表示輸入數據與輸入門之間的權重，表示上一個時刻隱藏層向量與輸入門之間的權重，表示GCN輸出的上一個時刻鄰居節點隱藏層向量與輸入門之間的權重，表示輸入門的偏置，σ(.)表示sigmoid激活函數；

(d)通過遺忘門f_i^t、和輸入門更新節點i的cell層中的信息；

(e)通過定義輸出門來決定節點i的cell層中輸出信息；

其中，W_i^o表示輸入數據與輸出門之間的權重，表示上一個時刻隱藏層向量與輸出門之間的權重，表示GCN輸出的上一個時刻鄰居節點隱藏層向量與輸出門之間的權重，表示輸出門的偏置，σ(.)表示sigmoid激活函數。