[發明專利]一種基于數據增強的神經網絡時間序列分類方法

在審

• 申請號: 202110179057.2
• 申請日: 2021-02-09
• 公開（公告）號: CN113035361A
• 公開（公告）日: 2021-06-25
• 發明（設計）人: 王天;張婷;劉兆英;李玉鑑
• 申請（專利權）人: 北京工業大學
• 主分類號: G16H50/70
• 分類號: G16H50/70;G06N3/04;G06K9/62;G06N3/08
• 代理公司: 北京思海天達知識產權代理有限公司 11203
• 代理人: 沈波

1.一種基于數據增強的神經網絡時間序列分類方法，其特征在于：包括以下步驟：

步驟1：對包含N個樣本的時間序列數據集D＝{(x₁,y₁),(x₂,y₂),...,(x_N,y_N)}進行預處理；

步驟2：對訓練集D_train進行數據增強；

步驟3：構建LSTM-FCN模型，LSTM-FCN中有兩個并行分支：LSTM和FCN，LSTM由一個LSTM單元組成，隱含狀態個數為8，最后是丟棄率為0.8的丟棄層；FCN由3個一維卷積層組成，分別具有{7×1,5×1,3×1}的卷積核和{128,256,128}個通道，卷積步長均為1，每個卷積層后都有一個塊歸一化層和修正線性單元，FCN的最后一層為全局平均池化層；對于第i個輸入時間序列樣本，LSTM-FCN首先分別使用LSTM和FCN提取特征f_LSTM和f_FCN，然后將特征f_LSTM、f_FCN在特征維度上進行拼接，最后使用Softmax對拼接的特征進行分類；

步驟4：選擇迭代次數、學習率參數，每次迭代按照生成訓練集D_mixup訓練LSTM-FCN模型，以交叉熵函數作為損失函數，使用反向傳播和梯度下降算法Adam訓練網絡，并保存訓練好的網絡，交叉熵函數公式為：

其中，為時間序列真實標簽，為時間序列預測標簽，1≤p≤N_train；

步驟5：在測試集D_test上測試訓練好的LSTM-FCN網絡，計算時間序列的分類準確率。

2.根據權利要求1所述的一種基于數據增強的神經網絡時間序列分類方法，其特征在于：預處理步驟包括：

步驟1.1：使用z-score標準化方法對時間序列數據集D進行標準化處理，標準化公式為：

其中，x_i表示第i個時間序列樣本，μ表示時間序列樣本均值，σ表示時間序列樣本方差，x_i′表示標準化后的第i個時間序列樣本，1≤i≤N；

步驟1.2：將時間序列樣本類別標簽y_i轉換為獨熱編碼y′_i，其中，y′_i為具有C個元素的一維向量，C為時間序列樣本類別數量，轉換公式為：

其中，j∈[0,C)，且j屬于整數；

步驟1.3：將數據集D以8:2劃分為訓練集D_train和測試集D_test。

3.根據權利要求1所述的一種基于數據增強的神經網絡時間序列分類方法，其特征在于：步驟2包括：

步驟2.1：根據Mixup公式，首先選擇參數α：

其中，(x′_p,y′_p)和(x′_q,y′_q)為兩個不同的時間序列樣本，為生成的時間序列樣本，λ～Beta(α,α)，α∈(0,∞)，選擇參數α，并從Beta(α,α)分布中產生隨機數λ；1≤p≤N_train，1≤q≤N_train，p,q∈N⁺；

步驟2.2：從訓練集D_train中依次選擇M個樣本，1≤M≤N_train，得到時間序列樣本集D_p＝{(x′_p1,y′_p1),(x′_p2,y′_p2),...,(x′_pM,y′_pM)}，對樣本集D_p隨機排列，得到時間序列樣本集D_q＝{(x′_q1,y′_q1),(x′_q2,y′_q2),...,(x′_qM,y′_qM)}，其中pm≠qm，1≤m≤M；

步驟2.3：利用樣本集D_p和樣本集D_q計算出增強后的訓練集作為一次迭代的訓練數據集，計算公式為：

其中，(x′_pm,y′_pm)為D_p中的第m個時間序列樣本，(x′_qm,y′_qm)為D_q中的第m個時間序列樣本，為生成的第m個時間序列樣本。