[發明專利]工業過程的多尺度殘差卷積與LSTM融合性能評估方法

在審

• 申請號: 202110278058.2
• 申請日: 2021-03-15
• 公開（公告）號: CN113052218A
• 公開（公告）日: 2021-06-29
• 發明（設計）人: 劉凱;吳鋒;張日東
• 申請（專利權）人: 杭州電子科技大學
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08
• 代理公司: 杭州浙科專利事務所(普通合伙) 33213
• 代理人: 楊小凡

1.工業過程的多尺度殘差卷積與LSTM融合性能評估方法，其特征在于包括如下步驟：

步驟一、以頻率f_s采集工業過程系統變量的運行數據，建立一個含有多變量，多類型故障的數據集，并對其進行數據預處理，在此基礎上對故障類型進行編號打標簽，設置對應的關系，之后對故障類型和標簽劃分相應的訓練集和測試集；

步驟二、構建多尺度殘差卷積與LSTM網絡故障診斷模型，包括殘差模塊、多尺度殘差模塊、LSTM模塊以及分類模塊，具體包括如下步驟：

步驟2.1、殘差模塊包括卷積層和BN層，卷積層對數據進行卷積運算，采用relu激活函數，padding采用same表示填充輸入，使得輸出與輸入具有相同的長度，并使用正則化；

BN層對輸入數據進行批歸一化操作，使得輸出數據的均值0，方差為1；

殘差模塊的輸出結果輸入到最大池化層中；

步驟2.2、多尺度殘差模塊分別采用不同卷積核大小的殘差模塊并行連接，將提取到的特征數據拼接成特征向量，通過多尺度特征連接模塊進行特征融合得到輸出特征y，之后輸入到LSTM模塊；

步驟2.3、LSTM模塊包括LSTM網絡、BN層以及最大池化層，采用激活函數，輸出結果輸入到分類模塊中；

步驟2.4、分類模塊包括全連接層與dropout層，全連接層將卷積網絡提取到的局部特征進行展平加權，輸入到dropout層；

dropout層以概率p隨機丟棄網絡中的神經元，加強模型的泛化能力，之后將輸出結果輸入到分類層；

步驟三、利用訓練集訓練多尺度殘差卷積與LSTM網絡故障診斷模型，以故障類型標簽作為所述模型的輸出，將輸出標簽與真實標簽的交叉熵作為損失函數，利用優化器進行反向傳播，更新整個模型的參數，優化損失函數；

步驟四、將測試集輸入訓練好的多尺度殘差卷積與LSTM網絡故障診斷模型中，進行故障識別，輸出診斷結果。

2.如權利要求1所述的工業過程的多尺度殘差卷積與LSTM融合性能評估方法，其特征在于所述步驟2.1中的卷積運算如下：

x^[l]＝f(W^[l]*x^[l-1]+b^[l]) (2)

式中x^[l]表示第l層的輸出，l∈[1，2，…,n]，W^[l]表示第l層卷積核，“*”表示卷積運算，b^[l]表示第l層對應的偏置，f(·)表示激活函數。

3.如權利要求1所述的工業過程的多尺度殘差卷積與LSTM融合性能評估方法，其特征在于所述步驟2.1中的BN層，具體操作如下：

式中表示經BN層計算后的輸出；y_i表示輸入的特征值；E表示輸入特征值的均值；D表示輸入特征值得方差；γ和β表示模型中需要訓練的參數。

4.如權利要求1所述的工業過程的多尺度殘差卷積與LSTM融合性能評估方法，其特征在于所述步驟2.1中的正則化是L2正則化，具體表示如下：

式中N表示樣本數，y⁽ⁿ⁾表示第n個樣本的實際標簽，n∈[1,2,…,N]，xⁿ表示第n個樣本，θ為其參數，l_p為范數函數，p∈[1,2]，代表L2范數，λ為正則化系數，f(·)為學習的神經網絡，L(·)為損失函數。

5.如權利要求1所述的工業過程的多尺度殘差卷積與LSTM融合性能評估方法，其特征在于所述步驟2.1中的最大池化層，具體計算如下：

h＝max(c(t)) (6)

式中h表示池化層的輸出，c(t)表示輸入特征中每個神經元的數值集合，t∈[1，2，…,n],表示第t個神經元。

6.如權利要求1所述的工業過程的多尺度殘差卷積與LSTM融合性能評估方法，其特征在于所述步驟2.3中的激活函數是tanh激活函數，具體計算公式如下：