[發明專利]一種基于K-LSTM的鋁電解槽狀態預測方法

有效

• 申請號: 202110111679.1
• 申請日: 2021-01-27
• 公開（公告）號: CN112765894B
• 公開（公告）日: 2023-05-05
• 發明（設計）人: 曹丹陽;田學法;陳云博;孔淑麒
• 申請（專利權）人: 北方工業大學
• 主分類號: G06F30/27
• 分類號: G06F30/27;G06N3/0442;G06N3/084;C25C3/06
• 代理公司: 北京德崇智捷知識產權代理有限公司 11467
• 代理人: 戴義保

1.一種基于K-LSTM的鋁電解槽狀態預測方法，其特征在于，具體包括以下步驟：

步驟1：對數據進行歸一化處理；

步驟2：根據設定的滑動窗口大小m，構建訓練集和測試集；

步驟3：構建改進的LSTM模型，對模型的參數進行初始化；

步驟4：用訓練集對預測模型訓練，采用梯度下降的方法更新參數，迭代數次后直到達到精度要求；

步驟5：將測試集喂給訓練好的模型中，利用歷史數據預測t+1時刻的預測值；

所述改進的LSTM模型是基于LSTM算法改進的K-LSTM算法來構建的；

所述K-LSTM算法實現如下：

LSTM的三個門結構包括輸入門、輸出門和遺忘門；計算過程如下：

(1)遺忘門：用來負責判斷前面的記憶信息要丟棄的信息，通過將t-1時刻的輸出值h_t-1與當前t時刻的輸入值x_t線性組合，通過sigmoid函數把數值壓縮到[0,1]范圍中，當取值越接近1時，就表示當前細胞狀態中f_t要保留的信息越多，當取值越接近0時，表示f_t中選擇遺棄的信息越多，遺忘門的計算過程如下：

f_t＝sigmoid(W_f·[h_t-1,x_t]+b_f)?(1)

(2)輸入門：用來處理當前t時刻的輸入值x_t和上一時刻的輸出h_t-1來當做總得輸入信息，也是通過sigmoid函數實現；然后利用x_t和h_t-1通過tanh層獲得一個新的候選細胞信息C～_t，是計算當前時刻的輸入信息與之前時刻的記憶信息的總量，計算過程如下：

i_t＝sigmoid(W_i·[h_t-1,x_t]+b_i)?(2)

然后是更新舊的細胞信息C_t-1，更新為新的細胞信息C_t；更新的方法是通過忘記門所選擇遺忘的舊細胞的信息和通過輸入門控制添加當前時刻新增的信息，兩者共同決定了最后更新的細胞信息C_t，計算過程如下：

(3)輸出門：用來決定輸出到下一個時刻時所傳遞的信息h_t；輸出的信息同樣需要通過一個sigmoid函數得到判斷條件，然后細胞狀態再經過一個tanh函數得到一個范圍在[-1,1]之間的值；該值是一個向量，然后該向量和之前得到的判斷條件相乘得到當前時刻的輸出，計算過程如下：

o_t＝sigmoid(W_o[h_t-1,x_t]+b_o)?(5)

h_t＝o_t*tanh(C_t)?(6)

學習網絡時，損失函數對各參數求偏導，然后更新參數，依次迭代直到損失函數收斂，在原來的LSTM門控單元的基礎上，采取干預損失函數對ft的偏導來避免樣本不平衡問題；根據槽狀態是否改變，若槽狀態改變，選擇給其一個較大的權重，若槽狀態沒改變則給一個較小的權重；

f＝f*k+tf.stop_gradient(f-f*k)?(7)

利用tf.stop_gradient()函數，根據tf.stop_gradient()函數的特性，在前向過程中，tf.stop_gradient()不起作用，因此+(f*k)和-(f*k)抵消掉了，只剩下f前向傳遞；而在反向過程中，因為tf.stop_gradient()的作用，使得f-f*k的梯度變為了0，從而只剩下f*k在反向傳遞。

2.根據權利要求1所述的一種基于K-LSTM的鋁電解槽狀態預測方法，其特征在于，所述改進的K-LSTM算法，其步驟為：

步驟(1)：計算K-LSTM的前向傳播中的輸入、輸出、隱含層的各個神經元的輸出值；

步驟(2)：通過交叉熵函數計算輸出誤差，誤差通過反向傳播算法反向傳播給各層神經單元；

步驟(3)：遺忘門反向傳播過程中，根據判斷條件，選擇權值更改原傳播函數；

步驟(4)：根據梯度下降算法和傳播的誤差，更新每層神經元的參數；

步驟(5)：根據設置的迭代次數，重復步驟(2)、步驟(3)和步驟(4)，直到收斂，模型訓練完成。