[發明專利]一種基于深度信念網絡的MBR膜透水率智能檢測方法

有效

• 申請號: 201811338058.1
• 申請日: 2018-11-12
• 公開（公告）號: CN109473182B
• 公開（公告）日: 2021-10-19
• 發明（設計）人: 王曉爽;常江;王佳偉;趙帥;付玲;王浩;冀春苗
• 申請（專利權）人: 北京北排科技有限公司
• 主分類號: G16Z99/00
• 分類號: G16Z99/00;G06N3/04;G06N3/08
• 代理公司: 北京東方昭陽知識產權代理事務所(普通合伙) 11599
• 代理人: 呂玉健

1.一種基于深度信念網絡的MBR膜透水率智能檢測方法，其特征在于：該檢測方法包括如下步驟：

(1)確定特征變量和目標變量；以MBR膜污水處理過程為研究對象，對水質數據進行特征分析，提取產水流量、產水壓力、單池膜擦洗氣量、厭氧區氧化還原電位ORP和好氧區硝酸鹽作為特征變量,將這5個變量分別作為深度信念網絡的5個輸入，并以出水透水率作為目標變量；

(2)設計膜透水率軟測量模型，利用DBN建立預測膜透水率的軟測量模型，DBN包括1個輸入層、2個隱含層、1個輸出層，輸入層的神經元為5個，每個隱含層的神經元為N個，N為大于2的正整數，輸出層的神經元為1個，即連接方式為5-N-N-1；DBN的輸入為x(1)，x(2)，…，x(t)，…，x(k)，對應的期望輸出為y_d(1)，y_d(2)，…，y_d(t)，…，y_d(k)，k組數據作為軟測量模型的訓練樣本；第t時刻DBN輸入為x(t)＝[x₁(t),…,x₅(t)]，其中，x₁(t)為第t時刻的產水流量，x₂(t)為第t時刻的產水壓力，x₃(t)為第t時刻的單池膜擦洗氣量，x₄(t)為第t時刻的厭氧區還原電位ORP，x₅(t)為第t時刻的好氧區硝酸鹽，DBN的期望透水率輸出表示為y_d(t)，實際透水率輸出表示為y(t)；基于DBN預測膜透水率的軟測量模型計算方式依次為：

①輸入層：該層由5個神經元組成，輸入向量為：

x(t)＝[x₁(t),x₂(t),…,x₅(t)]^T (1)

v(t)＝x(t) (2)

其中，x(t)是t時刻輸入向量，x₁(t)表示t時刻產水流量的值、x₂(t)表示t時刻產水壓力的值、x₃(t)表示t時刻單池膜擦洗氣量的值、x₄(t)表示t時刻厭氧區還原電位ORP的值、x₅(t)表示t時刻好氧區硝酸鹽的值，v(t)為t時刻輸入層的輸出向量；

②第一隱含層：該層由N個神經元組成，每個神經元的輸出為：

其中，w_1ij(t)為t時刻輸入層第i個神經元與第一隱含層第j個神經元之間的連接權值，i＝1，2，…，5；j＝1，2，…，N；b_1j(t)為t時刻第一隱含層第j個神經元的偏置，h_1j(t)是t時刻第一隱含層第j個神經元的輸出；

③第二隱含層：該層由N個神經元組成，每個神經元的輸出為：

其中，w_2jq(t)是t時刻第一隱含層第j個神經元與第二隱含層第q個神經元的連接權值，q＝1，2，…，N；b_2q(t)是t時刻第二隱含層第q個神經元的偏置，h_2q(t)是t時刻第二隱含層第q個神經元的輸出；

④輸出層：網絡輸出為：

其中，w_outq(t)為t時刻第二隱含層第q個神經元與輸出層之間的連接權值；

(3)透水率軟測量模型校正過程如下：

DBN訓練包括兩個過程：無監督逐層預訓練和利用反向傳播算法對網絡權值進行調整；w(t)＝(w_out(t)，w₂(t)，w₁(t))為第t時刻DBN的權值向量，其中，w_out(t)為t時刻第二隱含層與輸出層之間的權值向量，w₂(t)為t時刻第一隱含層和第二隱含層之間的權值向量，w₁(t)為t時刻輸入層與第一隱含層之間的權值向量；b(t)＝(b₂(t),b₁(t))，其中，b₂(t)為t時刻第二隱含層的偏置向量，b₁(t)為t時刻第一隱含層的偏置向量；設置每層預訓練的迭代次數為100，反向傳播算法的迭代次數為10000次，初始權值和偏置設置為0.01；

①無監督預訓練：輸入層與第一隱含層之間的能量函數定義為：

其中，h₁(t)為t時刻第一隱含層的輸出向量，w_1ij(t)為t時刻輸入層第i個神經元與第一隱含層第j個神經元之間的連接權值，b_1j(t)為t時刻第一隱含層第j個神經元的偏置，c(t)＝(c₁(t)，c₂(t)，…，c_i(t))是t時刻輸入層的偏置向量，c_i(t)是t時刻第i個輸入層神經元的偏置，v_i(t)是t時刻第i個輸入層神經元的輸出，h_1j(t)是t時刻第一隱含層第j個神經元的輸出；基于能量函數，計算輸入層與第一隱含層之間的聯合概率分布為：

輸入層的邊緣概率分布為：

令θ₁(t)＝(w₁(t)，c(t)，b₁(t))，定義似然函數：

其中，K為樣本數；參數θ₁(t)可以通過最大化對數似然函數得到，最大化似然函數常用的數值方法是梯度上升，通過隨機梯度上升來最大化L(θ₁(t))得到模型參數：

其中，表示訓練樣本集所定義分布的數學期望，表示模型所定義分布的期望；參數迭代公式為：

其中，θ₁(t+1)表示t+1時刻的模型參數值；通過對比散度算法得到參數的更新規則為：

其中，Δw_1ij(t)是t時刻輸入層第i個神經元與第一隱含層第j個神經元之間的連接權值調節量，Δc_i(t)是t時刻輸入層第i個神經元的偏置調節量，Δb_1j(t)是第一隱含層第j個神經元的偏置調節量，μ_w1∈(0，0.02]，μ_c∈(0，0.01]和μ_b1∈(0，0.01]分別為權值、輸入層神經元偏置和第一隱含層神經元偏置的學習率；

第一隱含層與第二隱含層之間的能量函數為：

其中，h₂(t)為t時刻第二隱含層的輸出向量，w_2jq(t)是t時刻第一隱含層第j個神經元與第二隱含層第q個神經元的連接權值，b_2q(t)是t時刻第二隱含層第q個神經元的偏置，h_1j(t)為t時刻第一隱含層第j個神經元的輸出，h_2q(t)是t時刻第二隱含層第q個神經元的輸出；基于能量函數式(13)，計算輸入層與第一隱含層之間的聯合概率分布為：

第一隱含層的邊緣概率分布為：

似然函數定義為：

其中，K為樣本數；通過計算L(θ₂(t))的偏導數得到模型參數：

其中，θ₂(t)＝(w₂(t)，b₁(t)，b₂(t))為模型的參數；參數迭代公式為：

其中，θ₂(t+1)表示t+1時刻的模型參數值；采用對比散度算法得到第一隱含層神經元和第二隱含層神經元的參數調節量為：

其中，Δw_2jq(t)是t時刻第一隱含層第j個神經元與第二隱含層第q個神經元之間的連接權值調節量，Δb_1j(t)是第一隱含層第j個神經元的偏置調節量，Δb_2q(t)是第二隱含層第q個神經元的偏置調節量，μ_w2∈(0，0.02]，μ_b1∈(0，0.01]和μ_b2∈(0，0.01]分別為權值、第一隱含層神經元偏置和第二隱含層神經元偏置的學習率；

②BP算法調整權值：通過式(11)-(12)和(18)-(19)逐層訓練獲得了DBN的參數初始值；之后通過BP算法微調權值獲得更好的模型效果；第t時刻損失函數定義為：

其中，y(t)和y_d(t)分別為網絡實際輸出與期望輸出，K為訓練樣本總數；采用誤差反向傳播方法調整權值和偏置，則：

其中，w_outq(t+1)為t+1時刻第二隱含層第q個神經元與輸出層的連接權值；w_2jq(t+1)為t+1時刻第一隱含層第j個神經元與第二隱含層第q個神經元的連接權值,w_1ij(t+1)為t+1時刻輸入層第i個神經元與第一隱含層第j個神經元的連接權值；η_out∈(0,3]為第二隱含層與輸出層之間的權值學習率，η₂∈(0，3]為第一隱含層和第二隱含層之間的權值學習率，η₁∈(0，3]為輸入層與第一隱含層之間的權值學習率；

(4)透水率預測：

隨機選取100-150個待檢測水廠一段時期內統計的產水流量、產水壓力、單池膜擦洗氣量、厭氧區氧化還原電位ORP和好氧區硝酸鹽數據作為訓練數據，再從上述100-150個訓練數據中隨機選取60-100個待檢測水廠一段時期內統計的產水流量、產水壓力、單池膜擦洗氣量、厭氧區氧化還原電位ORP和好氧區硝酸鹽的測試樣本數據作為訓練后DBN的輸入，DBN的輸出即為透水率的軟測量值。