[發明專利]基于主動學習神經網絡模型的工業過程半監督軟測量建模方法

在審

• 申請號: 201810005183.4
• 申請日: 2018-01-03
• 公開（公告）號: CN108334943A
• 公開（公告）日: 2018-07-27
• 發明（設計）人: 葛志強;李浩;宋執環
• 申請（專利權）人: 浙江大學
• 主分類號: G06N3/06
• 分類號: G06N3/06;G06N3/08;G06K9/62
• 代理公司: 杭州求是專利事務所有限公司 33200
• 代理人: 邱啟旺

1.一種基于主動學習神經網絡模型的工業過程半監督軟測量建模方法，其中，

所述的神經網絡模型分為三層，第一層為輸入層，第二層為隱藏層，第三層為輸出層，輸入層到隱藏層的權重和偏置分別為ω₁和b₁，隱藏層到輸出層的權重和偏置分別為ω₂和b₂，該模型對應數據的輸入變量為x，輸出變量為y，模型的輸出，即預測值為

所述的半監督軟測量建模方法步驟如下：

步驟一：收集歷史工業過程的數據組成建模用的訓練數據集，所述的訓練數據集既包括包含主導變量也包含輔助變量的有標簽數據集L，L∈R^n×d，也包括僅包含輔助變量的無標簽數據集U，U∈R^N×M，n表示有標簽數據集的數據樣本個數，d表示過程變量個數，R為實數集，N表示無標簽數據集的數據樣本個數，M表示無標簽數據集的輔助變量的個數；

步驟二：將步驟一中收集到的訓練數據集標準化，即將過程變量化成均值為0、方差為1的新的數據集和

步驟三：運用主動學習算法不斷更新有標簽樣本集

(1)利用標準化后的有標簽樣本集訓練神經網絡模型：

首先進行前向傳播計算出隱藏層神經元的輸出a，a＝σ(ω₁x+b₁)，σ表示非線性激活函數；同理可以計算輸出層的神經元輸出其中權重和偏置是初始化時隨機賦值的；完成前向傳播之后，可以通過反向傳播算法完成兩層權重和偏置的梯度求解；最后通過梯度下降算法不斷更新參數，從而使得模型不斷更新，直到符合建模要求，完成神經網絡建模過程，得到訓練后的神經網絡模型；

(2)利用訓練后的神經網絡模型按照距離準則，從標準化后的無標簽樣本集中挑選出與有標簽樣本集中所有樣本距離之和最大的N個無標簽樣本，然后將這N個無標簽樣本打上標簽，添加到有標簽樣本集中更新有標簽樣本集

(3)利用新的有標簽樣本集重復步驟(1)-(2)，直到滿足停止迭代的要求為止；停止迭代之前訓練的最新的神經網絡模型就是建模得到的半監督軟測量模型；

步驟四：收集新的工業過程數據，重復步驟一至二；

步驟五：將步驟四中處理后的新的過程數據代入步驟三中得到的半監督軟測量模型中，得到主導變量的預測值，從而實現過程的監測和控制。

2.根據權利要求1所述的基于主動學習神經網絡模型的工業過程半監督軟測量建模方法，所述的步驟三中利用訓練后的神經網絡模型按照距離準則，從標準化后的無標簽樣本集中挑選出與有標簽樣本集中所有樣本距離之和最大的N個無標簽樣本的過程具體如下：

(1)將無標簽數據集中的樣本代入訓練后的神經網絡模型中，得到與之對應的隱藏層輸出a_i，其中i表示第i個無標簽樣本，同理有標簽樣本也可以得到與之對應的隱藏層輸出a_j，其中j表示第j個有標簽樣本；

(2)通過歐式距離相似度準則可以計算出第i個無標簽樣本到所有有標簽樣本的距離總和

(3)將d_i從大到小排序，挑選出前N個d_i對應的無標簽樣本，進行化驗標定，得到相應的標簽，然后添加到有標簽樣本集中，更新有標簽樣本集。

3.根據權利要求1所述的基于主動學習神經網絡模型的工業過程半監督軟測量建模方法，所述的步驟五中的預測值的預測精度的計算公式如下：

其中，M為測試樣本個數，y_j為主導變量的真實值，為主導變量的模型預測值。

4.根據權利要求1和2所述的基于主動學習神經網絡模型的工業過程半監督軟測量建模方法，所述的步驟三中的非線性激活函數采用sigmoid函數。

5.根據權利要求2所述的基于主動學習神經網絡模型的工業過程半監督軟測量建模方法，所述的N為10。