[發(fā)明專利]一種基于半監(jiān)督增量高斯混合回歸的自適應軟測量方法

有效

• 申請?zhí)枺?/td>: 202011614387.1
• 申請日: 2020-12-30
• 公開（公告）號: CN112650063B
• 公開（公告）日: 2022-04-29
• 發(fā)明（設計）人: 宋執(zhí)環(huán);李德陽
• 申請（專利權）人: 浙江大學
• 主分類號: G05B13/04
• 分類號: G05B13/04
• 代理公司: 杭州求是專利事務所有限公司 33200
• 代理人: 邱啟旺

1.一種基于半監(jiān)督增量高斯混合回歸的自適應軟測量方法，其特征在于，具體包括以下步驟：

(1)將工業(yè)過程中歷史工況的有標簽數(shù)據(jù)集和無標簽數(shù)據(jù)集組成初始訓練數(shù)據(jù)集，其中，l表示標簽的標記，i表示有標簽數(shù)據(jù)集的索引，x_i表示有標簽數(shù)據(jù)集中第i個樣本，y_i表示標簽，n_l表示有標簽數(shù)據(jù)集的樣本數(shù)目，j表示無標簽數(shù)據(jù)集的索引，u表示無標簽的標記，x_j表示無標簽數(shù)據(jù)集中第j個樣本，n_u表示無標簽數(shù)據(jù)集的樣本數(shù)目；

(2)將步驟(1)收集到的初始訓練數(shù)據(jù)集進行均值為0，方差為1的標準化，得到標準化數(shù)據(jù)集

(3)采用EM算法以迭代的方式進行半監(jiān)督高斯混合回歸模型參數(shù)Θ學習，所述半監(jiān)督高斯混合回歸模型參數(shù)Θ包括：半監(jiān)督高斯混合回歸模型中第k個組分的先驗概率α_k、半監(jiān)督高斯混合回歸模型中第k個組分的均值向量μ_k、半監(jiān)督高斯混合回歸模型中第k個組分的協(xié)方差矩陣∑_k、半監(jiān)督高斯混合回歸模型中第k個組分的回歸系數(shù)ω_k、半監(jiān)督高斯混合回歸模型中第k個組分標簽的回歸系數(shù)測量噪聲方差具體包括如下子步驟：

(3.1)使用線性高斯操作，分別獲得有標簽樣本的隱變量后驗概率分布和無標簽樣本的隱變量后驗概率分布

其中，z_i為第i個有標簽樣本的隱變量，z_j為第j個無標簽樣本的隱變量，R_ik表示半監(jiān)督高斯混合回歸模型中第k個組分在生成第i個有標簽樣本的后驗概率，R_jk表示半監(jiān)督高斯混合回歸模型中第k個組分在生成第j個無標簽樣本的后驗概率；P表示半監(jiān)督高斯混合回歸模型中第k個組分從0-1的概率，表示半監(jiān)督高斯混合回歸模型中第k個組分中有標簽樣本的均值向量，表示半監(jiān)督高斯混合回歸模型中第k個組分中有標簽樣本的協(xié)方差矩陣，表示半監(jiān)督高斯混合回歸模型中第k個組分中無標簽的均值向量，表示半監(jiān)督高斯混合回歸模型中第k個組分中無標簽的協(xié)方差矩陣，表示第k個基于均值向量和協(xié)方差矩陣的高斯分布；

(3.2)利用步驟(3.1)獲得的隱變量后驗概率分布和來計算相應的對數(shù)似然函數(shù)，所述對數(shù)似然函數(shù)為：

其中，z表示樣本的隱變量，X_lX_uY_l

針對每個半監(jiān)督高斯混合回歸模型參數(shù)最大化對數(shù)似然函數(shù)

其中，β為拉格朗日乘子；

估計半監(jiān)督高斯混合回歸模型參數(shù)的更新值：

其中，為回歸系數(shù)集合，為有標簽樣本的隱變量后驗概率分布的集合，為有標簽數(shù)據(jù)集的矩陣，I為取值為1、維度為n_l的向量，

(3.3)根據(jù)步驟(3.2)估計半監(jiān)督高斯混合回歸模型參數(shù)的更新值計算標準化數(shù)據(jù)集的對數(shù)似然函數(shù)重復步驟(3.1)-(3.2)，直至對數(shù)似然函數(shù)收斂時，此時的半監(jiān)督高斯混合回歸模型參數(shù)為最終半監(jiān)督高斯混合回歸模型參數(shù)；

(4)利用最終半監(jiān)督高斯混合回歸模型參數(shù)進行質(zhì)量變量的預測：

其中，為給定帶預測數(shù)據(jù)x的期望值，y為質(zhì)量變量，R_xk表示待預測數(shù)據(jù)屬于半監(jiān)督高斯混合回歸模型每個組分的概率值，表示待預測數(shù)據(jù)x屬于半監(jiān)督高斯混合回歸模型每個組分的概率均值，

(5)收集同比例的新來有標簽和無標簽混合數(shù)據(jù)作為訓練數(shù)據(jù)，根據(jù)步驟(2)-(3)的過程訓練為半監(jiān)督增量高斯混合回歸模型，將半監(jiān)督增量高斯混合回歸模型參數(shù)和訓練數(shù)據(jù)個數(shù)存入歷史數(shù)據(jù)庫；

(6)將步驟(3)的半監(jiān)督高斯混合回歸模型中的每個組分和步驟(5)的半監(jiān)督增量高斯混合回歸模型中的每個組分，兩兩計算對稱Kullback-Leibler散度SKLD，判斷SKLD值是否超過10，當SKLD值超過10，保持原來的均值向量和協(xié)方差不變，更新組分的混合權重；當SKLD值小于10則進行融合；所述SKLD值的計算過程為：

其中，φ₁半監(jiān)督高斯混合回歸模型中的某一個組分的參數(shù)集合，φ₂為半監(jiān)督增量高斯混合回歸模型中的對應組分的參數(shù)集合，μ₁為半監(jiān)督高斯混合回歸模型中的某一個組分的均值向量，μ₂為半監(jiān)督增量高斯混合回歸模型中的對應組分的均值向量，∑₁為半監(jiān)督高斯混合回歸模型中的某一個組分的協(xié)方差矩陣，∑₂為半監(jiān)督增量高斯混合回歸模型中的對應組分的協(xié)方差矩陣，KLD為相對熵；

(7)隨著待測數(shù)據(jù)的流入，不斷重復步驟(5)-(6)，即可實現(xiàn)工業(yè)過程的自適應質(zhì)量預報。