[發(fā)明專利]一種基于果蠅算法優(yōu)化梯度提升回歸樹(shù)的青霉素發(fā)酵過(guò)程軟測(cè)量建模方法

在審

• 申請(qǐng)?zhí)枺?/td>: 201910187136.0
• 申請(qǐng)日: 2019-03-13
• 公開(kāi)（公告）號(hào): CN109858190A
• 公開(kāi)（公告）日: 2019-06-07
• 發(fā)明（設(shè)計(jì)）人: 潘豐;黃繼煒
• 申請(qǐng)（專利權(quán)）人: 江南大學(xué)
• 主分類號(hào): G06F17/50
• 分類號(hào): G06F17/50;G06N3/00
• 代理公司: 大連理工大學(xué)專利中心 21200
• 代理人: 梅洪玉

1.一種基于果蠅算法優(yōu)化梯度提升回歸樹(shù)的青霉素發(fā)酵過(guò)程軟測(cè)量建模方法，其特征在于，包括以下步驟：

(1)通過(guò)數(shù)據(jù)庫(kù)收集青霉素發(fā)酵過(guò)程中可在線測(cè)量的變量值，作為軟測(cè)量建模樣本的輸入量，離線測(cè)量所得的青霉素濃度值，作為軟測(cè)量建模樣本的輸出量；

(2)將軟測(cè)量建模樣本分為兩個(gè)數(shù)據(jù)集，為軟測(cè)量建模的訓(xùn)練數(shù)據(jù)集，N₁為訓(xùn)練數(shù)據(jù)集的組數(shù)，A_k是1×d維的行向量，為軟測(cè)量建模樣本的一組輸入量，是A_k對(duì)應(yīng)的軟測(cè)量建模樣本的輸出量，k＝1,2,…,N₁，d為每組輸入量的維數(shù)；為軟測(cè)量建模的測(cè)試數(shù)據(jù)集，N₂為測(cè)試數(shù)據(jù)集的組數(shù)，B_k是1×d維的行向量，為軟測(cè)量建模樣本的一組輸入量，y_k是B_k對(duì)應(yīng)的軟測(cè)量建模樣本的輸出量，k＝1,2,…,N₂，d為每組輸入量的維數(shù)；

(3)利用基于果蠅算法優(yōu)化梯度提升回歸樹(shù)建立青霉素發(fā)酵過(guò)程軟測(cè)量模型，并將通過(guò)訓(xùn)練確定的青霉素發(fā)酵過(guò)程軟測(cè)量模型參數(shù)存入數(shù)據(jù)庫(kù)；

(4)采集青霉素發(fā)酵過(guò)程可在線測(cè)量變量的新數(shù)值；

(5)采集新的數(shù)據(jù)集N₃為新數(shù)據(jù)集的組數(shù)，C_k是1×d維的行向量，是對(duì)應(yīng)C_k的青霉素濃度真實(shí)值，k＝1,2,…,N₃，d為每組輸入量的維數(shù)，將輸入基于果蠅算法優(yōu)化梯度提升回歸樹(shù)的青霉素發(fā)酵過(guò)程軟測(cè)量模型中，得到實(shí)時(shí)的青霉素濃度值是對(duì)應(yīng)C_k的軟測(cè)量模型輸出值，k＝1,2,…,N₃；

(6)對(duì)得到的實(shí)時(shí)的青霉素濃度值，進(jìn)行偏移補(bǔ)償，得到最終青霉素濃度的軟測(cè)量值是對(duì)應(yīng)C_k的軟測(cè)量值，k＝1,2,…,N₃；

其中，所述步驟(3)的具體操作步驟如下：

①參數(shù)初始化：設(shè)置果蠅算法的群體數(shù)量為6，分別對(duì)應(yīng)需要優(yōu)化的梯度提升回歸樹(shù)的6個(gè)參數(shù)learning_rate、n_estimators、max_depth、min_samples_split、min_samples_leaf、subsample，種群由P組群體構(gòu)成，最大迭代次數(shù)為M，果蠅位置變化范圍為L(zhǎng)R，果蠅單次飛行范圍為FR，初始化迭代次數(shù)l為1，群體組編號(hào)i為1；

②判斷l(xiāng)≠1是否成立，成立，轉(zhuǎn)到步驟③；不成立，隨機(jī)生成群體中各只果蠅的初始位置，第i組群體中第j只果蠅的初始位置為：

其中：n_j表示搜索范圍系數(shù)，j＝1,2,…,6，rand(LR)表示生成[-LR,LR]之間的隨機(jī)數(shù)；

③每只果蠅按隨機(jī)的飛行距離和方向進(jìn)行搜索，則第i組群體中第j只果蠅的新位置為：

其中：ω＝ω₀·α^l，ω₀是初始權(quán)重，α為權(quán)重系數(shù)，rand(FR)表示生成[-FR,FR]之間的隨機(jī)數(shù)；

④令取平方差函數(shù)L(p,q)＝(q-p)²表示關(guān)于變量p,q的損失函數(shù)，按如下過(guò)程建立基于梯度提升回歸樹(shù)的青霉素發(fā)酵過(guò)程軟測(cè)量模型：

A.初始化模型，K＝N₁·subsample，0<subsample≤1為梯度提升回歸樹(shù)模型的采樣率，從訓(xùn)練數(shù)據(jù)集中抽取K組樣本，得到新的數(shù)據(jù)集根據(jù)式(3)計(jì)算得到使最小化的數(shù)值c，將其作為梯度提升回歸樹(shù)模型的初始預(yù)測(cè)值f₀(A′)：

其中：表示使取得最小值時(shí)的c的數(shù)值，A′＝{A′₁,A′₂,…A′_K}為抽取的建模樣本輸入量的集合；

B.z＝1，Z＝n_estimators，n_estimators為梯度提升回歸樹(shù)模型的迭代次數(shù)；

C.k＝1；

D.按式(4)計(jì)算當(dāng)前模型的殘差r_zk：

其中：f_z-1(A′)表示第z-1次迭代時(shí)得到的梯度提升回歸樹(shù)模型對(duì)輸入量A′的預(yù)測(cè)函數(shù)；

E.判斷k<K是否成立，成立，則k＝k+1，轉(zhuǎn)到步驟D；不成立，則轉(zhuǎn)到步驟F；

F.通過(guò)3.6.5版本的Python，調(diào)用sklearn.tree.DecisionTreeRegressor工具包，設(shè)置模型參數(shù)λ_z＝{max_depth,min_samples_split,min_samples_leaf}，用其來(lái)擬合子數(shù)據(jù)集{(A′₁,r_z1),(A′₂,r_z2),…,(A′_k,r_zk)}，k＝1,2,…,K，得到新的子樹(shù)h_z(A′)；

G.按式(5)計(jì)算得到使最小化的數(shù)值γ，將其作為當(dāng)前梯度提升回歸樹(shù)模型的權(quán)重γ_z：

其中：表示使取得最小值時(shí)的γ的數(shù)值；

H.按式(6)更新模型，得到第z次迭代時(shí)梯度提升回歸樹(shù)模型對(duì)輸入量A′的預(yù)測(cè)函數(shù)f_z(A′)：

f_z(A′)＝f_z-1(A′)+ν·γ_z·h_z(A′) (6)

其中：ν＝learning_rate為學(xué)習(xí)速率；

I.判斷z<Z是否成立，成立，則z＝z+1，轉(zhuǎn)到步驟C；不成立，則得到最終的青霉素發(fā)酵過(guò)程軟測(cè)量模型對(duì)輸入量A′的預(yù)測(cè)函數(shù)f(A′)：

f(A′)＝f_Z(A′) (7)

⑤輸入至青霉素發(fā)酵過(guò)程軟測(cè)量模型，按式(7)得到其對(duì)應(yīng)的青霉素發(fā)酵過(guò)程軟測(cè)量值其中為B_k對(duì)應(yīng)的軟測(cè)量值，k＝1,2,…,N₂；

⑥計(jì)算當(dāng)前參數(shù)下青霉素發(fā)酵過(guò)程軟測(cè)量模型的擬合優(yōu)度R_i：

⑦判斷i<P是否成立，成立，則i＝i+1，轉(zhuǎn)到步驟②；不成立，則轉(zhuǎn)到步驟⑧；

⑧從當(dāng)前種群的所有擬合優(yōu)度R_i,i＝1,2,…,P中比較得出擬合優(yōu)度最大的果蠅群體組號(hào)p，記錄最大擬合優(yōu)度R_best＝R_p，位置信息

⑨判斷l(xiāng)<M是否成立，成立，則X_{j_ini}＝X_{j_best},j＝1,2,…,6，l＝l+1,i＝1，轉(zhuǎn)到步驟③；不成立，則轉(zhuǎn)到步驟⑩；

⑩確定最終青霉素發(fā)酵過(guò)程軟測(cè)量模型參數(shù)：learning_rate＝X_{1_best}，n_estimators＝X_{2_best}，max_depth＝X_{3_best}，min_samples_split＝X_{4_best}，min_samples_leaf＝X_{5_best}，subsample＝X_{6_best}；

所述步驟(6)使用偏移補(bǔ)償計(jì)算D時(shí)刻青霉素濃度軟測(cè)量值的具體操作方式如下：

①d'＝2,

②按式(9)計(jì)算當(dāng)前d'時(shí)刻的偏移量

③按式(10)計(jì)算到d'時(shí)刻時(shí)的總偏移量ε_d'：

其中：β為權(quán)值系數(shù)，0.1≤β≤0.9；

④判斷d'<D是否成立，成立，則d'＝d'+1，轉(zhuǎn)到步驟②；不成立，則轉(zhuǎn)到步驟⑤；

⑤按式(11)計(jì)算D時(shí)刻青霉素濃度軟測(cè)量值