[發(fā)明專利]基于RBM的電力信息系統(tǒng)日志信息綜合特征提取方法和裝置

有效

• 申請?zhí)枺?/td>: 201710941519.3
• 申請日: 2017-09-30
• 公開（公告）號: CN107730040B
• 公開（公告）日: 2021-03-16
• 發(fā)明（設(shè)計）人: 劉冬蘭;李冬;馬雷;劉新;常英賢;于灝;石鑫磊;陳劍飛;王文婷;趙曉紅;趙洋;譚虎
• 申請（專利權(quán)）人: 國網(wǎng)山東省電力公司電力科學(xué)研究院;國網(wǎng)山東省電力公司;國家電網(wǎng)公司
• 主分類號: G06Q10/04
• 分類號: G06Q10/04;G06Q50/06;G06F16/18;G06F16/2458;G06N3/08
• 代理公司: 濟南圣達知識產(chǎn)權(quán)代理有限公司 37221
• 代理人: 黃海麗

1.一種基于RBM的電力信息系統(tǒng)日志信息綜合特征提取方法，其特征在于，包括以下步驟：

步驟1：電力信息系統(tǒng)數(shù)據(jù)采集，采集電力信息系統(tǒng)中各個設(shè)備的包含歷史數(shù)據(jù)和實時數(shù)據(jù)的日志信息；

所述日志信息中包括設(shè)備狀態(tài)信息、動態(tài)傳輸數(shù)據(jù)信息、防護安全信息及故障信息；

步驟2：對于每類日志信息r，構(gòu)建初始化受限波爾茲曼機神經(jīng)網(wǎng)絡(luò)RBMr，其中r為1與t之間的正整數(shù)，t為日志信息的類數(shù)；所述初始化受限波爾茲曼機神經(jīng)網(wǎng)絡(luò)，可見層節(jié)點數(shù)與輸入日志信息的維度相對應(yīng)，隱藏層節(jié)點數(shù)為N個，隨機產(chǎn)生[0,1]之間的隨機數(shù)作為神經(jīng)網(wǎng)絡(luò)可見層節(jié)點和隱藏層節(jié)點之間的連接權(quán)值；

步驟3：對于每類日志信息r，訓(xùn)練相應(yīng)的受限玻爾茲曼機神經(jīng)網(wǎng)絡(luò)RBMr，并根據(jù)對比散度快速學(xué)習(xí)方法優(yōu)化網(wǎng)絡(luò)權(quán)值，得到穩(wěn)定的網(wǎng)絡(luò)RBMr；

其中所述對比散度快速學(xué)習(xí)方法優(yōu)化網(wǎng)絡(luò)權(quán)值的過程為：

設(shè)n和m分別是可見層v和隱藏層h的神經(jīng)元數(shù)目，a和b分別為可見層和隱藏層的偏置向量，W為v和h之間的權(quán)值矩陣；對于可見層v和隱藏層h，v_i表示第i個可見單元的狀態(tài)，h_j表示第j個隱藏單元的狀態(tài)；從受限玻爾茲曼機神經(jīng)網(wǎng)絡(luò)可見層神經(jīng)元輸入數(shù)據(jù)，根據(jù)神經(jīng)元v_i更新隱藏層神經(jīng)元h_j的狀態(tài)；再由隱藏層神經(jīng)元h_j重構(gòu)出可見層神經(jīng)元v_i的狀態(tài)，接著再由重構(gòu)出的可見層神經(jīng)元v_i的狀態(tài)再重構(gòu)隱藏層神經(jīng)元h_j的狀態(tài)，完成一次受限玻爾茲曼機神經(jīng)網(wǎng)絡(luò)訓(xùn)練學(xué)習(xí)過程，重復(fù)執(zhí)行上述過程，直到神經(jīng)網(wǎng)絡(luò)具有最小的能量值；

步驟4：構(gòu)建用于提取綜合特征的受限玻爾茲曼機神經(jīng)網(wǎng)絡(luò)并進行初始化，RBM_com為兩層網(wǎng)絡(luò)，可見層節(jié)點數(shù)為t*N，隱藏層節(jié)點數(shù)為C，隨機產(chǎn)生[0,1]之間的隨機數(shù)作為神經(jīng)網(wǎng)絡(luò)的連接權(quán)值；

步驟5：對所有受限玻爾茲曼機神經(jīng)網(wǎng)絡(luò)RBMr隱藏層輸出的數(shù)據(jù)進行拼接組成數(shù)據(jù)序列，將所述數(shù)據(jù)序列作為訓(xùn)練輸入數(shù)據(jù)對受限玻爾茲曼機神經(jīng)網(wǎng)絡(luò)RBM_com進行訓(xùn)練，并根據(jù)對比散度快速學(xué)習(xí)方法優(yōu)化網(wǎng)絡(luò)權(quán)值，得到穩(wěn)定的RBM_com；

步驟6：基于訓(xùn)練好的受限玻爾茲曼機神經(jīng)網(wǎng)絡(luò)集合{RBM1,RBM2,…,RBMr…,RBMt,RBM_com}，構(gòu)建多源日志綜合特征提取系統(tǒng)；

步驟7：將從電力信息系統(tǒng)采集的各類日志數(shù)據(jù)輸入相應(yīng)的受限玻爾茲曼機神經(jīng)網(wǎng)絡(luò)，獲得維度為C的綜合特征數(shù)據(jù)。

2.如權(quán)利要求1所述的基于RBM的電力信息系統(tǒng)日志信息綜合特征提取方法，其特征在于，所述步驟1采集日志信息后，還對日志信息進行去重和去噪預(yù)處理。

3.如權(quán)利要求1所述的基于RBM的電力信息系統(tǒng)日志信息綜合特征提取方法，其特征在于，所述步驟2中N小于日志信息維度的二分之一。

4.如權(quán)利要求1所述的基于RBM的電力信息系統(tǒng)日志信息綜合特征提取方法，其特征在于，對于給定的狀態(tài)(v,h)，RBM具備的能量用函數(shù)表示為：

其中θ＝{W_ij,a_i,b_j}是RBM的參數(shù)，均為實數(shù)，為把W，a，b的所有分量拼起來得到的長向量，W_ij是可見單元i與隱藏單元j之間的連接權(quán)重，a_i是可見單元i的偏置，b_j是隱藏單元j的偏置。

5.如權(quán)利要求4所述的基于RBM的電力信息系統(tǒng)日志信息綜合特征提取方法，其特征在于，基于能量函數(shù)可以得到(v,h)的聯(lián)合概率分布：

其中為歸一化因子，第j個隱藏單元的激活概率為：

當給定隱藏單元的狀態(tài)時，各可見單元的激活狀態(tài)之間也是條件獨立的，則第i個可見單元的激活概率為：

其中是sigmoid激活函數(shù)。