[發(fā)明專利]一種電力變壓器狀態(tài)監(jiān)測(cè)數(shù)據(jù)的清洗方法

在審

• 申請(qǐng)?zhí)枺?/td>: 201911032677.2
• 申請(qǐng)日: 2019-10-28
• 公開（公告）號(hào): CN110866604A
• 公開（公告）日: 2020-03-06
• 發(fā)明（設(shè)計(jì)）人: 高樹國(guó);夏彥衛(wèi);李剛;劉云鵬;張博;許自強(qiáng);臧謙;趙軍;劉宏亮
• 申請(qǐng)（專利權(quán)）人: 國(guó)網(wǎng)河北省電力有限公司電力科學(xué)研究院;華北電力大學(xué)（保定）
• 主分類號(hào): G06N7/00
• 分類號(hào): G06N7/00;G06N3/04;G06N3/08
• 代理公司: 石家莊冀科專利商標(biāo)事務(wù)所有限公司 13108
• 代理人: 李羨民;高錫明

1.一種電力變壓器狀態(tài)監(jiān)測(cè)數(shù)據(jù)的清洗方法，其特征是，所述方法針對(duì)油浸式電力變壓器油中氣體的監(jiān)測(cè)數(shù)據(jù)建立堆棧降噪自編碼器，并在逐個(gè)訓(xùn)練堆棧降噪自編碼器中的每一個(gè)自編碼器之后，再進(jìn)行堆疊和微調(diào)處理，得到最終的堆棧降噪自編碼器數(shù)據(jù)清洗模型，最后將油浸式電力變壓器油中氣體的監(jiān)測(cè)數(shù)據(jù)輸入到堆棧降噪自編碼器數(shù)據(jù)清洗模型進(jìn)行處理，達(dá)到對(duì)原始數(shù)據(jù)進(jìn)行降噪的目的。

2.根據(jù)權(quán)利要求1所述的一種電力變壓器狀態(tài)監(jiān)測(cè)數(shù)據(jù)的清洗方法，其特征是，所述堆棧降噪自編碼器數(shù)據(jù)清洗模型的建立和訓(xùn)練方法包括以下步驟：

a.訓(xùn)練外層第一個(gè)降噪自編碼器，結(jié)構(gòu)為：輸入層，隱含層1，輸出層，根據(jù)輸出層與輸入層之間的重構(gòu)誤差，訓(xùn)練并計(jì)算第一層參數(shù)；

b.以步驟a得到的隱含層1神經(jīng)元結(jié)構(gòu)，構(gòu)建結(jié)構(gòu)為：隱含層1，隱含層2，隱含層3的降噪自編碼器，并根據(jù)隱含層3與隱含層1之間的重構(gòu)誤差，訓(xùn)練并計(jì)算第二層參數(shù)；

c.依次類推，逐步依次訓(xùn)練好堆棧降噪自編碼器中所有降噪自編碼器；

d.分別將不同隱含層的權(quán)重和偏置向量帶入整體神經(jīng)網(wǎng)絡(luò)的相應(yīng)位置，得到完整的堆棧降噪自編碼器數(shù)據(jù)清洗模型；

e.對(duì)堆棧降噪自編碼器數(shù)據(jù)清洗模型內(nèi)參數(shù)進(jìn)行微調(diào)：

首先通過對(duì)網(wǎng)絡(luò)中的各個(gè)權(quán)重和偏置添加噪聲，打破逐層預(yù)訓(xùn)練時(shí)形成的參數(shù)對(duì)稱性；其次采用與每層降噪自編碼器不同的損失函數(shù)，根據(jù)梯度下降法訓(xùn)練整個(gè)神經(jīng)網(wǎng)絡(luò)，得到訓(xùn)練好的堆棧降噪自編碼器數(shù)據(jù)清洗模型。

3.根據(jù)權(quán)利要求2所述的一種電力變壓器狀態(tài)監(jiān)測(cè)數(shù)據(jù)的清洗方法，其特征是，所述堆棧降噪自編碼器數(shù)據(jù)清洗模型中單個(gè)降噪自編碼器的建立和訓(xùn)練包括以下步驟：

①假設(shè)原始待輸入數(shù)據(jù)為x，采用隨機(jī)失活(dropout)進(jìn)行處理即

r⁽ⁱ⁾～Bernoulli(p)

式中，r⁽ⁱ⁾是以p為概率的伯努利概率分布，x⁽ⁱ⁾為輸入數(shù)據(jù)的i某一神經(jīng)元節(jié)點(diǎn)，為經(jīng)過隨機(jī)失活處理后的神經(jīng)元節(jié)點(diǎn)；

②添加過噪聲的輸入數(shù)據(jù)輸入到神經(jīng)網(wǎng)絡(luò)中進(jìn)行編碼，進(jìn)入中間隱含層，其計(jì)算公式可用如下方式表示

式中，為編碼后的輸出矩陣，W⁽ⁱ⁾為當(dāng)前隱含層權(quán)重矩陣，大小為m*n階，其中n為當(dāng)前輸入層維度、m為下一層隱含層維度；b⁽ⁱ⁾為m階的偏置向量；s為神經(jīng)網(wǎng)絡(luò)激活函數(shù)；

③經(jīng)過編碼后的數(shù)據(jù)進(jìn)入降噪自編碼器的隱含層，之后對(duì)隱含層數(shù)據(jù)進(jìn)行重構(gòu)，重構(gòu)函數(shù)如下

式中，為重構(gòu)輸出，為步驟②中的輸出，即隱含層中的數(shù)據(jù)；權(quán)重矩陣W′⁽ⁱ⁾為權(quán)重矩陣W⁽ⁱ⁾的轉(zhuǎn)置，大小為n*m階，m為當(dāng)前隱含層維度、n為下一重構(gòu)輸出層維度，b′⁽ⁱ⁾為n階的偏置向量；

④計(jì)算重構(gòu)輸出與輸入之間的均方誤差：

式中，為均方誤差值，y_i為原始輸入數(shù)據(jù)，為重構(gòu)輸出的擬合數(shù)據(jù)；w_i為大于0的數(shù)值，SSE為和方差，計(jì)算公式為

⑤根據(jù)步驟④所得到的均方誤差值對(duì)網(wǎng)絡(luò)參數(shù)進(jìn)行有監(jiān)督微調(diào)，公式如下

式中，為第i層神經(jīng)元通過了n次反向計(jì)算殘差更新迭代之后的權(quán)值，為第i層神經(jīng)元通過了n次反向計(jì)算殘差更新迭代之后的偏置，η為神經(jīng)網(wǎng)路中設(shè)置的學(xué)習(xí)率，m為當(dāng)前訓(xùn)練輪數(shù)中所參與的樣本數(shù)量。

4.根據(jù)權(quán)利要求3所述的一種電力變壓器狀態(tài)監(jiān)測(cè)數(shù)據(jù)的清洗方法，其特征是，所述堆棧降噪自編碼器采用交叉熵作為整體輸入輸出的損失函數(shù)，其公式如下

式中，p(x)為數(shù)據(jù)的預(yù)期期望輸出，q(x)為實(shí)際運(yùn)算的輸出，H(p,q)即為整體的交叉熵結(jié)構(gòu)；

堆棧降噪自編碼器的每層降噪自編碼器所采用的損失函數(shù)為ReLU函數(shù)。