[發(fā)明專利]一種基于注意力的非侵入式負荷分解方法

在審

• 申請?zhí)枺?/td>: 202111166974.3
• 申請日: 2021-10-01
• 公開（公告）號: CN113920362A
• 公開（公告）日: 2022-01-11
• 發(fā)明（設(shè)計）人: 張珊珊
• 申請（專利權(quán)）人: 上海夢象智能科技有限公司
• 主分類號: G06V10/764
• 分類號: G06V10/764;G06N3/04;G06N3/08;G06Q50/06;H02J3/00
• 代理公司: 上海正旦專利代理有限公司 31200
• 代理人: 陸飛;陸尤

1.一種基于注意力的非侵入式負荷分解方法，其特征在于，具體步驟為：

步驟1：數(shù)據(jù)預(yù)處理，根據(jù)設(shè)備采樣頻率確定不同滑動窗口大小；包括：獲取數(shù)據(jù)集中聚合負載數(shù)據(jù)的采樣率，得到每個設(shè)備相對應(yīng)的窗口長度L；

步驟2：加入注意力單元，搭建回歸子網(wǎng)絡(luò)；具體包括：

回歸子網(wǎng)絡(luò)的模型表示為其映射關(guān)系如下：

其中，i表示設(shè)備序號；x_t,L表示時刻t開始的長度為L的數(shù)據(jù)序列，為回歸子網(wǎng)的預(yù)測輸出，表示為設(shè)備i在時刻t開始的長度為L的設(shè)備激活；

回歸子網(wǎng)絡(luò)主要由編碼器和解碼器構(gòu)成，注意力單元添加在編碼器和解碼器之間，按照數(shù)據(jù)輸入到輸出的順序搭建回歸子網(wǎng)絡(luò)；

步驟3：搭建分類子網(wǎng)絡(luò)，確定網(wǎng)絡(luò)整體結(jié)構(gòu)；具體包括：

分類子網(wǎng)絡(luò)的模型表示為其映射關(guān)系如下：

回歸子網(wǎng)絡(luò)和分類子網(wǎng)絡(luò)組成網(wǎng)絡(luò)整體結(jié)構(gòu)，網(wǎng)絡(luò)的估計輸出為回歸子網(wǎng)絡(luò)輸出與分類子網(wǎng)絡(luò)輸出的概率分布相乘的結(jié)果，其中⊙為分量乘法：

步驟4：確定評估指標(biāo)，訓(xùn)練網(wǎng)絡(luò)模型；具體包括：

為衡量分類子網(wǎng)絡(luò)對設(shè)備開啟/關(guān)閉狀態(tài)的判斷準確性，采用三項指標(biāo)來進行評估，分別為F1分數(shù)，精準率(P)以及召回率(R)，三者的值越大表示分類性能更好，設(shè)TP為預(yù)測正確的正樣本數(shù)，F(xiàn)P為預(yù)測為正的負樣本數(shù)，F(xiàn)N為預(yù)測為負的正樣本數(shù)，則有：

為衡量整個網(wǎng)絡(luò)的輸出結(jié)果，采用兩項指標(biāo)來進行評估：平均絕對誤差MAE和信號聚合誤差SAE，兩個數(shù)值越小表示模型分解效果越好，具體表示如下：

其中，y_i(t)和分別表示設(shè)備i在時間t內(nèi)真實的負載值和估計的負載值，N為長度為K的不相交時間段數(shù)，r_i(τ)和分別表示τ個時間段內(nèi)的真實負載之和和預(yù)測負載之和；

步驟5：處理重疊窗口產(chǎn)生的數(shù)據(jù)；具體包括：

設(shè)回歸子網(wǎng)絡(luò)中的濾波器的數(shù)量F、每個核的大小K和循環(huán)層中神經(jīng)元的數(shù)量H，采用grid search在F＝{16、32、64}、K＝{4、8、16}和H＝{256、512、1024}的參數(shù)空間中執(zhí)行超參數(shù)優(yōu)化，每個設(shè)備都有各自的參數(shù)組合；由于滑動窗口采取一個樣本長作為滑動距離，會產(chǎn)生重疊窗口數(shù)據(jù)，通過采用重疊部分的中值濾波重建分解的信號，得到最終的輸出；

步驟6：最終得到的信號序列，作為聚合數(shù)據(jù)負荷分解的電器指紋，從而得到電器運行相關(guān)信息。

2.根據(jù)權(quán)利要求1所述的基于注意力的非侵入式負荷分解方法，其特征在于，步驟2中，所述編碼器由一個具有四個一維卷積層的卷積神經(jīng)網(wǎng)絡(luò)(CNN)和一個由雙向LSTM構(gòu)成的循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)組成；四個一維卷積層具有相同的結(jié)構(gòu)，都為F個過濾器、K個卷積核、步長為1，以及均使用ReLU激活函數(shù)；雙向LSTM的輸入輸出單元數(shù)為H，并采用切向雙曲激活函數(shù)；

CNN處理輸入的聚合負載信號，并提取設(shè)備特定的簽名作為一組特征圖，RNN以一組特征圖作為輸入，雙向LSTM從兩個方向來獲取所有信息的隱藏狀態(tài)，產(chǎn)生包含所有聚合負載信息隱藏狀態(tài)的序列，因此編碼器輸出的最終序列h_t是通過連接兩個方向和的隱藏狀態(tài)向量得到：

所述編碼器和解碼器之間的注意力單元由一個單層前饋神經(jīng)網(wǎng)絡(luò)組成，輸入輸出單元數(shù)均為H，并采用切向雙曲激活函數(shù)；該網(wǎng)絡(luò)計算注意力權(quán)重，并輸出上下文向量C作為編碼器隨時間輸出的加權(quán)平均值，由于CNN產(chǎn)生的所有特征圖在識別目標(biāo)設(shè)備的設(shè)備激活方面不具有相同的貢獻，注意力機制通過設(shè)定不同的權(quán)重，捕獲設(shè)備的顯著激活特征圖，注意力單元的數(shù)學(xué)表達式如下：

α_t＝softmax(e_t)；

其中，V_a、W_a和b_a是與模型的其他組件共同學(xué)習(xí)的注意力參數(shù)，輸出上下文向量C，作為解碼器的輸入；

所述解碼器由兩個全連接層組成，第一個全連接層的輸入單元數(shù)為H，輸出單元數(shù)為L，采用ReLU激活函數(shù)；第二個全連接層的輸入輸出單元數(shù)均為L，采用線性激活函數(shù)。