[發(fā)明專利]一種基于注意力的非侵入式負荷分解方法

在審

• 申請?zhí)枺?/td>: 202111166974.3
• 申請日: 2021-10-01
• 公開（公告）號: CN113920362A
• 公開（公告）日: 2022-01-11
• 發(fā)明（設計）人: 張珊珊
• 申請（專利權）人: 上海夢象智能科技有限公司
• 主分類號: G06V10/764
• 分類號: G06V10/764;G06N3/04;G06N3/08;G06Q50/06;H02J3/00
• 代理公司: 上海正旦專利代理有限公司 31200
• 代理人: 陸飛;陸尤

本發(fā)明屬于非侵入式負荷分解技術領域，具體為一種基于注意力的非侵入式負荷分解方法。本發(fā)明通過在回歸子網(wǎng)絡中添加一個具有特殊注意力單元的編碼器和解碼器模塊，從而在回歸子任務中利用該特殊的注意力單元使回歸子網(wǎng)能隱式的對某些事件(例如打開或關閉設備)和特定信號部分(例如高功耗)給予更多的關注并進行預測；同時聯(lián)合一個分類子網(wǎng)絡，該分類子網(wǎng)絡執(zhí)行結果通過明確設備的開/關狀態(tài)，從而輔助回歸子網(wǎng)絡進行負荷分解。該基于注意力的深度神經(jīng)網(wǎng)絡提高了網(wǎng)絡的泛化能力，提升了網(wǎng)絡在非侵入式負荷分解任務中正確檢測設備打開和關閉狀態(tài)、精確定位具有高功耗信號部分的能力。

技術領域

本發(fā)明屬于非侵入式負荷分解技術領域，具體為一種基于注意力的非侵入式負荷分解方法。

背景技術

電表只能報告家庭總的電力負荷數(shù)據(jù)，因此如何推斷特定設備的電力負荷、進行電力負荷分解是現(xiàn)階段主要的研究目標，如何利用深度學習相關的方法來提升負荷分解的準確率是當前研究的熱門。非侵入式負荷分解任務可以看作是一個sequence-to-sequence(seq2seq，序列到序列)的任務，輸入一串聚合信號數(shù)據(jù)序列，輸出特定設備的負載信號序列(不排除有些情況下采用sequence-to-point的方式，利用序列中點作為特征代表點)，傳統(tǒng)的seq2seq網(wǎng)絡通常是由一個編碼器-解碼器組成的模型，這樣的模型通常會存在兩個挑戰(zhàn)，一是對長序列的處理效果差，編碼器將中間狀態(tài)丟棄，只使用最終的隱藏狀態(tài)向量來初始化解碼器；二是無法滿足輸入和輸出序列之間的對齊需要。

發(fā)明內(nèi)容

本發(fā)明的目的在于提供一種基于注意力的非侵入式負荷分解方法，以改進編碼器-解碼器網(wǎng)絡的性能，提升深度神經(jīng)網(wǎng)絡在非侵入式負荷分解任務中的負荷分解效果。

本發(fā)明提供的基于注意力的非侵入式負荷分解方法，通過在回歸子網(wǎng)絡中添加一個具有特殊注意力單元的編碼器-解碼器模塊，從而在回歸子任務中利用該特殊的注意力單元使回歸子網(wǎng)能隱式的對某些事件(例如打開或關閉設備)和特定信號部分(例如高功耗)給予更多的關注并進行預測；同時聯(lián)合一個分類子網(wǎng)絡，該分類子網(wǎng)絡執(zhí)行結果通過明確設備的開/關狀態(tài)，從而輔助回歸子網(wǎng)絡進行負荷分解。該基于注意力的深度神經(jīng)網(wǎng)絡提高了網(wǎng)絡的泛化能力，提升了網(wǎng)絡在非侵入式負荷分解任務中的表現(xiàn)，能更好的對齊數(shù)據(jù)，并且注意力單元能實現(xiàn)對中間狀態(tài)的更好利用。

本發(fā)明提供的基于注意力的非侵入式負荷分解方法，具體步驟為：

步驟1：數(shù)據(jù)預處理，根據(jù)設備采樣頻率確定不同滑動窗口大小；

步驟2：加入注意力單元，搭建回歸子網(wǎng)絡；

步驟3：搭建分類子網(wǎng)絡，確定網(wǎng)絡整體結構；

步驟4：確定評估指標，訓練網(wǎng)絡模型；

步驟5：處理重疊窗口產(chǎn)生的數(shù)據(jù)；

步驟6：最終得到的信號序列，作為聚合數(shù)據(jù)負荷分解的電器指紋，從而得到電器運行相關信息。

下面對各步驟作進一步的具體說明。

步驟1數(shù)據(jù)預處理，根據(jù)設備采樣頻率確定不同滑動窗口大小

在網(wǎng)絡模型的訓練階段，采用滑動窗口技術對聚合信號數(shù)據(jù)進行讀取，該輸入、輸出窗口需要有合適的窗口大小，若過小，則不能完全捕獲某一設備的設備激活(設備在整個周期內(nèi)的電力消耗)數(shù)據(jù)，若過大，則會將其他設備的設備激活數(shù)據(jù)一并考慮，對最終分解結果產(chǎn)生影響。

因此，在針對某一數(shù)據(jù)集中的聚合數(shù)據(jù)進行負荷分解，需要提前對數(shù)據(jù)進行處理，獲取數(shù)據(jù)集中聚合負載數(shù)據(jù)的采樣率，從而得到每個設備相對應的窗口長度L。

步驟2加入注意力單元，搭建回歸子網(wǎng)絡

回歸子網(wǎng)絡的模型表示為其映射關系如下：