[發明專利]一種基于信息熵聚類和注意力機制的循環神經網絡短期負荷預測方法

在審

• 申請號: 201710848981.9
• 申請日: 2017-09-13
• 公開（公告）號: CN107590567A
• 公開（公告）日: 2018-01-16
• 發明（設計）人: 袁家斌;鄭慧婷
• 申請（專利權）人: 南京航空航天大學
• 主分類號: G06Q10/04
• 分類號: G06Q10/04;G06Q50/06;G06K9/62;H02J3/00
• 代理公司: 暫無信息
• 代理人: 暫無信息

1.一種基于信息熵聚類和注意力(ATTENTION)機制的循環神經網絡短期負荷預測方法，其特征在于，具體包括以下步驟：

步驟1：對電力負荷數據進行預處理，確定預測模型的輸入特征變量和輸出目標；

步驟2：使用極端梯度提升算法(xgboost)計算影響電力負荷各輸入特征的信息熵，并歸一化各特征的信息熵，以適配聚類算法對數據的要求；

步驟3：以各特征的信息熵作為重要性啟發信息構造基于特征權重的聚類，即樣本間距離采用加權歐氏距離衡量，調整聚類參數，使得聚類算法得到與要預測時間段負荷使用情況最相似的歷史日；

步驟4：依據距離預測時間由遠到近將相似的歷史日組成時間序列T；

步驟5：時間序列T作為ATTENTION循環神經網絡的編碼器(Encoder)輸入序列，訓練預測模型；

步驟6：判斷訓練模型是否收斂，如果尚未收斂則返回步驟5，否則由解碼器(Decoder)獲得負荷預測結果。

2.根據權利要求1所述的一種基于信息熵聚類和ATTENTION機制的循環神經網絡短期負荷預測方法，其特征是，步驟1中xgboost算法的輸入特征包括：季節、溫度(℃)、濕度(％)、風速(m/s)、降雨量、星期類型、法定節假日、日前負荷峰值、前七天的負荷平均、七天前負荷值、去年同時段負荷值，輸出目標為以上各特征對于負荷值得信息熵(重要度)。

3.根據權利要求1所述的一種基于信息熵聚類和ATTENTION機制的循環神經網絡短期負荷預測方法，其特征在于，步驟2中，

步驟2.1：構建算法的目標函數為：

Obj(t)=Σi=1n[gift(xi)+12hift2(xi)]+Ω(ft)=Σi=1n[giwq(xi)+12hiwq2(xi)]+γT+λ12Σj=1Twj2=Σj=1T[(Σi∈Ijgi)wj+12(Σi∈Ijhi+λ)wj2]+γT=Σj=1T[Gjwj+12(Hj+λ)wj2]+γT]]>

第一部分是訓練誤差，而第二部分是每棵樹的復雜度的和，其中I_J＝{i|q(x_i)＝j}被定義為每個葉子上面樣本集合，表示每個數據點的在誤差函數上的一階導數和二階導數，定義

步驟2.2：將轉化為如何求一個一維二次函數的最小值的問題，即：

wj*=-GjHj+λ,Obj=-12Σj=1TGj2Hj+λ+γT]]>

步驟2.3：其中特征信息熵計算公式如下：

Gain=12[GL2HL+λ+GR2HR+λ-(GL+GR)HL+HR+λ]-γ]]>

將得到的m個特征的信息熵記為{w₁，w₂，...，w_m}。