[發明專利]一種基于隨機傅里葉特征的核遞歸最大相關熵時間序列在線預測方法

在審

• 申請號: 202010050232.3
• 申請日: 2020-01-17
• 公開（公告）號: CN111242379A
• 公開（公告）日: 2020-06-05
• 發明（設計）人: 沈天宇;任偉杰;韓敏
• 申請（專利權）人: 大連理工大學
• 主分類號: G06Q10/04
• 分類號: G06Q10/04;G06Q50/26;G06F16/2458
• 代理公司: 大連理工大學專利中心 21200
• 代理人: 李曉亮;潘迅

1.一種基于隨機傅里葉特征的核遞歸最大相關熵時間序列在線預測方法，其特征在于，包括以下步驟：

S1.收集時間序列歷史數據并進行預處理，構建數據樣本

所述預處理方法為相空間重構方法；根據相空間重構理論，將收集的時間序列進行重構；并且構建如下的數據樣本

其中，n＝1,2,...,N，N為數據樣本的個數，ρ為嵌入維數，τ為延遲時間，x(n)是第n個輸入向量，d(n)是輸出信號；對于核方法，預測函數其中是由Mercer核引入的非線性映射，它將輸入x映射至高維特征空間H中，·,·_H表示H中的內積，W是模型權重矩陣；

S2.對模型各個參數進行初始化；

S201.第一類模型參數包括最大互相關熵準則中的核寬度σ、隨機傅里葉特征的維度D、所述步驟S1中Mercer核的核寬度σ′、遺忘因子λ，對上述四個模型參數進行初始化；兩個核寬度對應的核函數均為高斯核函數；

S202.第二類模型參數包括等效映射中的參數ω_r和b_r，按照如下規則選取并進行初始化：

服從參數為0和I_d/σ′²的正態分布，其中，r＝1,2,...,D，d表示輸入的維度，I_d表示d維的單位矩陣，D表示隨機傅里葉特征的維度；

服從區間[0,2π]上的均勻分布；

S203.第三類模型參數為模型遞歸過程中的過程變量：權重矩陣W(n)、中間矩陣Q(n)；對其進行初始化，即n＝0時：

其中，I_D為D維的單位矩陣；

S3.根據步驟S1構建的數據樣本及步驟S2中選定的各項參數，遞歸地訓練模型，其中n的取值從1到N，包括以下子步驟：

S301.計算隨機傅里葉特征向量：

其中，參數ω_r和b_r通過所述步驟S202選取得到；

通過上述操作，隨機傅里葉特征構建一個有限維映射，即將Mercer核近似為一個固定大小D的矩陣，因此在每次迭代時都只需要固定的時間和內存；

S302.對模型參數進行迭代更新：

計算預測誤差：

e(n)＝d(n)-W(n-1)^Tz(x(n)) (4)

計算中間變量：

其中，

更新中間矩陣：

Q(n)＝λ^-1[Q(n-1)-m²K(n)z(x(n))^TQ(n-1)] (6)

更新模型權重矩陣：

W(n)＝W(n-1)+m²K(n)e(n) (7)

此時，能夠得到當前步驟的模型權重矩陣；

S303.更新n，即n＝n+1，判斷是否結束訓練：

若n＜N，則進行下一次迭代更新，返回步驟S301；否則，訓練完成得到模型權重矩陣W(N)，進入下一步；

S4.利用步驟S3訓練好的模型對新輸入模型的數據進行預測，對模型進行驗證；包括以下子步驟：

S401.計算的隨機傅里葉特征向量：

S402.根據步驟3得到的模型權重矩陣，計算預測值：

其中，W(N)表示S3步驟中最終訓練得到的權重系數。