[發明專利]一種基于馬爾科夫鏈的嶺回歸數值預測方法

在審

• 申請號: 201910015180.3
• 申請日: 2019-01-13
• 公開（公告）號: CN109754086A
• 公開（公告）日: 2019-05-14
• 發明（設計）人: 胡燕祝;王松
• 申請（專利權）人: 胡燕祝
• 主分類號: G06N7/00
• 分類號: G06N7/00
• 代理公司: 暫無信息
• 代理人: 暫無信息

本發明涉及基于馬爾科夫鏈的嶺回歸數值預測方法屬于機器學習和數據挖掘領域，其特征在于采用如下步驟：(1)確定模型的輸出(2)確定損失函數L(ω)；(3)確定ω的值；(4)確定殘差序列E＝{e₁，e₂，...，e_n}；(5)確定m步狀態轉移矩陣p^(m)；(6)已知狀態轉移矩陣p^(m)和初始狀態e_i，建立馬爾科夫鏈對預測結果進行修正；(7)將測試集樣本作為輸入，進行模型訓練，得到預測結果。本發明基于馬爾科夫鏈的嶺回歸數值預測方法，首先建立嶺回歸模型進行了預測，然后利用馬爾科夫鏈對預測產生的殘差進行了修正，實現數值精準預測。通過多組數據實驗結果可知，相比于其他模型相比，本發明為數值預測提供了在保證了預測精度的基礎上增強模型泛化能力的預測方法。

技術領域

本發明涉及機器學習與數據挖掘領域，主要是一種數值預測方法。

背景技術

目前針對數值預測問題，大多數模型可以達到很高的預測精度，但是模型容易出現過擬合，隨著訓練能力的提高，預測能力反而下降。這些模型往往在訓練集上表現出很好的預測性能，然而在測試集上或者一些未知的數據中，預測能力會大大降低。尤其是神經網絡，神經網絡雖然在數值預測方面可以達到很高的預測精度，但是很容易出現過擬合，而且模型過于復雜，訓練時間過長。以BP神經網絡為例，早期的BP神經網絡存在逼近能力弱、收斂速度慢，易陷入局部最優等一系列問題。BP神經網絡的泛化能力容易受拓撲結構的影響，目前對其網絡結構的選擇尚無一種統一而完整的理論指導，一般只能由經驗選定。這在一定程度上增加了模型訓練過程中的不確定性。此外，神經網絡初始參數的選擇對網絡性能具有非常大的影響。網絡在訓練的過程中容易陷入局部極小點，雖然提出了一系列的參數優化方法，比如遺傳算法、布谷鳥搜索、網格參數尋優等，但是這些方法計算流程復雜，計算量大，比如遺傳算法需要通過多次交叉、變異方式經過N代的繁殖和優勝劣汰，需要耗費大量時間來進行參數調整。大大降低了模型的適用性。

我國在數值預測方面也取得了一些豐富成果。例如，利用深度學習在年降水量、交通流量、股票趨勢等方面實現了較好的數值預測。隨著計算機和人工智能的快速發展以及海量數據的指數級增長，對模型的預測精度以及預測速度提出了更高的要求。因此，要實現準確、高效地對某些領域的數值進行預測，達到數值預測的要求，必須建立一種精確、不易過擬合的數值預測方法，進一步簡化模型的訓練流程，提高模型的預測速度和精度，為我國經濟和商業等領域提供一種精準、高效的數值預測方式，為未來的管理提供建設性意見。

發明內容

針對上述現有技術中存在的問題，本發明要解決的技術問題是提供一種精準、高效的數值趨勢預測方法，其具體流程如圖1所示。

技術方案實施步驟如下：

(1)確定模型的輸出

其中，Y_k-1＝{y(0)，y(1)，...，y(k-1)}，U(k)＝{u(0)，u(1)，...，u(k)}，u(k)是輸入變量，θ是m維隨時間不斷變化的參數，k是離散時間。

(2)確定損失函數L(w)：

L(w)＝w^Tu(k)^Tu(k)w-y(k)^Tu(k)w+w^Tu(k)^Ty(k)-y(k)^Ty(k)+λw^Tw

式中，為模型預測值，y(k)為實際值，為加入的正則項。

(3)確定w的值：

另即