[發明專利]基于LightGBM和Informer模型的工業物料銷量預測方法及裝置

在審

• 申請號: 202211045331.8
• 申請日: 2022-08-30
• 公開（公告）號: CN115641161A
• 公開（公告）日: 2023-01-24
• 發明（設計）人: 周泓;嚴虹;朱全銀;許宏;徐斌;李國豪;廖陽陽;趙保中;石銳;周歆裕;包涵
• 申請（專利權）人: 淮陰工學院
• 主分類號: G06Q30/0202
• 分類號: G06Q30/0202;G06F18/2415;G06N3/047;G06N3/0464;G06N3/048;G06N3/08
• 代理公司: 南京蘇高專利商標事務所(普通合伙) 32204
• 代理人: 柏尚春

本發明公開一種基于LightGBM和Informer模型的工業物料銷量預測方法及裝置，首先，對銷量數據集和相關歷史信息進行數據預處理，尋找平滑臨界點、處理缺失值，然后對銷售數據集進行建模，對相關歷史信息數據集通過特征工程模型、篩選特征，利用LightGBM算法計算特征重要性并用于業務理解分析，再通過二維卷積神經網絡提取額外的時間特征和趨勢信息，將卷積后的不同時間尺度作為Informer網絡層的輸入，生成三個子序列，這些子序列被輸入到連接層進行特征融合，最終的預測結果通過完全連接層輸出。本發明通過提取時間序列特征，利用LightGBM模型計算特征重要性，在工業物料銷量預測中，結合了歷史特征信息，同時引入置信區間，使得數據修正更加細化。

技術領域

本發明屬于預測方法技術領域，特別涉及一種基于LightGBM和Informer模型的工業物料銷量預測方法及裝置。

背景技術

LighGBM是一個梯度boosting框架,使用基于學習算法的決策樹。GBDT(GradientBoosting Decision Tree)是機器學習中一個長盛不衰的模型，其主要思想是利用弱分類器迭代訓練以得到最優模型，該模型具有訓練效果好、不易過擬合等優點。LightGBM是一個實現GBDT算法的框架，支持高效率的并行訓練，并且具有更快的訓練速度、更低的內存消耗、更好的準確率、支持分布式可以快速處理海量數據等優點。

Informer模型主要用于解決長序列時序預測(long sequence time-seriesforecasting-LSTF)，是一種基于注意力機制的網絡結構。該模型同時利用了transformer編碼器層和(掩碼)transformer解碼器層。該解碼器可以有效地在一次前向傳遞中預測長序列。當預測長序列時，這一特性有助于加快推理速度。Informer模型采用概率注意機制來預測長序列。Informer還包括學習嵌入相關的時間特征。這允許模型生成一個有效的基于任務的時間表示。最后，Informer同樣可以根據任務的復雜性堆棧n個級別的編碼器和解碼器。

傳統的工業物料銷量預測算法是依賴于事件發生的先后順序，同樣大小的值改變順序后輸入模型產生的結果是不同的，通過多種維度的數據本身內在與時間的關聯特性，利用歷史的數據預測未來，傳統的預測算法存在以下問題：已有的時間序列算法無法結合其他相關歷史信息等外界其他因素對預測目標做出更準確的預測；時間序列算法對于中短期預測比較顯著，但對于長期預測會有較大誤差。針對以上方法存在的問題，本發明通過綜合分析時間序列數據集以及相關歷史信息數據集，篩選特征，采用一種基于LightGBM的多變量時間序列的多目標銷量預測方法，實現對銷量的準確預測。

面對工業物料銷量預測問題，研究者們會選擇將研究的重點放在時間序列數據集上進行建模，但并未結合相關歷史信息數據集。本發明結合了時間序列和其他相關信息，通過特征篩選以及建模，提高了預測準確度。

發明內容

發明目的：本發明提供一種基于LightGBM和Informer模型的工業物料銷量預測方法及裝置，通過提取時間序列特征，利用LightGBM模型計算特征重要性，在工業物料銷量預測中，結合了歷史特征信息，同時引入置信區間，使得數據修正更加細化。

技術方案：本發明提出一種基于LightGBM和Informer模型的工業物料銷量預測方法，具體包括以下步驟：

(1)對銷量數據集和相關歷史信息進行數據預處理，尋找平滑臨界點、處理缺失值；

(2)對銷售數據集進行建模，對相關歷史信息數據集通過特征工程模型、篩選特征，利用LightGBM算法計算特征重要性并用于業務理解分析；

(3)通過二維卷積神經網絡提取額外的時間特征和趨勢信息，將卷積后的不同時間尺度作為Informer網絡層的輸入，生成三個子序列；

(4)將三個子序列輸入到Informer模型中進行訓練，將結果進行融合，得到物料銷量預測結果；