[發明專利]基于深度學習的用戶操作行為預測方法和系統

在審

• 申請號: 201811493939.0
• 申請日: 2018-12-07
• 公開（公告）號: CN109583659A
• 公開（公告）日: 2019-04-05
• 發明（設計）人: 楊晨;張曉風;曹曉耀;杜丹剛;翟云;蔡達;朱曉虎
• 申請（專利權）人: 南京富士通南大軟件技術有限公司
• 主分類號: G06Q10/04
• 分類號: G06Q10/04;G06N3/04;G06N3/08
• 代理公司: 南京鐘山專利代理有限公司 32252
• 代理人: 戴朝榮

1.一種基于深度學習的用戶操作行為預測方法，其特征在于，所述方法包括：

S1：從歷史操作日志中提取用戶行為數據，所述用戶行為數據至少包括環境數據和連續行為數據，環境數據包括數據發生時的多個外部環境因素，連續行為數據至少包括用戶的操作行為序列和操作行為的發生時間；

S2：對用戶行為數據進行預處理；

S3：將預處理后的用戶行為數據按比例劃分成訓練集、驗證集和測試集；

S4：創建用戶操作行為預測系統，所述用戶操作行為預測系統包括以操作行為序列、操作行為的發生時間為參數的深層LSTM子系統和以外部環境因素為參數的全連接神經網絡子系統；

S5：將訓練集、驗證集分類導入用戶操作行為預測系統，采用窗口滑動技術對用戶操作行為預測系統進行訓練和驗證，以獲取優化后的用戶操作行為預測系統；

S6：將測試集導入優化后的用戶操作行為預測系統，如果輸出的用戶行為的預測準確率大于等于設定準確率閾值，進入步驟S7，否則，返回步驟S5，預測準確率的計算公式如下：

其中，n是預測行為的樣本總數，y′_i是預測操作行為序號，y_i是實際操作行為序號，α_i是第i個預測行為的準確性；

S7：完成訓練，獲取優化完成的用戶操作行為預測系統。

2.根據權利要求1所述的基于深度學習的用戶操作行為預測方法，其特征在于，所述外部環境因素包括公司ID、部門ID、用戶ID、行為發生的時段中的幾種或者全部。

3.根據權利要求1所述的基于深度學習的用戶操作行為預測方法，其特征在于，步驟S2中，對用戶行為數據進行預處理的方法包括：

S21：剔除與業務無關的噪音數據；

S22：對剩余的環境數據執行歸一化處理，對剩余的連續行為數據進行預訓練以實現向量化。

4.根據權利要求3所述的基于深度學習的用戶操作行為預測方法，其特征在于，所述方法還包括：

采用word2vector技術對連續行為數據進行預訓練以實現向量化。

5.根據權利要求1所述的基于深度學習的用戶操作行為預測方法，其特征在于，步驟S5中，將訓練集、驗證集分類導入用戶操作行為預測系統，采用窗口滑動技術對用戶操作行為預測系統進行訓練和驗證，以獲取優化后的用戶操作行為預測系統的方法還包括：

將訓練集、驗證集中的屬于連續行為數據的部分導入深層LSTM子系統，將訓練集、驗證集中的屬于環境數據的部分導入全連接神經網絡子系統，兩者拼接至一起后統一執行至少N輪訓練，保存損失值最小的子系統作為優化后的子系統。

6.根據權利要求5所述的基于深度學習的用戶操作行為預測方法，其特征在于，所述N等于50。

7.根據權利要求1或者5所述的基于深度學習的用戶操作行為預測方法，其特征在于，所述方法還包括：

選用大小為10的滑動窗口對用戶操作行為預測系統進行訓練和驗證。

8.根據權利要求1所述的基于深度學習的用戶操作行為預測方法，其特征在于，所述方法還包括：

步驟S5中，采用分批導入數據的方式將訓練集、驗證集分類導入用戶操作行為預測系統。

9.根據權利要求1所述的基于深度學習的用戶操作行為預測方法，其特征在于，所述方法還包括：

步驟S5中，對用戶操作行為預測系統訓練時，采用的優化算法為adam優化算法，損失函數選用多分類交叉熵損失函數。

10.一種基于深度學習的用戶操作行為預測系統，其特征在于，所述系統包括：

用于從歷史操作日志中提取用戶行為數據的模塊，所述用戶行為數據至少包括環境數據和連續行為數據，環境數據包括數據發生時的多個外部環境因素，連續行為數據至少包括用戶的操作行為序列和操作行為的發生時間；

用于對用戶行為數據進行預處理的模塊；

用于將預處理后的用戶行為數據按比例劃分成訓練集、驗證集和測試集的模塊；

用于創建用戶操作行為預測系統的模塊，所述用戶操作行為預測系統包括以操作行為序列、操作行為的發生時間為參數的深層LSTM子系統和以外部環境因素為參數的全連接神經網絡子系統；

用于將訓練集、驗證集分類導入用戶操作行為預測系統，采用窗口滑動技術對用戶操作行為預測系統進行訓練和驗證，以獲取優化后的用戶操作行為預測系統的模塊；

用于將測試集導入優化后的用戶操作行為預測系統的模塊；

用于對優化后的用戶操作行為預測系統進行性能評價的模塊。