[發明專利]一種基于長短時記憶網絡的信息轉發概率預測方法及系統

有效

• 申請號: 201911229629.2
• 申請日: 2019-12-04
• 公開（公告）號: CN111079084B
• 公開（公告）日: 2021-09-10
• 發明（設計）人: 趙虹;葉沁媛;李悅江;胡泓
• 申請（專利權）人: 清華大學
• 主分類號: G06F17/18
• 分類號: G06F17/18;G06N3/04;G06N3/08;G06Q50/00
• 代理公司: 北京路浩知識產權代理有限公司 11002
• 代理人: 王宇楊

1.一種基于長短時記憶網絡的信息轉發概率預測方法，其特征在于，包括：

根據用戶當前瀏覽的目標信息和預設歷史時間段內瀏覽的若干條歷史信息，獲取瀏覽信息序列；

根據所述瀏覽信息序列和訓練后的預測模型，獲取所述目標信息的轉發概率，訓練后的預測模型是基于瀏覽信息序列樣本數據和預設的瀏覽信息序列標簽進行訓練后得到，預測模型包括文本模型，所述文本模型用于獲取所述瀏覽信息序列中每一信息的文本信息；

所述預測模型還包括信息長短時記憶網絡模型，所述信息長短時記憶網絡模型位于所述文本模型之后，所述信息長短時記憶網絡模型包括長短時記憶網絡模塊和預測模塊，其中：

所述長短時記憶網絡模塊用于根據所述瀏覽信息序列中每一信息對應的句向量，獲取輸出向量；

所述預測模塊用于對所述輸出向量進行邏輯斯蒂回歸處理，獲取所述目標信息的轉發概率。

2.根據權利要求1所述的基于長短時記憶網絡的信息轉發概率預測方法，其特征在于，所述長短時記憶網絡模塊還用于通過Dropout技術對所述輸出向量進行過處理，將處理后的結果重新作為所述輸出向量。

3.根據權利要求1所述的基于長短時記憶網絡的信息轉發概率預測方法，其特征在于，所述預測模塊用于對所述輸出向量進行邏輯斯蒂回歸處理，獲取所述目標信息的轉發概率，具體包括：

P(X|Y₁，...，Y_K)＝Sigmoid(w^T·q)，

其中，P(X|Y₁，…,Y_K)表示所述目標信息的轉發概率，q表示所述輸出向量，w為權重向量。

4.根據權利要求2所述的基于長短時記憶網絡的信息轉發概率預測方法，其特征在于，所述長短時記憶網絡模塊還用于通過Dropout技術對所述輸出向量進行過處理，將處理后的結果重新作為所述輸出向量，具體包括：

其中，q表示所述輸出向量，表示所述瀏覽信息序列中每一信息對應的句向量。

5.根據權利要求1所述的基于長短時記憶網絡的信息轉發概率預測方法，其特征在于，訓練后的預測模型通過如下方法獲得：

根據所述瀏覽信息序列樣本數據和所述文本模型，獲取瀏覽信息序列樣本的句向量；

根據瀏覽信息序列樣本的句向量和所述瀏覽信息序列標簽，對所述信息長短時記憶網絡模型進行訓練，獲取訓練后的信息長短時記憶網絡模型；

將所述文本模型和訓練后的信息長短時記憶網絡模型作為訓練后的預測模型。

6.根據權利要求1所述的基于長短時記憶網絡的信息轉發概率預測方法，其特征在于，訓練后的預測模型通過如下方法獲得：

根據所述瀏覽信息序列樣本數據和所述瀏覽信息序列標簽，對所述文本模型和所述信息長短時記憶網絡模型進行訓練，獲取訓練后的文本模型和訓練后的信息長短時記憶網絡模型；

將訓練后的文本模型和訓練后的信息長短時記憶網絡模型作為訓練后的預測模型。

7.一種基于長短時記憶網絡的信息轉發概率預測系統，其特征在于，包括：

序列模塊，用于根據用戶當前瀏覽的目標信息和預設歷史時間段內瀏覽的若干條歷史信息，獲取瀏覽信息序列；

轉發模塊，用于根據所述瀏覽信息序列和訓練后的預測模型，獲取所述目標信息的轉發概率，訓練后的預測模型是基于瀏覽信息序列樣本數據和預設的瀏覽信息序列標簽進行訓練后得到，預測模型包括文本模型，所述文本模型用于獲取所述瀏覽信息序列中每一信息的文本信息；

所述預測模型還包括信息長短時記憶網絡模型，所述信息長短時記憶網絡模型位于所述文本模型之后，所述信息長短時記憶網絡模型包括長短時記憶網絡模塊和預測模塊，其中：

所述長短時記憶網絡模塊用于根據所述瀏覽信息序列中每一信息對應的句向量，獲取輸出向量；

所述預測模塊用于對所述輸出向量進行邏輯斯蒂回歸處理，獲取所述目標信息的轉發概率。