[發(fā)明專利]神經(jīng)網(wǎng)絡(luò)預(yù)測方法及裝置

在審

• 申請?zhí)枺?/td>: 201710960577.0
• 申請日: 2017-10-16
• 公開（公告）號: CN109670589A
• 公開（公告）日: 2019-04-23
• 發(fā)明（設(shè)計）人: 沈一;茅越;蔡龍軍
• 申請（專利權(quán)）人: 優(yōu)酷網(wǎng)絡(luò)技術(shù)（北京）有限公司
• 主分類號: G06N3/08
• 分類號: G06N3/08
• 代理公司: 北京林達劉知識產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11277
• 代理人: 劉新宇

1.一種神經(jīng)網(wǎng)絡(luò)預(yù)測方法，其特征在于，所述方法包括：

分別獲取多個待預(yù)測對象的特征信息；

將所述特征信息輸入預(yù)測模型中進行處理，獲取針對所述多個待預(yù)測對象中至少一個待預(yù)測對象的預(yù)測結(jié)果；

輸出所述預(yù)測結(jié)果，

其中，所述預(yù)測模型包括長短期記憶網(wǎng)絡(luò)LSTM模塊、深度神經(jīng)網(wǎng)絡(luò)DNN模塊、關(guān)系網(wǎng)絡(luò)RN模塊以及對抗訓(xùn)練網(wǎng)絡(luò)模塊。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，將所述特征信息輸入預(yù)測模型中進行處理，獲取針對所述多個待預(yù)測對象中至少一個待預(yù)測對象的預(yù)測結(jié)果，包括：

將所述特征信息輸入所述LSTM模塊中進行處理，確定所述多個待預(yù)測對象的長短期記憶信息；

將所述長短期記憶信息輸入所述DNN模塊中進行處理，確定所述多個待預(yù)測對象的深度信息；

將所述深度信息輸入所述RN模塊中進行處理，確定所述多個待預(yù)測對象的關(guān)系信息；

將所述關(guān)系信息輸入所述對抗訓(xùn)練網(wǎng)絡(luò)模塊中進行處理，確定所述多個待預(yù)測對象中至少一個待預(yù)測對象的預(yù)測結(jié)果。

3.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述預(yù)測模型還包括嵌入模塊，

其中，將所述特征信息輸入預(yù)測模型中進行處理，獲取針對所述多個待預(yù)測對象中至少一個待預(yù)測對象的預(yù)測結(jié)果，還包括：

將初始信息輸入所述嵌入模塊進行向量化處理，確定所述初始信息的向量信息；

將所述初始信息和所述向量信息確定為所述特征信息。

4.根據(jù)權(quán)利要求1或3所述的方法，其特征在于，所述方法還包括：

分別獲取多組樣本對象當(dāng)前周期的特征信息；

將所述當(dāng)前周期的特征信息以及前一周期的訓(xùn)練預(yù)測結(jié)果輸入初始預(yù)測模型中進行處理，獲取針對所述多組樣本對象當(dāng)前周期的訓(xùn)練預(yù)測結(jié)果；

根據(jù)所述多組樣本對象的多個周期的訓(xùn)練預(yù)測結(jié)果以及所述多個周期的期望預(yù)測結(jié)果，分別確定所述多組樣本對象的多個周期的模型損失；

根據(jù)所述模型損失，調(diào)整所述初始預(yù)測模型中的參數(shù)權(quán)重，確定調(diào)整后的預(yù)測模型；

在所述模型損失滿足訓(xùn)練條件的情況下，將調(diào)整后的預(yù)測模型確定為最終的預(yù)測模型。

5.根據(jù)權(quán)利要求4所述的方法，其特征在于，根據(jù)所述模型損失，調(diào)整所述初始預(yù)測模型中的參數(shù)權(quán)重，確定調(diào)整后的預(yù)測模型，包括：

根據(jù)所述多組樣本對象多個周期的模型損失，依次調(diào)整所述對抗訓(xùn)練網(wǎng)絡(luò)模塊、所述RN模塊、所述DNN模塊、所述LSTM模塊以及嵌入模塊中的參數(shù)權(quán)重，確定調(diào)整后的預(yù)測模型。

6.根據(jù)權(quán)利要求4所述的方法，其特征在于，所述多組樣本對象至少部分的特征信息相同，不同組的樣本對象的類別不同。

7.一種神經(jīng)網(wǎng)絡(luò)預(yù)測裝置，其特征在于，所述裝置包括：

特征信息獲取單元，用于分別獲取多個待預(yù)測對象的特征信息；

預(yù)測結(jié)果獲取單元，用于將所述特征信息輸入預(yù)測模型中進行處理，獲取針對所述多個待預(yù)測對象中至少一個待預(yù)測對象的預(yù)測結(jié)果；

預(yù)測結(jié)果輸出單元，用于輸出所述預(yù)測結(jié)果，

其中，所述預(yù)測模型包括長短期記憶網(wǎng)絡(luò)LSTM模塊、深度神經(jīng)網(wǎng)絡(luò)DNN模塊、關(guān)系網(wǎng)絡(luò)RN模塊以及對抗訓(xùn)練網(wǎng)絡(luò)模塊。

8.根據(jù)權(quán)利要求7所述的裝置，其特征在于，所述預(yù)測結(jié)果獲取單元包括：

LSTM處理子單元，用于將所述特征信息輸入所述LSTM模塊中進行處理，確定所述多個待預(yù)測對象的長短期記憶信息；

DNN處理子單元，用于將所述長短期記憶信息輸入所述DNN模塊中進行處理，確定所述多個待預(yù)測對象的深度信息；

RN處理子單元，用于將所述深度信息輸入所述RN模塊中進行處理，確定所述多個待預(yù)測對象的關(guān)系信息；

對抗訓(xùn)練子單元，用于將所述關(guān)系信息輸入所述對抗訓(xùn)練網(wǎng)絡(luò)模塊中進行處理，確定所述多個待預(yù)測對象中至少一個待預(yù)測對象的預(yù)測結(jié)果。