[發明專利]一種分層神經網絡查詢推薦方法及裝置

在審

• 申請號: 201910255010.2
• 申請日: 2019-04-01
• 公開（公告）號: CN109740743A
• 公開（公告）日: 2019-05-10
• 發明（設計）人: 蔡飛;陳洪輝;劉俊先;羅愛民;舒振;陳濤;羅雪山;鄧正;潘鵬亨
• 申請（專利權）人: 中國人民解放軍國防科技大學
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06F16/903
• 代理公司: 北京風雅頌專利代理有限公司 11403
• 代理人: 馬驍;于潔

1.一種分層神經網絡查詢推薦方法，其特征在于，包括：

建立用于對用戶短期查詢記錄進行建模的會話層神經網絡和用于對用戶長期查詢記錄進行建模的用戶層神經網絡兩個神經網絡，其中將當前時刻的所述會話層神經網絡的狀態向量作為當前時刻所述用戶層神經網絡的輸入，將當前時刻的所述用戶層神經網絡的狀態向量作為下一時刻的所述會話層神經網絡的輸入；

根據所述會話層神經網絡和所述用戶層神經網絡，為查詢會話輸出查詢推薦內容。

2.根據權利要求1所述的方法，其特征在于，所述方法還包括：

將所述會話層神經網絡中的狀態向量的值以不同的權重組合成新的會話層神經網絡的狀態向量；

所述根據所述會話層神經網絡和所述用戶層神經網絡，為查詢會話輸出查詢推薦內容，包括：

根據更新會話層神經網絡狀態向量后的所述會話層神經網絡和所述用戶層神經網絡，為查詢會話輸出查詢推薦內容。

3.根據權利要求1所述的方法，其特征在于，所述將當前時刻的所述會話層神經網絡的狀態向量作為當前時刻所述用戶層神經網絡的輸入，將當前時刻的所述用戶層神經網絡的狀態向量作為下一時刻的所述會話層神經網絡的輸入，包括：

將t時刻的會話層神經網絡的狀態向量作為t時刻用戶層神經網絡的輸入，將t時刻用戶層神經網絡的狀態向量作為t+1時刻會話層神經網絡的輸入，將t+1時刻會話層神經網絡的狀態向量作為t+1時刻用戶層神經網絡的輸入，其中t大于或等于0。

4.根據權利要求3所述的方法，其特征在于，所述將t時刻用戶層神經網絡的狀態向量作為t+1時刻會話層神經網絡的輸入，將t+1時刻會話層神經網絡的狀態向量作為t+1時刻用戶層神經網絡的輸入，包括：

將t時刻用戶層神經網絡的狀態向量用來初始化t+1時刻的會話層神經網絡的第一個隱藏層狀態向量；將t+1時刻的會話層神經網絡的最后一個隱藏層狀態向量作為t+1時刻用戶層神經網絡的輸入。

5.根據權利要求4所述的方法，其特征在于，所述將t時刻用戶層神經網絡的狀態向量用來初始化t+1時刻的會話層神經網絡的第一個隱藏層狀態向量，包括：

將t時刻用戶層神經網絡的最后一個隱藏層的狀態向量用來初始化t+1時刻的會話層神經網絡的第一個隱藏層狀態向量。

6.根據權利要求2所述的方法，其特征在于，所述將所述會話層神經網絡中的狀態向量的值以不同的權重組合成新的會話層神經網絡的狀態向量，包括：

將所述會話層神經網絡中所有隱藏層的狀態向量的值以不同的權重組合成新的會話層神經網絡的狀態向量。

7.一種分層神經網絡查詢推薦裝置，其特征在于，包括：

分層神經網絡建立模塊，用于建立用于對用戶短期查詢記錄進行建模的會話層神經網絡和用于對用戶長期查詢記錄進行建模的用戶層神經網絡兩個神經網絡，其中將當前時刻的所述會話層神經網絡的狀態向量作為當前時刻所述用戶層神經網絡的輸入，將當前時刻的所述用戶層神經網絡的狀態向量作為下一時刻的所述會話層神經網絡的輸入；

推薦輸出模塊，用于根據所述分層神經網絡建立模塊建立的所述會話層神經網絡和所述用戶層神經網絡，為查詢會話輸出查詢推薦內容。

8.根據權利要求7所述的裝置，其特征在于，所述裝置還包括：

注意力機制處理模塊，用于將所述分層神經網絡建立模塊建立的會話層神經網絡中的狀態向量的值以不同的權重組合成新的會話層神經網絡的狀態向量；

所述推薦輸出模塊，根據更新會話層神經網絡狀態向量后的所述會話層神經網絡和所述用戶層神經網絡，為查詢會話輸出查詢推薦內容。

9.根據權利要求7所述的裝置，其特征在于：

所述分層神經網絡建立模塊將t時刻的會話層神經網絡的狀態向量作為t時刻用戶層神經網絡的輸入，將t時刻用戶層神經網絡的狀態向量作為t+1時刻會話層神經網絡的輸入，將t+1時刻會話層神經網絡的狀態向量作為t+1時刻用戶層神經網絡的輸入，其中t大于或等于0。

10.根據權利要求8所述的裝置，其特征在于：

所述注意力機制處理模塊將所述會話層神經網絡中所有隱藏層的狀態向量的值以不同的權重組合成新的會話層神經網絡的狀態向量。