[發明專利]一種基于深度交叉特征融合的推薦方法及裝置

有效

• 申請號: 202011416256.2
• 申請日: 2020-12-07
• 公開（公告）號: CN112541130B
• 公開（公告）日: 2021-10-29
• 發明（設計）人: 于瑞云;張碧耘;葉德志;汪志鴻
• 申請（專利權）人: 東北大學
• 主分類號: G06F16/9536
• 分類號: G06F16/9536;G06Q30/06;G06N3/04;G06N3/08
• 代理公司: 沈陽東大知識產權代理有限公司 21109
• 代理人: 梁焱

1.一種基于深度交叉特征融合的推薦方法，其特征在于，包括以下步驟：

步驟1：獲取初始數據；

所述初始數據，包括用戶信息集合、項目信息集合以及用戶和項目的交互矩陣；

步驟2：使用one-hot編碼將用戶信息集合中所有用戶的ID和項目信息集合中所有項目的ID均轉換為one-hot向量；

步驟3：將所有one-hot向量轉換成嵌入向量，得到用戶的初始嵌入向量和項目的初始嵌入向量；

步驟4：將用戶的初始嵌入向量輸入到m個MLP中得到用戶的m個特征向量，以及將項目的初始嵌入向量輸入到m個MLP中得到項目的m個特征向量；

步驟5：對用戶的m個特征向量做拼接操作得到用戶特征向量棧，以及對項目的m個特征向量做拼接操作得到項目特征向量棧；

步驟6：通過計算用戶特征向量棧的每個用戶特征向量與項目特征向量棧中的每個項目特征向量之間的影響關系，將用戶特征向量與項目特征向量做細粒度的融合，得到最終的用戶嵌入向量和項目嵌入向量；

步驟7：將用戶的最終嵌入向量和項目的最終嵌入向量做內積，得到目標用戶可能對項目產生交互的預測分數；

步驟8：根據最終得到的目標用戶可能對項目產生交互的預測分數值，為目標用戶進行推薦；

所述的步驟6包括如下步驟：

步驟6.1：使用局部self-attention自注意力機制計算出用戶的m個特征向量與項目的m個特征向量間一一對應的注意力權重，得到m*m個注意力權重；

步驟6.2：分別用用戶的每個特征向量對應項目的每個特征向量做哈達瑪積計算，得到特征矩陣；

步驟6.3：將步驟6.2得到的特征矩陣與步驟6.1得到的注意力權重對應元素相乘，得到多偏好矩陣S；

步驟6.4：利用步驟6.3得到的多偏好矩陣S和點積加權運算對步驟5得到的原始的用戶特征向量棧和項目特征向量棧進行處理，即對原始的用戶特征向量棧由歸一化多偏好矩陣加權，得到新的用戶特征向量棧，以及對原始的項目特征向量棧由轉置的歸一化多偏好矩陣加權，得到新的項目特征向量棧；

步驟6.5：將新的項目特征向量棧與原始的用戶特征向量棧做拼接操作后輸入到全連接神經網絡中得到最終的用戶嵌入向量，以及將新的用戶特征向量棧與原始的項目特征向量棧做拼接操作后輸入到全連接神經網絡中得到最終的項目嵌入向量。

2.根據權利要求1所述的基于深度交叉特征融合的推薦方法，其特征在于，在所述步驟3中，使用Embedding嵌入操作將所有one-hot向量轉換成嵌入向量，得到用戶的初始嵌入向量和項目的初始嵌入向量，公式如下：

e_u＝P^Tv_u (1)

e_i＝Q^Tv_i (2)

其中，v_u和v_i分別為經過one-hot編碼得到的用戶的one-hot向量和項目的one-hot向量；P為用戶的特征嵌入矩陣；Q為項目的特征嵌入矩陣；T表示轉置運算；e_u和e_i分別為用戶和項目的初始嵌入向量，u代表用戶信息集合中的任一用戶，i代表項目信息集合中的任一項目。

3.根據權利要求1所述的基于深度交叉特征融合的推薦方法，其特征在于，所述步驟7中所述的預測分數值在0到1的區間內。

4.根據權利要求1所述的基于深度交叉特征融合的推薦方法，其特征在于，所述m的取值設為4。

5.根據前述任一項權利要求所述的基于深度交叉特征融合的推薦方法，其特征在于，在所述步驟8中，將預測分數值填充到用戶-項目評分矩陣中，為目標用戶生成個性化推薦列表并進行個性化推薦。

6.根據權利要求1所述的基于深度交叉特征融合的推薦方法的基于深度交叉特征融合的推薦裝置，其特征在于，包括：

數據采集模塊：用于采集初始數據，所述初始數據包括用戶信息集合、項目信息集合以及用戶和項目的交互矩陣Y，數據采集模塊將其采集到的初始數據傳送給數據處理模塊；

數據處理模塊：用于1)首先使用one-hot編碼，將用戶信息集合中所有用戶的ID和項目信息集合中所有項目的ID均轉換為one-hot向量；2)使用嵌入層將one-hot向量轉換成嵌入向量，從而得到用戶和項目的初始嵌入向量并傳送給特征擴展模塊；

特征擴展模塊：由多個MLP組成，用于擴展用戶特征和項目特征，具體地，將用戶的初始嵌入向量輸入到m個MLP中得到用戶的m個特征向量，同時將項目的初始嵌入向量也輸入到m個MLP中，得到項目的m個特征向量，并將擴展出用戶的m個特征向量和項目的m個特征向量發送給拼接處理模塊；

拼接處理模塊：用于對其接收的用戶的m個特征向量做拼接操作得到用戶特征向量棧，以及對其接收的項目的m個特征向量做拼接操作得到項目特征向量棧，并將用戶特征向量棧和項目特征向量棧均傳送給深度交叉特征融合模塊；

深度交叉特征融合模塊：用于計算用戶的每個特征與項目的每個特征之間的影響關系，將用戶特征與項目特征做細粒度的融合，得到最終的用戶嵌入向量和項目嵌入向量，并將這兩個向量傳送給交互預測模塊；

交互預測模塊：用于對最終的用戶嵌入向量和項目嵌入向量做內積，得到目標用戶對相應項目產生交互的預測分數，并將分數值傳送給推薦生成模塊；

推薦生成模塊：用于根據預測分數值，為目標用戶生成個性化推薦列表并進行個性化推薦。