[發明專利]基于卷積神經網絡與降噪自編碼器的信息推薦方法及系統

有效

• 申請號: 201911313428.0
• 申請日: 2019-12-19
• 公開（公告）號: CN111127146B
• 公開（公告）日: 2023-05-26
• 發明（設計）人: 錢忠勝;趙暢
• 申請（專利權）人: 江西財經大學
• 主分類號: G06Q30/0601
• 分類號: G06Q30/0601;G06N3/08;G06N3/0464;G06N3/048;G06N3/0455
• 代理公司: 深圳市華騰知識產權代理有限公司 44370
• 代理人: 彭年才

1.一種基于卷積神經網絡與降噪自編碼器的信息推薦方法，其特征在于，包括以下步驟：

步驟一，深度分析數據信息，對評分信息、信任信息和評論信息進行分類和過濾；

步驟二，深度學習卷積神經網絡模型和降噪自編碼器模型，所述卷積神經網絡模型通過過濾函數，以并行的方式沿著固定大小的滑動窗口處理輸入序列，最終輸出序列的隱藏特征矩陣，再經過池化層輸出具有代表性部分的隱藏特征向量；所述降噪自編碼器模型通過加入噪聲影響原始的輸入數據來增加自身編碼和重構數據時的難度，通過一個狹窄的神經網絡，使用噪聲版本重構輸入數據，獲得特征表示，避免所述卷積神經網絡模型過度擬合；

步驟三，利用降噪自編碼器模型原理建立基于卷積神經網絡與降噪自編碼器的信息融合推薦模型；首先將所述評論信息輸入所述卷積神經網絡模型，生成隱藏特征向量，進而生成用戶對所有項目的喜好程度值所構成的向量；然后用三個并列的所述降噪自編碼器模型分別處理輸入的評分信息、信任信息和評論信息，生成相應的預測向量，并對生成的所述預測向量進行加權融合；最終生成目標用戶的相應的推薦列表；

其中，步驟二中的所述卷積神經網絡模型包括嵌入層、卷積層、池化層和輸出層；

所述嵌入層用于把一個用戶對一個項目的評論文本D轉化成一個數字矩陣，通過連接評論中的詞向量來把文本表示為一個矩陣，其中詞向量是隨機初始化或者用預訓練的詞嵌入模型進行初始化，生成的初始化詞向量矩陣為，其中，表示詞向量，d為詞向量的維度，s為評論的長度；當遇到未包含的詞，則賦予d維正態分布的隨機向量，其中表示輸入的文本中第個詞的詞向量；

所述卷積層用于提取輸入文本的上下文特征，輸入文本中第i個詞的上下文特征表示為，所述上下文特征的特征值通過卷積層中滑動窗口內的第個共享權重參數計算獲得，其中ws表示滑動窗口的大小，ws值決定了所述卷積神經網絡模型在提取第個詞的特征時，其上下文中所包含詞的數量；卷積層的工作方式如式（1）所示：

（1）

其中，*表示在卷積層計算中的卷積操作，即滑動窗口內的第個過濾函數對其在窗口內的ws個詞向量進行非線性并行處理；為偏置向量；函數表示一個非線性激活函數；

所述池化層用于提取隱藏特征，從隱藏特征中提取分布式表示，并且通過池化操作來將文本特征向量長度固定到一個定長的特征向量中；所述池化層使用max-pooling作為池化操作，通過從每個上下文特征向量中提取最大值，將所述評論信息的最終表示轉化為一個長度為的表示向量，具體操作如式（2）所示：

（2）

其中，是通過卷積層中滑動窗口內的第個共享權值計算獲得的輸入文本的上下文特征向量；

所述輸出層使用非線性映射函數生成評論文本潛在特征，具體過程如式（3）所示：

（3）

其中，和表示映射矩陣，和表示偏置向量；最終生成的隱藏特征向量為，向量的每一項表示一個用戶對一個項目的喜好程度值的概率，每個向量選取概率最大的值對應的數作為該用戶對該項目的喜好程度值；

所述降噪自編碼器模型包括編碼層、權重層和解碼層；

所述編碼層用于將評分、信任和評論數據輸入映射到低維空間，編碼層可以表示成式（7）、（8）和（9），

（7）

（8）

（9）

其中，分別表示用戶評分、信任和評論數據的有噪聲版本；分別表示從評分數據、信任數據和評論數據中學習的的潛在用戶偏好；維數為k的參數，，，，，被用來訓練去學習用戶偏好；是一個element-wise映射函數，該映射函數包括恒等函數或sigmoid函數；

所述權重層用于將評分、信任和評論數據進行加權整合，以得到建模用戶的偏好，具體過程表示成式（10），

（10）

其中，表示用戶的綜合用戶偏好；是平衡之間的影響的超參數；

所述解碼層用于從噪聲數據中重構原始輸入數據，評分、信任和評論數據的定義表示成式（11）、（12）和（13），

（11）

（12）

（13）

其中，為每個用戶的評分、信任和評論數據的預測值；參數，，，，，被訓練用來重構輸入；是一個element-wise映射函數。