[發明專利]一種基于注意力模型的降噪自編碼器推薦方法

在審

• 申請號: 201910742757.0
• 申請日: 2019-08-13
• 公開（公告）號: CN110555132A
• 公開（公告）日: 2019-12-10
• 發明（設計）人: 張延華;王倩雯;付瓊霄;李萌;李慶;陳冰容
• 申請（專利權）人: 北京工業大學
• 主分類號: G06F16/735
• 分類號: G06F16/735;G06N3/04;G06N3/08
• 代理公司: 11203 北京思海天達知識產權代理有限公司
• 代理人: 劉萍

1.基于注意力模型的降噪自編碼器推薦方法，其特征在于，包括以下步驟：

步驟1.從網上公開數據集獲得用戶，電影信息以及用戶對電影的評分；

步驟2.利用卷積神經網絡處理電影標題信息；

步驟3.處理用戶與電影信息，分別轉變為用戶向量與電影向量；

步驟4.根據用戶評分，選出每位用戶評分前十的電影，作為用戶偏好矩陣；

步驟5.將用戶偏好矩陣輸入注意力模型，最終計算得到用戶的偏好特征向量；

步驟6.將用戶評分輸入降噪自編碼器，并在降噪自編碼器的隱藏層中添加用戶輔助信息向量和用戶偏好特征向量，經過至少100次迭代后，獲得完整用戶評分；

步驟7.根據預測評分進行電影推薦。

2.根據權利要求1所述的注意力模型的降噪自編碼器推薦方法，其特征在于，步驟3具體為將用戶性別中的F，M分別轉變為兩個16維向量；由于有七種年齡類別，所以將年齡轉變7個16維向量；工作類別共有21個，轉變為21個16維向量；電影的類別共有18種，轉變為18個32維向量，為保證各電影類別矩陣大小相同，將電影類別長度設置為18，不足的使用空向量補充；

將用戶id，工作，年齡信息輸入全連接層，得到一個200維的用戶信息向量；將電影id，類別，標題同樣輸入全連接層獲得200維電影信息向量。

3.根據權利要求1所述的注意力模型的降噪自編碼器推薦方法，其特征在于，步驟5具體為將用戶偏好電影矩陣輸入注意力網絡從而用戶偏好向量，公式如下：

I′_i＝f_tanh(W'I_i+b') (1)

A_i＝f_softmax(I′_iW^A) (2)

I_ρ＝∑A_iI_i (3)

其中I_i為第i個用戶評分前十的電影向量，W'為電影權重矩陣，b'為電影偏置矩陣，f_tanh為tanh函數，I′_i為用戶電影特征向量，W^A為電影特征權重矩陣，f_softmax為softmax函數，A_i為第i個電影向量的注意力權重系數，I_ρ為最終的用戶偏好向量。

4.根據權利要求1所述的注意力模型的降噪自編碼器推薦方法，其特征在于，步驟6具體為將用戶評分輸入降噪自編碼器，并在降噪自編碼器的隱藏層中添加用戶輔助信息向量和用戶偏好特征向量共同迭代，公式如下：

X′＝X+N (4)

h＝f_tanh(WX'+b) (5)

h'＝h+W^sS+I_ρ (6)

Y＝f_tanh(W^zh'+b^z) (7)

其中X為用戶評分向量，N為噪聲向量，X'為加噪評分向量，W為加噪評分的權重矩陣，b為加噪評分向量的偏置矩陣，h為隱藏層向量，S為用戶輔助信息向量，W^s為輔助信息向量權重矩陣，h'則為處理后的隱藏層向量，W^z，b^z分別為處理后的權重矩陣和偏置矩陣，Y為最終完整的評分向量；

代價函數為：

L＝||X-Y||² (8)

L為代價函數，即輸入評分與輸出評分的平方差；

經過至少100次迭代，獲得用戶完整評分。