[發明專利]一種融合異質信息網絡的可解釋推薦方法

有效

• 申請號: 202011276253.3
• 申請日: 2020-11-16
• 公開（公告）號: CN112380434B
• 公開（公告）日: 2022-09-16
• 發明（設計）人: 王英;賈天浩;王鑫;左萬利;楊偉英;左祥麟
• 申請（專利權）人: 吉林大學
• 主分類號: G06F16/9535
• 分類號: G06F16/9535;G06Q30/06
• 代理公司: 長春市恒譽專利代理事務所(普通合伙) 22212
• 代理人: 李榮武

1.一種融合異質信息網絡的可解釋推薦方法，其方法如下所述：

(1)通過互聯網獲得含有豐富異質信息的真實數據集，分別處理數據集，抽取得到商品和用戶的特征信息，和特征之間的關系信息：

1)通過互聯網上推薦系統相關的網站獲取公開的包含異質信息的推薦系統數據集；

2)對于異質信息推薦系統數據集中包含的實體特征：商品的評論、商品的描述，商品種類，商品價格，商品品牌和購買關系，根據不同的關系抽取成多個兩兩實體之間的相似度矩陣，矩陣前兩列為兩個實體的名字，第三列為實體之間關系的評分；

3)通過數據處理得到數據集中包含的實體數量和關系數量；數據集的稀疏程度通過密度得到表示，數據密度按如下公式計算的：

其中分子是評分數量，分母是用戶數量與商品數量的乘積；

(2)對于的得到的特征信息和關系信息，利用元路徑的方法組合，得到不同關系下的用戶和商品的相似度矩陣，通過推薦系統中矩陣分解的方法對上述得到的多個相似度矩陣進行分解，得到在不同元路徑下的用戶和商品特征表示向量：

1)首先需要通過設計L條元路徑；

2)對于設定的元路徑，采用矩陣乘法可以得到對應的用戶商品相似度矩陣，基于元路徑的相似度矩陣是兩個關系矩陣之間的矩陣乘法操作，M_An-1An表示實體類型A_n-1與實體類型A_n之間關系的相似度矩陣；

3)、得到L條元路徑對應的用戶商品相似度矩陣之后，使用矩陣分解來獲得用戶和商品的潛在表示，矩陣分解的優化目標函數：其中是通過用戶和商品的表示向量矩陣相乘得到的預測矩陣，U代表用戶喜好的潛在特征，B是商品含有的潛在特征，代表預測相似度矩陣；和是動態參數，用于控制傅里葉范數正則化影響以避免過擬合；

4)對于之前設計的L條元路徑，通過實體關系矩陣乘法得到L個基于元路徑的相似度矩陣，同時進行如上的矩陣分解操作，得到L組不同的用戶和商品的特征表示U⁽¹⁾，B⁽¹⁾，U⁽²⁾，B⁽²⁾…，U^(L)，B^(L)；

(3)對于不同元路徑下的用戶和商品特征表示向量，設計不同的注意力神經網絡組合多個特征表示向量：

1)設計一個局部的注意力網絡，局部注意力網絡的目標是獲得組合了L組不同路徑信息的用戶和商品表示U_L和B_L，對于L組用戶表示u_i，i∈L，將它們依次輸入面向用戶表示的注意力神經網絡中，得到對應u_i的注意力系數α_i：

DNN_u(u_i)＝Relu(W_U*(Relu(…(u_i)…))+B_U)

其中DNN_u(u_i)是面向用戶的注意力神經網絡，它的輸入是不同路徑的用戶表示向量，W_U是神經網絡全連接系數矩陣，B_U是每一層的偏置，每層的激活函數都是Relu；然后通過softmax函數將神經網絡的L個輸出值歸一化得到注意力系數α_i，對于商品采用同樣的操作可以得到對應不同路徑下商品表示的注意力系數β_i：

DNN_b(b_i)＝Relu(W_B*(Relu(…(b_i)…))+B_B)

之后，根據得到的注意力系數α_i和β_i分別組合L組路徑的用戶和商品表示得到組合L組不同路徑信息的用戶和商品表示U_L和B_L，將用戶/商品表示乘以對應的注意力系數α_i/β_i，然后Concatenate操作直接拼接L組α_i*u_i/β_i*b_i：

U_L＝Concate(α₁*u₁||α₂*u₂…||α_i*u_i)

B_L＝Concate(β₁*b₁||β₂*b₂…||β_i*b_i)

最后，通過將用戶和商品表示U_L和B_L拼接就可以得到用戶和商品交互特征表示向量，即交互預測方法多層感知機的輸入向量P_local，如下所示：

P_local＝Concate(U_L||B_L)

＝Concate(α₁*u₁||α₂*u₂…||α_i*u_i||β₁*b₁||β₂*b₂…||β_i*b_i)；

2)設計一個全局注意力網絡，首先將每一組路徑對應的表示向量u_i和b_i拼接，得到對應路徑的交互特征表示p_i，p_i＝Concate(u_i||b_i)，i∈L，然后將L組p_i依次輸入面向交互特征的注意力神經網絡DNN_Z中，得到對應的注意力系數θ_i：

DNN_Z(p_i)＝Relu(W_Z*(Relu(…(p_i)…))+B_Z)

其中DNN_Z是多層的神經網絡，輸入是L組的交互特征表示p_i，W_Z、B_Z、Relu分別是神經網絡對應的全連接系數矩陣、層偏置項和激活函數，然后通過softmax函數將神經網絡的L個輸出值歸一化得到注意力系數θ_i；

根據得到的注意力系數θ_i組合L組路徑的交互特征表示p_i得到組合不同路徑信息的用戶和商品交互特征表示P_global，將L組路徑的交互特征表示p_i乘以對應的注意力系數θ_i，然后通過Concatenate操作直接拼接L組θ_i*p_i：

P_global＝Concate(θ₁*p₁||θ₂*p₂…||θ_i*p_i)；

3)、設計實體向量表示的交互方法，將基于局部注意力網絡的交互特征表示P_local和基于全局注意力網絡的交互特征表示P_global組合在一起采用組合方式有如下兩種：

P＝λ₁*P_local+λ₂*P_global

P＝Concate(λ₁*P_local||λ₂*P_global)

其中λ₁∈(0，1)和λ₂∈(0，1)是參數，用于決定每一部分信息的保留，第一中方法是將局部的交互特征表示P_local和全局的交互特征表示P_global相加，第二種方法是將二者拼接組合；

采用神經網絡作為特征交互方法能夠自動組合高階特征關系，輸入為最終的特征交互向量P，輸出預測的評分，如下所示：

y_pred＝Relu(W*(Relu(…(P)…))+B)；

4)通過目標任務即顯示數據的評分預測任務，設計平方損失函數作為優化目標：

Loss＝(y_pred-y_real)²+λ*||Para||²

其中，y_pred是方法預測的評分，y_real是用戶對商品真實的評分，Para是神經網絡中可訓練的參數，上式第一部分是真實值與預測值的平方差，第二部分是L2正則化，λ系數用于控制正則化強度以防止過擬合；

(4)、通過實驗結果比較獲取注意力神經網絡方法，將通過該方法組合得到的特征表示向量輸入多層感知機方法中獲得用戶對商品的評分預測：

1)設計5種變體方法，分別是不使用注意力機制的方法，只使用局部注意力網絡的方法，只使用全局注意力網絡的方法，在將局部的交互特征表示和全局的交互特征表示組合時采取相加操作的方法及采取將二者拼接組合的方法；

2)對以上5種變體方法進行了對比試驗；通過方法變體對比試驗的結果，選擇出最優的方法作為最終的預測方法；

(5)基于用戶對商品的評分預測，給用戶推薦評分預測最高的商品，并基于注意力網絡中的注意力系數給出推薦理由：

1)確定最優的注意力神經網絡方法，使用該方法進行預測，得到用戶對商品的預測評分，將預測評分高的物品推薦給該用戶；

2)獲得全局注意力網絡的注意力系數并可視化；

3)依據得到的注意力系數，基于系數最大的元路徑生成解釋作為給用戶推薦該商品的理由。