[發(fā)明專利]基于用戶興趣編輯的商品序列推薦方法及系統(tǒng)

有效

• 申請?zhí)枺?/td>: 202110332569.8
• 申請日: 2021-03-29
• 公開（公告）號: CN112862007B
• 公開（公告）日: 2022-12-13
• 發(fā)明（設(shè)計）人: 任鵬杰;陳竹敏;馬沐陽;任昭春;馬軍
• 申請（專利權(quán)）人: 山東大學(xué)
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06Q30/06
• 代理公司: 濟(jì)南圣達(dá)知識產(chǎn)權(quán)代理有限公司 37221
• 代理人: 閆圣娟

1.一種基于用戶興趣編輯的商品序列推薦方法，其特征在于，包括：

獲取與用戶產(chǎn)生交互行為的商品歷史序列；

將所述商品歷史序列輸入預(yù)訓(xùn)練的序列預(yù)測模型，輸出推薦的商品；

其中，所述序列預(yù)測模型包括序列編碼器、興趣分辨器以及序列解碼器，其訓(xùn)練過程采用興趣編輯策略，使所述序列預(yù)測模型學(xué)習(xí)不同商品歷史序列之間的公有性和特有性，獲得重新組合后的序列表示，利用重新組合的序列對所述序列預(yù)測模型進(jìn)行訓(xùn)練；

在所述序列編碼器中，對于每個商品序列均拼接若干特殊標(biāo)記，其中，每個標(biāo)記表示用戶特殊的興趣，并且通過所述序列編碼器將標(biāo)記后的商品序列編碼成隱狀態(tài)表示；

在所述興趣分辨器中，計算每一個特殊標(biāo)記對于序列中的所有商品的注意力分布，同時，引入了興趣覆蓋機制，避免不同的特殊標(biāo)記都關(guān)注相同的商品；

所述興趣覆蓋機制，具體是維護(hù)個覆蓋向量，向量記錄的是在特殊標(biāo)記之前的所有標(biāo)記對序列中所有商品的注意力分布之和，這代表了這些商品從注意力機制中得到的覆蓋程度，其計算如下：

其中，是由對所有商品產(chǎn)生的注意力分布向量表示并且，是零向量這代表著在第一個時間步下，沒有商品被覆蓋到；

在所述序列解碼器中，使用已經(jīng)得到的用戶多興趣表示來做推薦；

所述興趣編輯策略包括興趣分離和興趣交換兩種操作，通過興趣分辨器獲得不同序列的多興趣表示，然后通過興趣分離操作迫使所述序列預(yù)測模型學(xué)習(xí)序列間的公有性和特有性，所述興趣交換操作交換各自的公有性表示部分以此對之前的每一條序列生成重新組合之后的序列表示；

所述興趣分離操作具體為：對于每一對序列和,通過計算相似度矩陣來表示它們的相關(guān)程度；基于該相似度矩陣，計算注意力矩陣和，根據(jù)所述注意力矩陣獲得每條序列具有公有性和特有性的表示部分；

其中，和代表每條序列的公有性興趣表示，和代表序列各自的特有性興趣表示，和代表注意力矩陣，和代表多興趣表示矩陣，代表元素相乘操作。

2.如權(quán)利要求1所述的一種基于用戶興趣編輯的商品序列推薦方法，其特征在于，所述序列預(yù)測模型訓(xùn)練采用的目標(biāo)函數(shù)為推薦損失函數(shù)和覆蓋損失函數(shù)的組合，其中，所述推薦損失函數(shù)采用負(fù)對數(shù)似然估計，所述覆蓋損失函數(shù)用于懲罰不同興趣關(guān)注相同商品的情況；

首要目標(biāo)是對輸入序列的每一個位置去預(yù)測下一項商品，使用負(fù)對數(shù)似然作為推薦損失函數(shù)，其計算如下：

其中，是基于深度學(xué)習(xí)的編碼器-解碼器框架Multi-preference Transformer的所有參數(shù)；除此之外，還定義一個覆蓋損失來懲罰不同興趣關(guān)注相同商品的情況：

最后，將覆蓋損失函數(shù)乘上超參，加上推薦損失函數(shù)作為整體的損失函數(shù)來指導(dǎo)整個學(xué)習(xí)過程：

其中，控制著覆蓋損失函數(shù)的比例。