[發(fā)明專利]一種基于用戶長短時期興趣建模的點擊率預(yù)測方法

在審

• 申請?zhí)枺?/td>: 202010103305.0
• 申請日: 2020-02-19
• 公開（公告）號: CN111369278A
• 公開（公告）日: 2020-07-03
• 發(fā)明（設(shè)計）人: 湯景凡;張秀杰;張旻;姜明;黃濤;吳鑫強
• 申請（專利權(quán)）人: 杭州電子科技大學(xué)
• 主分類號: G06Q30/02
• 分類號: G06Q30/02;G06N3/04
• 代理公司: 杭州君度專利代理事務(wù)所(特殊普通合伙) 33240
• 代理人: 朱月芬

1.一種基于用戶長短時期興趣建模的點擊率預(yù)測方法，其特征在于包括如下步驟：

步驟(1)把用戶行為序列劃分為不同的session，然后利用自注意力機制模塊來提取用戶短期興趣愛好；

步驟(2)通過多重通道記憶網(wǎng)絡(luò)提取用戶長期興趣愛好及興趣愛好偏移；

步驟(3)興趣激活單元把用戶短期興趣愛好、用戶長期興趣愛好及興趣愛好偏移特征關(guān)聯(lián)目標(biāo)物品；

步驟(4)將步驟(3)處理之后的三個特征鏈接起來，輸入到多重感知機中預(yù)測點擊概率；

步驟(5)對輸出的概率計算負(fù)對數(shù)似然函數(shù)，負(fù)對數(shù)似然函數(shù)值越小，方法對應(yīng)的效果越好。

2.根據(jù)權(quán)利要求1所述的一種基于用戶長短時期興趣的點擊率預(yù)測方法,其特征在于步驟(1)所述的session劃分，具體實現(xiàn)過程如下：

1-1用戶點擊序列具有時效性和連續(xù)性的特點，根據(jù)時間間隔把用戶點擊序列劃分為不同的session，具體來說：如果用戶點擊序列中兩個相鄰的物品點擊時間間隔超過設(shè)定閾值，則將這兩個相鄰物品劃分為不同的session區(qū)間，否則將這兩個相鄰物品劃分為同一個session；由于用戶短期興趣愛好具有時效性特點，因此只需要利用最近一次的session區(qū)間內(nèi)的點擊序列就能夠表示用戶短期興趣愛好；

1-2把用戶、商品、用戶行為序列的稀疏的特征嵌入轉(zhuǎn)換為低維度密集的特征表示，所有用戶信息可以表示成矩陣其中N_u表示用戶的個數(shù)；所有物品信息可以表示成其中N_i表示物品的個數(shù)；用戶行為序列表示為N表示用戶歷史行為點擊商品的個數(shù)，b_i表示表示相應(yīng)session中的第i個行為嵌入向量。

3.根據(jù)權(quán)利要求1所述的基于用戶長短時期興趣建模的點擊率預(yù)測方法,其特征在于步驟1中構(gòu)建自注意力模塊來提取最近一次session中的用戶短期的興趣愛好，具體實現(xiàn)如下：

把用戶行為序列S按照時間間隔劃分為不同的session R，其中，用戶u在t時刻最近一次session序列表示為表示t時刻最近一次session序列中用戶u點擊行為發(fā)生的次數(shù)，b_i表示相應(yīng)session中的第i個行為嵌入向量，d_mtoel表示每次點擊行為中物品嵌入維度；

首先，利用共享參數(shù)的非線性變化將查詢鍵(key)和值(value)映射到同一空間；

其中，是相應(yīng)的映射權(quán)重矩陣；Relu用作激活函數(shù)，它能學(xué)習(xí)到特征中的非線性交互；分別表示映射之后的查詢(query)、鍵(key)、值(value)矩陣；

然后，關(guān)聯(lián)矩陣的計算如下:

其中輸出一個的注意力矩陣圖它表示個物品之間的相似性；其中用于縮放點乘之后的注意力值，是用戶短期愛好的矩陣表示。

4.根據(jù)權(quán)利要求3所述的基于用戶長短時期興趣建模的點擊率預(yù)測方法,其特征在于步驟(2)中所述通過多重通道記憶網(wǎng)絡(luò)提取用戶長期興趣愛好及興趣愛好偏移，具體實現(xiàn)如下：

定義用戶u的內(nèi)存矩陣為其中表示用戶u對歷史物品記錄相應(yīng)特征的愛好表示向量；內(nèi)存矩陣用于保存用戶的長期愛好，每次有新數(shù)據(jù)加入的時候，都需要讀取和更新用戶內(nèi)存矩陣。