[發(fā)明專利]一種基于用戶偏好的廣告點(diǎn)擊率預(yù)估方法

在審

• 申請(qǐng)?zhí)枺?/td>: 202011605515.6
• 申請(qǐng)日: 2020-12-29
• 公開（公告）號(hào): CN112700274A
• 公開（公告）日: 2021-04-23
• 發(fā)明（設(shè)計(jì)）人: 王振宇;吳逸群
• 申請(qǐng)（專利權(quán)）人: 華南理工大學(xué)
• 主分類號(hào): G06Q30/02
• 分類號(hào): G06Q30/02;G06N3/04;G06N3/08
• 代理公司: 廣州粵高專利商標(biāo)代理有限公司 44102
• 代理人: 何淑珍;江裕強(qiáng)

本發(fā)明公開了一種基于用戶偏好的廣告點(diǎn)擊率預(yù)估方法。所述方法包括以下步驟：采集數(shù)據(jù)獲得每個(gè)用戶的廣告點(diǎn)擊序列；對(duì)廣告點(diǎn)擊序列進(jìn)行預(yù)處理，獲得序列訓(xùn)練數(shù)據(jù)集；構(gòu)建基于用戶偏好網(wǎng)絡(luò)的點(diǎn)擊率預(yù)估模型；采用預(yù)處理得到的訓(xùn)練數(shù)據(jù)集對(duì)基于用戶偏好網(wǎng)絡(luò)的點(diǎn)擊率預(yù)估模型進(jìn)行迭代訓(xùn)練；輸入用戶完整的廣告點(diǎn)擊序列，利用訓(xùn)練獲得的基于用戶偏好網(wǎng)絡(luò)的點(diǎn)擊率預(yù)估模型學(xué)習(xí)用戶偏好特征，獲得點(diǎn)擊率預(yù)估結(jié)果。本發(fā)明引入了新穎的注意力機(jī)制，不僅同時(shí)考慮了用戶序列中隱含的長短期偏好，還進(jìn)一步地學(xué)習(xí)用戶漂移偏好及融合偏好，能克服現(xiàn)有方法在用戶偏好多樣多維與漂移建模上的不足，從用戶偏好學(xué)習(xí)的角度有效提升廣告點(diǎn)擊率預(yù)估的準(zhǔn)確性。

技術(shù)領(lǐng)域

本發(fā)明涉及推薦系統(tǒng)領(lǐng)域，更具體地，涉及一種基于用戶偏好的廣告點(diǎn)擊率預(yù)估方法。

背景技術(shù)

點(diǎn)擊率預(yù)估是廣告投放和推薦中的關(guān)鍵環(huán)節(jié)。點(diǎn)擊率預(yù)估在在線廣告領(lǐng)域中即廣告點(diǎn)擊量與投放量之比,衡量了廣告被用戶點(diǎn)擊的概率.其準(zhǔn)確性直接關(guān)系著平臺(tái)用戶體驗(yàn)與在線廣告平臺(tái)收益,具有極其重要的研究價(jià)值。在點(diǎn)擊購買等一系列行為中體現(xiàn)的偏好信息極大影響著用戶是否會(huì)點(diǎn)擊一個(gè)廣告商品。

目前，廣告點(diǎn)擊率預(yù)估方法大致分為兩種，一種是基于傳統(tǒng)機(jī)器學(xué)習(xí)方法作點(diǎn)擊率預(yù)估，如邏輯回歸、梯度提升樹、因子分解機(jī)等，這類方法難以學(xué)習(xí)特征高階交互關(guān)系，同時(shí)十分依賴領(lǐng)域知識(shí)和特征工程。另一種則基于深度學(xué)習(xí)方法作點(diǎn)擊率預(yù)估，這一類方法目前多圍繞提高模型特征表示與交互能力的角度設(shè)計(jì)新的結(jié)構(gòu)，借助DNN建模高階特征，通過低階與高階特征組合提高模型特征表示能力,如WideDeep、DeepFM、PNN、DSTN等。

這些方法關(guān)注于提高模型學(xué)習(xí)低階和高階特征及其交互關(guān)系的能力，忽視了從挖掘用戶偏好的角度提升點(diǎn)擊率預(yù)估的效果,難以充分利用行為序列中隱含的用戶偏好信息。少有的從偏好學(xué)習(xí)角度提出的方法如DIN、DIEN等存在僅僅考慮局部短期偏好或偏好學(xué)習(xí)結(jié)構(gòu)過于原始等的不足，目前的點(diǎn)擊率預(yù)估方法還缺乏對(duì)用戶偏好多樣多維特性、漂移特性的深入發(fā)掘和利用。

發(fā)明內(nèi)容

本發(fā)明針對(duì)上述現(xiàn)有技術(shù)的不足，提供了一種基于用戶偏好的廣告點(diǎn)擊率預(yù)估方法，既能同時(shí)學(xué)習(xí)全局長期歷史偏好和局部短期歷史偏好，實(shí)現(xiàn)長短期偏好特征互補(bǔ)，也能提取細(xì)粒度多維度的偏好漂移特征與偏好融合特征，可以有效提高點(diǎn)擊率預(yù)估的準(zhǔn)確性。

本發(fā)明的目的至少通過如下技術(shù)方案之一實(shí)現(xiàn)。

一種基于用戶偏好的廣告點(diǎn)擊率預(yù)估方法，所述方法包括以下步驟：

S1、采集商業(yè)平臺(tái)中的用戶廣告點(diǎn)擊記錄及用戶和廣告相應(yīng)屬性數(shù)據(jù)，按時(shí)間先后整理獲得每個(gè)用戶的廣告點(diǎn)擊序列；

S2、對(duì)廣告點(diǎn)擊序列進(jìn)行預(yù)處理，對(duì)長度不足或長度超出限定長度的點(diǎn)擊序列進(jìn)行異常處理，獲得序列訓(xùn)練數(shù)據(jù)集；

S3、構(gòu)建基于用戶偏好網(wǎng)絡(luò)的點(diǎn)擊率預(yù)估模型，包括用戶長短期偏好子網(wǎng)、偏好漂移子網(wǎng)、偏好融合子網(wǎng)的構(gòu)建；

S4、采用預(yù)處理得到的訓(xùn)練數(shù)據(jù)集對(duì)基于用戶偏好網(wǎng)絡(luò)的點(diǎn)擊率預(yù)估模型進(jìn)行迭代訓(xùn)練；

S5、輸入用戶完整的廣告點(diǎn)擊序列，利用訓(xùn)練獲得的基于用戶偏好網(wǎng)絡(luò)的點(diǎn)擊率預(yù)估模型學(xué)習(xí)用戶偏好特征，獲得點(diǎn)擊率預(yù)估結(jié)果。

進(jìn)一步地，步驟S1中，所述用戶廣告點(diǎn)擊記錄包括用戶id編號(hào)、點(diǎn)擊查看且購買的廣告商品id編號(hào)、購買時(shí)間，用于記錄用戶點(diǎn)擊查看且購買過的廣告商品；所述用戶和廣告相應(yīng)屬性數(shù)據(jù)包括用戶性別、用戶年齡段、用戶平臺(tái)等級(jí)、廣告商品價(jià)格、廣告商品評(píng)價(jià)等級(jí)、廣告商品銷量大小。

進(jìn)一步地，按時(shí)間先后整理獲得每個(gè)用戶的廣告點(diǎn)擊序列具體如下：

將每個(gè)用戶的購買行為按unix時(shí)間戳進(jìn)行排序；

可以在python中編寫程序?qū)⒉杉臄?shù)據(jù)按照unix時(shí)間戳進(jìn)行排序，或者采用excel按時(shí)間戳進(jìn)行排序。