[發明專利]基于跨平臺異構數據及行為上下文的CTR預估方法及系統

在審

• 申請號: 202011545280.6
• 申請日: 2020-12-24
• 公開（公告）號: CN112559877A
• 公開（公告）日: 2021-03-26
• 發明（設計）人: 高茜;李繼鵬
• 申請（專利權）人: 齊魯工業大學
• 主分類號: G06F16/9535
• 分類號: G06F16/9535;G06K9/46;G06K9/62;G06N3/04;G06N3/08;G06T3/40
• 代理公司: 濟南信達專利事務所有限公司 37100
• 代理人: 孫園園

1.一種基于跨平臺異構數據及行為上下文的CTR預估方法，其特征在于，該方法具體如下：

數據采集及預處理：采集不同平臺的異構數據，對用戶跨平臺異構數據進行數據預處理；

預估用戶實時興趣：通過注意力機制將跨平臺異構數據進行融入，即將用戶行為通過注意力機制與當下行為聯系起來，更好的預估用戶的實時興趣，從而提高CTR預估的準確性；

提取圖片特征：通過殘差網絡對待推薦物品進行圖片特征提取，再將所有特征向量進行拼接；

獲取CTR精準預估結果：將拼接后的圖片特征向量作為MLP網絡的輸入，通過MLP網絡進行高階特征提取和最終結果的預估，優勢互補，得到物品CTR的精確預估。

2.根據權利要求1所述的基于跨平臺異構數據及行為上下文的CTR預估方法，其特征在于，數據采集及預處理具體如下：

構建基本特征：根據硬件設備或手機APP獲取到的基本上下文信息及用戶信息構建離散特征和連續性數據特征；

特征轉化：通過Embedding層將采集到的用戶離散特征轉變為低維實數向量，緩解稀疏性；具體如下：

對于任意一個特征feature_i，Embedding層通過不斷訓練更新為feature_i的所有可能取值建立一個稠密向量映射表e_i，具體如下：

其中，i∈[1，n]，n為特征總個數；表示feature_i第j種取值對應的表征向量，j∈[1，m_i]；d表示稠密向量的維度；m_i表示feature_i的取值個數；

通過Embedding層后，得到基本上下文特征e_c、用戶基本特征e_u及待推薦物品基本特征e_i。

3.根據權利要求1所述的基于跨平臺異構數據及行為上下文的CTR預估方法，其特征在于，預估用戶實時興趣具體如下：

通過Embedding層對用戶跨平臺異構數據轉變為低維實數向量使其作為注意力信號，對用戶行為序列進行編碼，計算注意力分布；

計算注意力的加權平均，根據相似度通過注意力機制轉換成興趣權重，從而使得用戶興趣得到深度挖掘；

根據待推薦物品的向量再次對用戶行為序列進行注意力機制操作，得到基礎權重；

通過注意力機制得到的興趣權重及基礎權重進行對應求均值，從而得到用戶交互過的每個物品最終權重；

對輸入的序列進行加權融合，將得到的向量作為輸入序列的聚合特征[e₁，e₂，…，e_n]。

4.根據權利要求1所述的基于跨平臺異構數據及行為上下文的CTR預估方法，其特征在于，提取圖片特征具體如下：

采用殘差網絡提取待推薦物品圖片特征：采用7*7的卷積塊，進行步長為2的卷積，再通過池化層對特征圖進行壓縮，即f(z)＝max(z_{[i，j+k][j，j+k]})；

使用四組殘差塊，在殘差塊之間進行一次卷積操作；

加入池化層對其進行池化操作，經過網絡層后，對于輸入創意圖G的特征提取完畢；

經過一個包含256個神經元的全連接層，將所有特征相連并降維成256維向量的形式，記為e_G，將e_G與其余特征進行拼接。