[發明專利]一種推薦方法及系統

在審

• 申請號: 202010577298.8
• 申請日: 2020-06-22
• 公開（公告）號: CN111737578A
• 公開（公告）日: 2020-10-02
• 發明（設計）人: 王小明;蓋枚嶺;龐光垚;王亮;王新燕;林亞光
• 申請（專利權）人: 陜西師范大學
• 主分類號: G06F16/9535
• 分類號: G06F16/9535;G06F16/958;G06N3/04;G06N3/08;G06Q30/02
• 代理公司: 北京前審知識產權代理有限公司 11760
• 代理人: 張波濤;尹秀峰

一種推薦方法及系統，該方法包括如下步驟：S100：將原始數據轉化為數值數據，將大規模稀疏特征轉化為低維密集特征；S200：獲得用戶的興趣表示；S300：分別提取用戶和項目的高階特征交互和低階特征交互，基于線性的全局注意力機制監視高階特征交互和低階特征交互對于點擊率預測的不同貢獻；S400：預測用戶是否點擊候選項，最終完成向用戶推薦項目。該方法及系統的有效性和性能明顯優于現有方法，并提供了良好的解釋性。

技術領域

本公開屬于人工神經網絡及個性化推薦技術領域，特別涉及一種推薦方法及系統。

背景技術

隨著互聯網服務和移動設備的發展，互聯網用戶可以輕松訪問大量的在線產品和服務。然而，當人們在享受著互聯網帶來便利的同時，也面臨著信息過載的問題。為了減少信息過載，滿足用戶的需求，推薦系統被發展起來并在現代生活中發揮著越來越重要的作用。其目的是幫助用戶從互聯網平臺的海量信息(產品、服務)中選擇合適的信息，已成功應用于各類線上互聯網平臺產品及服務的個性化推薦。

推薦系統的關鍵任務之一是預測點擊率，即估計用戶點擊推薦項目的概率。在許多推薦系統中，目標是最大化點擊次數，以便根據估計的點擊率對推薦項目進行排序。正確估計點擊率都是至關重要的，由于其重要性，越來越多的研究者開始致力于點擊率預測的研究。

有效地學習用戶點擊行為背后的隱含特征交互是點擊率預測的一個重要挑戰。傳統的點擊率預測方法，如經典的線性模型，雖然結構簡單，但在學習特征交互方面存在局限性，如：1)缺乏學習特征交互的能力，2)過度依賴人工提取的特征交互。因此傳統的方法在大規模系統中是不可行的。近年來，隨著深度學習在計算機視覺、語音識別、自然語言處理等領域的成功應用，許多點擊率預測模型從傳統的方法向深度點擊率模型轉變。這些深度點擊率預測模型減輕了特征工程的負擔，提高了模型的性能。例如，基于產品的神經網絡(PNN)，深度交叉網絡(Deep Crossing Network)、寬深模型(WideDeep)、深度興趣網絡(DIN)等，這些方法利用多層非線性神經網絡自動提取高階特征交互，提高了模型的性能。類似的模型，DeepCross網絡，深度神經網絡(DNN)，在一定程度上改善了點擊率預測。然而，這種方法有兩個局限性：1)只捕獲高階特征交互2)缺乏對哪些特征交互更有意義的解釋。

發明內容

為了解決上述問題，本公開提供了一種推薦方法，包括如下步驟：

S100：將原始數據轉化為數值數據，將大規模稀疏特征轉化為低維密集特征；

S200：獲得用戶的興趣表示；

S300：分別提取用戶和項目的高階特征交互和低階特征交互，基于線性的全局注意力機制監視高階特征交互和低階特征交互對于點擊率預測的不同貢獻；

S400：預測用戶是否點擊候選項，最終完成向用戶推薦項目。

本公開還提供了一種推薦系統，包括特征向量化層、興趣提取層、特征提取層和預測層；其中，

所述特征向量化層將原始數據轉化為數值數據，將大規模稀疏特征轉化為低維密集特征

所述興趣提取層獲得用戶的興趣表示；

所述特征提取層分別提取用戶和項目的高階特征交互和低階特征交互，基于線性的全局注意力機制監視高階特征交互和低階特征交互對于點擊率預測的不同貢獻；

所述預測層預測用戶是否點擊候選項，最終完成向用戶推薦項目。

上述技術方案不僅考慮了高階特征交互，還考慮了低階特征交互，而且不需要特征工程。此外，我們還根據用戶的歷史行為計算用戶的興趣，以提高預測精度。技術上，本技術方案提出了一個層次注意力模型，可以提高點擊率預測的準確性；還提出了一個特征交互提取器來學習高階特征交互和低階特征交互，以提高特征提取的準確性。