[發明專利]基于反饋感知的局部與全局模型的推薦方法、終端及介質

在審

• 申請號: 202111497038.0
• 申請日: 2021-12-08
• 公開（公告）號: CN114490784A
• 公開（公告）日: 2022-05-13
• 發明（設計）人: 何銘凱;林晶;駱錦濰;潘微科;明仲
• 申請（專利權）人: 深圳大學
• 主分類號: G06F16/2457
• 分類號: G06F16/2457;G06Q50/06
• 代理公司: 深圳市君勝知識產權代理事務所(普通合伙) 44268
• 代理人: 朱陽波

本發明公開了一種基于反饋感知的局部與全局模型的推薦方法、終端及介質，其中，方法包括：通過反饋感知的自注意力模型捕捉目標對象的局部偏好；根據位置注意力層和局部偏好進行全局偏好學習，并捕捉目標對象的全局偏好；通過自注意力機制和局部意圖模型進行學習，并對目標對象的真實意圖進行建模，得到真實意圖模型；根據真實意圖模型、局部偏好以及全局偏好進行預測，得到目標對象的下一行為預測結果。本發明通過反饋感知的自注意力模型區分用戶的不同行為，可捕捉用戶的局部偏好，以及通過局部偏好學習，可以得到用戶的全局偏好；而且，基于真實意圖匹配對應的物品，利用局部意圖學習將用戶在下一步的真實意圖作為查詢向量，得到準確的預測結果。

技術領域

本發明涉及數據挖掘應用領域，尤其涉及的是一種基于反饋感知的局部與全局模型的推薦方法、終端及介質。

背景技術

在順序單類協同過濾中，已經出現了很多同構序列推薦算法，比如：基于RNN的方法GRU4Rec、基于CNN的方法Caser和NextItNet，以及基于注意力的算法SASRec等。但是，這些方法無法區分序列中針對同一物品的不同行為，因為這些算法在設計時僅考慮對單一類型的行為進行建模。

為了解決此問題，最近的一些順序異構單類協同過濾算法工作嘗試對異構序列進行建模，例如RLBL、RIB和BINN。循環對數雙線性模型(RLBL)將一個序列劃分為多個時間窗口，使用對數雙線性模型(LBL)來聚合每個時間窗口的交互信息，引入了與行為相關的轉移矩陣來區分不同的行為，從而得到該窗口內的短期偏好。由于一個序列被劃分為多個窗口，RLBL進一步使用RNN聚合不同窗口的偏好，從而得到用戶的長期偏好。結合微觀行為序列建模的推薦(RIB)考慮用戶的異構行為序列，將異構序列中每一個物品對應的行為特征向量與該物品的特征向量進行拼接，作為一個整體輸入到LSTM中，從而讓LSTM能夠在一步一步的建模中捕捉到不同行為之間的轉移模式。行為密集型神經網絡(BINN)提出了新型的基于RNN結構的上下文感知長短期記憶網絡(CLSTM)，在LSTM中引入了對異構行為的建模，從而使得BINN在運行過程中能區分和保留與行為相關的記憶。它們都是基于循環神經網絡的方法，并通過行為潛在特征矩陣來區分不同的行為。

最近，很多現有工作如RLBL、RIB、BINN等使用RNN來建模異構序列。雖然RNN是一種對序列信息進行建模的有效方法，但它存在難以并行訓練，容易出現梯度消失等缺點。但它們大多基于RNN，在捕捉用戶復雜和動態偏好方面可能沒有很強的競爭力。大多數現有的先進序列推薦算法，如基于自注意力的算法FISSA，不能直接應用于異構序列推薦問題。除此之外，大多數現有的異構序列推薦方法沒有考慮到對用戶當前意圖進行建模。由于異構序列中混雜了多種不同的行為，如點擊、購買、添加購物車、收藏等行為，對于用戶接下來會做出什么行為這一意圖進行建模也很重要。

對于異構序列推薦中用戶意圖的建模，存在以下三個挑戰：(1)反饋的異構性。對于異構序列推薦算法來說，如何區分歷史交互序列中不同類型的反饋非常重要。(2)用戶偏好的復雜性。如何讓異構序列推薦算法更好地區分和利用用戶的局部和全局偏好也是一個重要問題。(3)用戶意圖的不確定性。在同構序列推薦中，使用歷史購買序列訓練的模型可以預測下一步可能購買的商品。然而，在同時包含點擊和購買的序列中，在每一步都很難針對真實的下一個反饋預測下一步可能交互的商品。

因此，現有技術還有待改進。

發明內容

本發明要解決的技術問題在于，針對現有技術缺陷，本發明提供一種基于反饋感知的局部與全局模型的推薦方法、終端及介質，以解決現有的異構預測訓練難度大的技術問題。

本發明解決技術問題所采用的技術方案如下：

第一方面，本發明提供一種基于反饋感知的局部與全局模型的推薦方法，基于反饋感知的局部與全局模型的推薦方法包括以下步驟：

通過反饋感知的自注意力模型捕捉目標對象的局部偏好；