[發(fā)明專利]基于一階元學習和多監(jiān)督者關聯(lián)網絡的冷啟動推薦方法

有效

• 申請?zhí)枺?/td>: 202211664300.0
• 申請日: 2022-12-23
• 公開（公告）號: CN116244501B
• 公開（公告）日: 2023-08-08
• 發(fā)明（設計）人: 劉小洋;張子揚
• 申請（專利權）人: 重慶理工大學
• 主分類號: G06F16/9535
• 分類號: G06F16/9535;G06F18/241;G06F18/214;G06N3/0499
• 代理公司: 重慶天成卓越專利代理事務所(普通合伙) 50240
• 代理人: 王宏松

本發(fā)明提出了一種基于一階元學習和多監(jiān)督者關聯(lián)網絡的冷啟動推薦方法，包括：S1，將原始特征通過嵌入層轉化為稠密向量，得到用戶的稠密表示和物品的稠密表示；S2，將用戶的稠密表示輸入到多監(jiān)督者網絡當中；S3，通過多監(jiān)督者網絡生成的用戶表示以及物品的稠密表示輸入到關聯(lián)網絡計算每個用戶和物品的重要性，進行一個細粒度的用戶?物品交互建模，得到加權之后的用戶表示和物品表示；S4，將經過細粒度建模生成的用戶表示和物品表示輸入到基于FOMAML的個性化用戶偏好估計模型當中輸出最終的結果。本發(fā)明方法有效緩解了模型訓練開銷過大的問題和用戶愛好偏差問題，提升了模型冷啟動推薦的準確性。

技術領域

本發(fā)明涉及冷啟動推薦領域，特別是涉及一種基于一階元學習和多監(jiān)督者關聯(lián)網絡的冷啟動推薦方法。

背景技術

隨著信息科技的迅速發(fā)展，互聯(lián)網信息數(shù)量呈現(xiàn)指數(shù)性增長，并且低熵信息在互聯(lián)網上所占的比例越來越大，互聯(lián)網用戶想要根據(jù)自身需求獲取對應的信息的難度越來越大。推薦系統(tǒng)作為解決信息超載現(xiàn)象的有效工具可以幫助用戶在繁雜的信息當中找出滿足需求的信息。傳統(tǒng)的推薦系統(tǒng)通常可以分為基于協(xié)同過濾的推薦系統(tǒng)和基于內容的推薦系統(tǒng)，基于協(xié)同過濾的推薦系統(tǒng)通過從大量用戶中收集用戶的歷史偏好信息來評估用戶響應，這種預測方式是建立在與目標用戶具有相似性的其他用戶對物品的評級之上的。所以當有新用戶或者新物品時這類系統(tǒng)就無法處理，因為缺乏用戶-物品的交互歷史，無法判定新用戶或者新物品與其他用戶或者其他物品的相似度。為此引入了基于內容的推薦系統(tǒng)來解決冷啟動問題，此類推薦系統(tǒng)是根據(jù)用戶的個人資料信息和物品的內容來提出建議的，它向新用戶推薦和其具有相似內容的用戶所喜愛的物品。但是當用戶-物品交互歷史數(shù)據(jù)稀疏時，此類系統(tǒng)在實際運用當中并沒有很好的表現(xiàn)。另外由于大眾網絡安全意識的提升，獲取用戶的個人資料信息也是越來越困難，推薦系統(tǒng)面臨著冷啟動問題。

為了緩解冷啟動問題，業(yè)界做了很多努力。近年來研究人員將基于優(yōu)化的元學習引入到了推薦系統(tǒng)當中，基于優(yōu)化的參數(shù)初始化的基本思想是將元知識w，定義為基礎推薦模型的初始參數(shù)，然后以雙層優(yōu)化的形式更新參數(shù)初始化。除了基于推薦模型的參數(shù)初始化之外，一些工作還利用元學習來學習不同冷啟動任務的自適應超參數(shù)。

目前基于元學習范式的模型還是存在一些問題，例如MeLU僅使用到了用戶和物品的相關屬性，沒有使用到富有價值的用戶歷史交互序列，同時每一類屬性生成的嵌入向量(embedding)都是固定的，沒有考慮到可能存在相同屬性的用戶偏愛不同類型的物品的這種情況。MAMO為每個用戶構建獨有的嵌入向量生成器和推薦器，但是效果不是很穩(wěn)定，這可能由于過擬合導致的。除此之外多數(shù)元學習范式模型的均是引入MAML元學習框架，但是其內部分二階導運算會導致收斂速度慢、梯度退化和訓練開銷大等缺點。

此外，在工業(yè)界中對推薦系統(tǒng)的時延性有很高的要求，同時在實際應用中用戶的潛在喜好是難以琢磨的，對于擁有相似特征的用戶來說，他們所喜歡的物品可能會有細微的區(qū)別。

發(fā)明內容

本發(fā)明旨在至少解決現(xiàn)有技術中存在的技術問題，特別創(chuàng)新地提出了一種基于一階元學習和多監(jiān)督者關聯(lián)網絡的冷啟動推薦方法。

為了實現(xiàn)本發(fā)明的上述目的，本發(fā)明提供了一種基于一階元學習和多監(jiān)督者關聯(lián)網絡的冷啟動推薦方法，包括：

S1，將原始特征通過嵌入層轉化為稠密向量，得到用戶的稠密表示和物品的稠密表示；用戶和物品的稠密表示分別為其中k表示嵌入維度，表示用戶第N個特征的稠密化向量表示，表示物品第M個特征的稠密化表示；

S2，將用戶的稠密表示輸入到多監(jiān)督者網絡當中；

S3，通過多監(jiān)督者網絡生成的用戶表示以及物品的稠密表示輸入到關聯(lián)網絡計算每個用戶和物品的重要性，進行一個細粒度的用戶-物品交互建模，得到加權之后的用戶表示和物品表示；

S4，將經過細粒度建模生成的用戶表示和物品表示輸入到基于FOMAML的個性化用戶偏好估計模型當中輸出最終的結果。