[發(fā)明專利]一種基于超圖神經(jīng)網(wǎng)絡(luò)的序列推薦方法及裝置

在審

• 申請?zhí)枺?/td>: 202210668287.X
• 申請日: 2022-06-14
• 公開（公告）號: CN115082147A
• 公開（公告）日: 2022-09-20
• 發(fā)明（設(shè)計）人: 許勇;李想
• 申請（專利權(quán)）人: 華南理工大學(xué)
• 主分類號: G06Q30/06
• 分類號: G06Q30/06;G06K9/62;G06N3/04;G06N3/08
• 代理公司: 廣州嘉權(quán)專利商標(biāo)事務(wù)所有限公司 44205
• 代理人: 陳嘉樂

本發(fā)明公開了一種基于超圖神經(jīng)網(wǎng)絡(luò)的序列推薦方法及裝置，其中方法包括：根據(jù)數(shù)據(jù)集構(gòu)建超圖；通過超圖卷積學(xué)習(xí)動態(tài)短時用戶/商品嵌入向量；將動態(tài)/靜態(tài)用戶、動態(tài)/靜態(tài)商品相結(jié)合，獲得用戶與商品交互嵌入向量；通過把用戶?商品交互序列輸入transfomer模塊中，根據(jù)滑動窗口的不同，學(xué)習(xí)出不同時間粒度用戶嵌入向量；將不同時間粒度的動態(tài)用戶嵌入向量進(jìn)行融合；使用最終動態(tài)用戶嵌入向量和靜態(tài)/動態(tài)融合的商品嵌入向量進(jìn)行偏好預(yù)測，得到推薦順序。本發(fā)明綜合考慮了用戶與商品交互的多時間粒度下的信息，使用戶向量中包含用戶與用戶之間的相關(guān)性信息，保證特征的有效性，降低主模型上訓(xùn)練的時間復(fù)雜度，可廣泛應(yīng)用于序列推薦技術(shù)領(lǐng)域。

技術(shù)領(lǐng)域

本發(fā)明涉及序列推薦技術(shù)領(lǐng)域，尤其涉及一種基于超圖神經(jīng)網(wǎng)絡(luò)的序列推薦方法及裝置。

背景技術(shù)

21世紀(jì)以來，隨著網(wǎng)絡(luò)技術(shù)的發(fā)展和手機與電腦的普及，網(wǎng)購已經(jīng)成為居民生活不可或缺的一部分。互聯(lián)網(wǎng)技術(shù)的飛速發(fā)展，同時也給居民帶來了信息爆炸的問題，海量無關(guān)信息每天充斥著人們的生活。如何幫助居民更好的在海量的商品中，選擇出他們最需要，最匹配的商品，成為了一個各大電商平臺一個重要的難點。這不僅能更好的滿足居民的生活需求，同時可以更好的為商家精準(zhǔn)定位客源，更好的銷售產(chǎn)品解決庫存擠壓等問題。推薦系統(tǒng)是一種根據(jù)用戶歷史購物等行為以及個人偏好來為用戶推薦商品的技術(shù)應(yīng)用，可以更精準(zhǔn)地為客戶提供推薦優(yōu)質(zhì)的商品，讓用戶感受到所見即所需，減少被海量無興趣商品信息包圍的困擾，從而有效的緩解信息過載的問題；另一方面也為商家的決策提供更加科學(xué)的數(shù)據(jù)支撐，提升電商行業(yè)的服務(wù)質(zhì)量。

目前序列推薦算法可以簡單的分為三類：基于傳統(tǒng)的遞歸神經(jīng)網(wǎng)絡(luò)模型，如GRU4Rec+；基于注意力機制神經(jīng)網(wǎng)絡(luò)模型，如BERT4Rec與SASRec；基于圖神經(jīng)網(wǎng)絡(luò)的序列推薦模型，如HyperRec。基于傳統(tǒng)的遞歸神經(jīng)網(wǎng)絡(luò)模型，一般將序列化的物品嵌入表示向量輸入到GRU神經(jīng)網(wǎng)絡(luò)中，每一時序幀的輸出是一個向量，這一向量經(jīng)過多層感知機后轉(zhuǎn)化為對下一個時序用戶選擇所有物品的預(yù)測評分。然而這種傳統(tǒng)的遞歸神經(jīng)網(wǎng)絡(luò)模型的缺陷在于只利用了物品順序的信息，而且一般在訓(xùn)練最開始階段均是隨機初始化，并沒有很好的利用用戶的信息以及商品之間的內(nèi)在關(guān)系。

基于注意力機制神經(jīng)網(wǎng)絡(luò)模型一般在序列推薦模型中加入注意力機制，它試圖根據(jù)用戶最近交互來捕捉用戶活動的信息，可以較好的捕捉長期語義，從用戶的歷史交互信息中找出哪些項目是‘相關(guān)的’，并使用它們來預(yù)測下一個項目。但是該類型的模型依舊沒有很好的引入用戶端的信息，只使用了用戶的行為信息；同時序列上僅考慮了用戶同一時間粒度上的信息，并沒考慮跨時間粒度上的信息。

基于圖神經(jīng)網(wǎng)絡(luò)的序列推薦模型，通過構(gòu)造用戶與商品的圖，圖卷積的幫助下，可以更好的學(xué)到用戶與用戶，用戶與商品之間的多跳關(guān)系，更好學(xué)習(xí)出用戶與商品的偏好與特征，多層圖卷積下捕獲多階連接。因此在預(yù)測下一個商品時，用戶與商品的表征向量將會更加的豐富，包含的語義也會更加全面。然而，圖卷積的計算運算與復(fù)雜度都遠(yuǎn)遠(yuǎn)大于傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)模型，對于圖的構(gòu)建依賴程度很高，同樣受困與圖里的數(shù)據(jù)稀缺的困擾。因此更好的解決圖的數(shù)據(jù)稀缺的問題，將更有效地用戶與物品交互信息融合到模型中變得尤為重要。

發(fā)明內(nèi)容

為至少一定程度上解決現(xiàn)有技術(shù)中存在的技術(shù)問題之一，本發(fā)明的目的在于提供一種基于超圖神經(jīng)網(wǎng)絡(luò)的序列推薦方法及裝置。

本發(fā)明所采用的技術(shù)方案是：

一種基于超圖神經(jīng)網(wǎng)絡(luò)的序列推薦方法，包括以下步驟：

獲取帶有用戶與商品交互信息、時間信息的數(shù)據(jù)集，根據(jù)獲得的數(shù)據(jù)集構(gòu)建超圖，利用不同的時間段對超圖進(jìn)行劃分；

劃分獲得每個時間段的超圖子圖，對每個時刻下的超圖子圖中的超邊用戶進(jìn)行聚類操作，以將相似的超邊進(jìn)行聚類；

通過引入對比學(xué)習(xí)與圖卷積進(jìn)行預(yù)訓(xùn)練學(xué)習(xí)，獲得商品與用戶的初始嵌入向量；