[發明專利]一種基于卷積自注意力網絡的會話推薦方法

有效

• 申請號: 202010969069.0
• 申請日: 2020-09-15
• 公開（公告）號: CN112258262B
• 公開（公告）日: 2023-09-26
• 發明（設計）人: 張寅;汪千緣
• 申請（專利權）人: 浙江大學
• 主分類號: G06Q30/0601
• 分類號: G06Q30/0601;G06Q30/0202;G06N3/0464;G06N3/048
• 代理公司: 杭州求是專利事務所有限公司 33200
• 代理人: 傅朝棟;張法高

1.一種基于卷積自注意力網絡的會話推薦方法，其特征在于，步驟如下：

S1：給定一個會話作為輸入，獲取會話內每個物品的低維向量，該低維向量由物品嵌入和物品在會話中的位置嵌入相加而成；

S2：在S1獲得的低維向量基礎上，使用基于卷積自注意力網絡的序列編碼器建模會話的序列信息，使用基于卷積自注意力網絡和高斯注意力機制的意圖編碼器建模會話的關鍵意圖信息并計算高斯權重；

所述基于卷積自注意力網絡的序列編碼器建模會話的序列信息的方法為：

S211：使用卷積操作捕捉會話內每個物品周圍的會話片段特征，建模物品表示時以該特征進行交互，得到會話片段敏感的物品表示；

S212：基于S211中得到的物品表示，利用自注意力網絡捕捉會話中不同物品之間的相互依賴，建模會話的序列信息；所述S212中的自注意力網絡為掩碼多頭自注意力網絡；

所述基于卷積自注意力網絡和高斯注意力機制的意圖編碼器建模會話的關鍵意圖信息并計算高斯權重的具體方法為：

S221：基于S211中得到的物品表示，利用卷積自注意力網絡捕捉不同物品之間的相互依賴；

S222：基于S221中得到的物品表示，利用注意力機制計算各物品在會話之中所占的權重，不同物品表示的加權之和為會話的關鍵意圖信息；然后以會話中最后一個物品為高斯分布的期望中心，計算經過高斯偏移的各物品的高斯權重；

S3：拼接S2中得到的序列信息和關鍵意圖信息得到會話隱層表示，輸入到重復-探索選擇器中預測用戶下一步選擇重復或不重復物品的概率；然后在重復推薦解碼器中計算各重復物品的條件概率，在探索推薦解碼器中計算各不重復物品的條件概率，兩種解碼器輸出的邊緣概率相加，得到模型對所有可能物品的預測概率。

2.如權利要求1所述的基于卷積自注意力網絡的會話推薦方法，其特征在于，所述重復-探索選擇器中預測用戶下一步選擇重復或不重復物品的概率的具體方法為：

拼接所述的序列信息和關鍵意圖信息，輸入到線性網絡層中進行映射變換，再經過softmax層進行歸一化，得到重復推薦概率和探索推薦概率，用于判斷向用戶推薦點擊過的物品還是未點擊過的物品。

3.如權利要求1所述的基于卷積自注意力網絡的會話推薦方法，其特征在于，所述重復推薦解碼器中計算各重復物品的條件概率的具體方法為：

以S222中得到的高斯權重為輸入，整合計算用戶下一步點擊各重復物品的條件概率。

4.如權利要求1所述的基于卷積自注意力網絡的會話推薦方法，其特征在于，所述探索推薦解碼器中計算各不重復物品的條件概率的具體方法為：

拼接所述序列信息和關鍵意圖信息得到會話隱層表示，并通過雙向線性變換矩陣和物品嵌入矩陣將其映射到未點擊物品的分類上，最后經過softmax層進行歸一化，得到用戶下一步點擊不重復物品的條件概率。