[發明專利]一種基于圖注意力機制的對話歷史建模方法有效
| 申請號： | 202011286773.2 | 申請日： | 2020-11-17 |
| 公開（公告）號： | CN112256857B | 公開（公告）日： | 2023-02-03 |
| 發明（設計）人： | 孫憶南;李思 | 申請（專利權）人： | 北京郵電大學 |
| 主分類號： | G06F16/332 | 分類號： | G06F16/332;G06F16/36;G06N3/08 |
| 代理公司： | 暫無信息 | 代理人： | 暫無信息 |
| 地址： | 100876 *** | 國省代碼： | 北京;11 |
| 權利要求書： | 查看更多 | 說明書： | 查看更多 |
| 摘要： | |||
| 搜索關鍵詞： | 一種 基于 注意力 機制 對話 歷史 建模 方法 | ||
【權利要求書】：
1.一種基于圖注意力機制的對話歷史建模方法，其特征在于，包括以下步驟：
步驟1：使用預訓練語言模型分別對用戶輸入，歷史對話進行語義編碼，獲得用戶輸入表示向量和歷史對話表示矩陣；
步驟2：使用圖神經網絡對知識圖譜進行編碼，獲得知識圖譜中每個節點的表示向量；
步驟3：計算用戶輸入表示向量和每個節點表示向量的相似度，作為基于用戶輸入的注意力權重，將相似度和節點表示向量加權求和得到知識表示向量；
步驟4：將用戶表示向量和知識表示向量進行向量拼接操作，獲得對話信息向量；
步驟5：計算對話信息向量和對話歷史表示矩陣中每個向量的相似度，作為基于對話信息的注意力權重，將相似度和對話歷史表示矩陣中的向量加權求和得到對話歷史表示向量。
2.如權利要求1所述的一種基于圖注意力機制的對話歷史建模方法，其特征在于，所述步驟3具體包括：
(3.1)對每個節點表示向量，計算與用戶輸入表示向量的相似度；
(3.2)根據步驟(3.1)計算得到的相似度與節點表示向量進行加權求和獲得知識表示向量。
3.如權利要求1所述的一種基于圖注意力機制的對話歷史建模方法，其特征在于，所述步驟5具體包括：
(5.1)對對話歷史表示矩陣中的每輪對話的語義表示向量，計算與對話信息向量的相似度；
(5.2)根據步驟(5.1)計算得到的相似度與每輪對話的語義表示向量進行加權求和獲得對話歷史表示向量。
下載完整專利技術內容需要扣除積分，VIP會員可以免費下載。
該專利技術資料僅供研究查看技術是否侵權等信息，商用須獲得專利權人授權。該專利全部權利屬于北京郵電大學，未經北京郵電大學許可，擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作，請聯系【客服】
本文鏈接：http://www.szxzyx.cn/pat/books/202011286773.2/1.html，轉載請聲明來源鉆瓜專利網。
- 上一篇：一種無椅盆的航空座椅
- 下一篇：一種屏幕拆卸裝置
