[發明專利]基于角色融合的人機交互對話方法及系統在審
| 申請號: | 202211279953.7 | 申請日: | 2022-10-19 |
| 公開(公告)號: | CN115563260A | 公開(公告)日: | 2023-01-03 |
| 發明(設計)人: | 朱振方;李嘉欣;董傳昊;徐富永;劉培玉 | 申請(專利權)人: | 山東師范大學 |
| 主分類號: | G06F16/332 | 分類號: | G06F16/332;G06F16/33;G06F16/335;G06N3/04 |
| 代理公司: | 濟南圣達知識產權代理有限公司 37221 | 代理人: | 閆圣娟 |
| 地址: | 250014 山*** | 國省代碼: | 山東;37 |
| 權利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關鍵詞: | 基于 角色 融合 人機交互 對話 方法 系統 | ||
1.基于角色融合的人機交互對話方法,其特征在于,包括如下步驟:
將獲取的預定義角色和用戶的提問,分別傳入角色感知網絡的嵌入層,自注意機制和多層注意模塊中,經過殘差連接以獲得角色和查詢信息多粒度的映射關系;
將角色感知網絡的輸出結果通過通用生成網絡中對話之間的條件關系,根據角色感知網絡中的映射關系生成通用的回復;
將生成的通用回復與用戶的角色信息輸入到一致性匹配網絡中,經過多頭注意力機制的匹配和前饋神經網絡,在角色和通用回復之間進行匹配,得到個性化回復。
2.如權利要求1所述的一種基于角色融合的人機交互對話方法,其特征在于:將通用生成網絡和一致性匹配網絡中的非似然損失和對數似然損失相結合,以非似然損失和對數似然損失的加權和作為總體的訓練損失函數,并使用反向傳播進行參數的訓練。
3.如權利要求1所述的一種基于角色融合的人機交互對話方法,其特征在于:融合角色聊天數據集和NLI數據集分別生成響應和加強一致性;所述一致性匹配網絡采用NLI數據進行訓練,并在訓練過程中采用非似然訓練目標,來最小化模型中的不一致概率。
4.如權利要求1所述的一種基于角色融合的人機交互對話方法,其特征在于:角色感知網絡包括依次連接的輸入層、嵌入層、自注意力模塊、拼接模塊以及多頭注意力模塊。
5.如權利要求1所述的一種基于角色融合的人機交互對話方法,其特征在于:獲得角色和查詢信息多粒度的映射關系,包括如下步驟:
將人物角色和查詢信息分別進行分詞,并傳入角色感知網絡的嵌入層;
將嵌入層的嵌入輸出進行自注意力處理,得到角色和查詢的自注意結果;
將角色和查詢的自注意力結果拼接在一起,得到角色和查詢的語義表示的和;
對拼接后的自注意力結果,對查詢、鍵和值進行縮放的點積注意,得到多頭注意處理后的詞向量,并將詞向量拼接成一個矩陣,傳入前饋神經網絡得到角色和查詢信息多粒度的映射關系。
6.如權利要求1所述的一種基于角色融合的人機交互對話方法,其特征在于:通用生成網絡為多頭的編碼器-解碼器的交叉注意力機制;一致性匹配網絡利用匹配機制加強角色和通用回復之間進行一致性。
7.如權利要求1所述的一種基于角色融合的人機交互對話方法,其特征在于:角色感知網絡、通用生成網絡、一致性匹配網絡訓練的步驟包括如下:
步驟S1、將獲取的角色聊天數據集中的預定義角色和用戶的查詢,分別傳入角色感知網絡的嵌入層,自注意機制和多層注意模塊中,經過殘差連接以獲得角色和查詢信息多粒度的映射關系,作為個性化特征編碼為隱藏狀態;
步驟S2、將角色感知網絡的輸出結果通過通用生成網絡中對話之間的條件關系生成通用的回復;
步驟S3、將生成的通用回復與用戶的角色信息輸入到一致性匹配網絡中,在角色和通用回復之間進行匹配,得到個性化回復;
所述一致性匹配網絡采用NLI數據進行訓練,并在訓練過程中采用非似然訓練目標,來最小化模型中的不一致概率;
步驟S4、將通用生成網絡和一致性匹配網絡中的非似然損失和對數似然損失相結合,以非似然損失和對數似然損失的加權和作為總體的訓練損失函數,并使用反向傳播進行參數的訓練。
8.一種基于角色融合的人機交互對話系統,其特征在于,包括:
角色感知單元,被配置為用于將獲取的預定義角色和用戶的提問,分別傳入角色感知網絡的嵌入層,自注意機制和多層注意模塊中,經過殘差連接以獲得角色和查詢信息多粒度的映射關系;
通用回復單元,被配置為用于將角色感知網絡的輸出結果通過通用生成網絡中對話之間的條件關系,根據角色感知網絡中的映射關系生成通用的回復;
一致性回復單元,被配置為用于將生成的通用回復與用戶的角色信息輸入到一致性匹配網絡中,經過多頭注意力機制的匹配和前饋神經網絡,在角色和通用回復之間進行匹配,得到個性化回復。
該專利技術資料僅供研究查看技術是否侵權等信息,商用須獲得專利權人授權。該專利全部權利屬于山東師范大學,未經山東師范大學許可,擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作,請聯系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/202211279953.7/1.html,轉載請聲明來源鉆瓜專利網。





