[發(fā)明專利]基于上下文推理的自然語言理解處理方法、裝置以及設(shè)備有效
| 申請?zhí)枺?/td> | 202110240179.8 | 申請日: | 2021-03-04 |
| 公開(公告)號: | CN112632961B | 公開(公告)日: | 2021-06-18 |
| 發(fā)明(設(shè)計)人: | 吳穎婷 | 申請(專利權(quán))人: | 支付寶(杭州)信息技術(shù)有限公司 |
| 主分類號: | G06F40/205 | 分類號: | G06F40/205;G06F40/30 |
| 代理公司: | 北京君慧知識產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11716 | 代理人: | 吳紹群 |
| 地址: | 310000 浙江省杭州市*** | 國省代碼: | 浙江;33 |
| 權(quán)利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關(guān)鍵詞: | 基于 上下文 推理 自然語言 理解 處理 方法 裝置 以及 設(shè)備 | ||
本說明書實(shí)施例公開了基于上下文推理的自然語言理解處理方法、裝置以及設(shè)備。方案包括:獲取用戶當(dāng)前發(fā)言,以及多輪的歷史對話信息;將用戶當(dāng)前發(fā)言和歷史對話信息分句后,分別進(jìn)行獨(dú)立編碼,得到各句子分別的語義表示向量;根據(jù)注意力機(jī)制對歷史對話信息對應(yīng)的語義表示向量綜合地進(jìn)行再映射處理,得到對應(yīng)的加權(quán)表征向量;根據(jù)加權(quán)表征向量和用戶當(dāng)前發(fā)言對應(yīng)的語義表示向量,預(yù)測用戶當(dāng)前發(fā)言的意圖和槽位只與用戶當(dāng)前發(fā)言存在依賴關(guān)系,還是與歷史對話信息之間存在依賴關(guān)系;若與歷史對話信息之間存在依賴關(guān)系,則獲取已為歷史對話信息確定的意圖和槽位,并據(jù)此確定用戶當(dāng)前發(fā)言的意圖和槽位。
技術(shù)領(lǐng)域
本說明書涉及自然語言處理技術(shù)領(lǐng)域,尤其涉及一種基于上下文推理的自然語言理解處理方法、裝置以及設(shè)備。
背景技術(shù)
隨著計算機(jī)和互聯(lián)網(wǎng)技術(shù)的發(fā)展,自動對話系統(tǒng)在很多應(yīng)用中已經(jīng)得到應(yīng)用,其能夠更快地響應(yīng)用戶的問題,減輕了客服人員的負(fù)擔(dān)。
目前的自動對話系統(tǒng)與用戶以一問一答的形式進(jìn)行交互,自動對話系統(tǒng)在用戶新發(fā)言一句后,會與將該句與預(yù)設(shè)的一些問題進(jìn)行匹配,然后獲取為匹配成功的問題預(yù)設(shè)的回答,用于自動回復(fù)用戶。
基于此,需要更智能更準(zhǔn)確的自動對話方案。
發(fā)明內(nèi)容
本說明書一個或多個實(shí)施例提供一種基于上下文推理的自然語言理解處理方法、裝置、設(shè)備以及存儲介質(zhì),用以解決如下技術(shù)問題:需要更智能更準(zhǔn)確的自動對話方案。
為解決上述技術(shù)問題,本說明書一個或多個實(shí)施例是這樣實(shí)現(xiàn)的:
本說明書一個或多個實(shí)施例提供的一種基于上下文推理的自然語言理解處理方法,包括:
獲取用戶當(dāng)前發(fā)言,以及多輪的歷史對話信息;
將所述用戶當(dāng)前發(fā)言和所述歷史對話信息分句后,分別進(jìn)行獨(dú)立編碼,得到各句子分別的語義表示向量;
根據(jù)注意力機(jī)制對所述歷史對話信息對應(yīng)的語義表示向量綜合地進(jìn)行再映射處理,得到對應(yīng)的加權(quán)表征向量;
根據(jù)所述加權(quán)表征向量和所述用戶當(dāng)前發(fā)言對應(yīng)的語義表示向量,預(yù)測所述用戶當(dāng)前發(fā)言的意圖和槽位只與所述用戶當(dāng)前發(fā)言存在依賴關(guān)系,還是與所述歷史對話信息之間存在依賴關(guān)系;
若與所述歷史對話信息之間存在依賴關(guān)系,則獲取已為所述歷史對話信息確定的意圖和槽位,并據(jù)此確定所述用戶當(dāng)前發(fā)言的意圖和槽位。
本說明書一個或多個實(shí)施例提供的一種基于上下文推理的自然語言理解處理裝置,包括:
對話獲取模塊,獲取用戶當(dāng)前發(fā)言,以及多輪的歷史對話信息;
獨(dú)立編碼模塊,將所述用戶當(dāng)前發(fā)言和所述歷史對話信息分句后,分別進(jìn)行獨(dú)立編碼,得到各句子分別的語義表示向量;
注意力分析模塊,根據(jù)注意力機(jī)制對所述歷史對話信息對應(yīng)的語義表示向量綜合地進(jìn)行再映射處理,得到對應(yīng)的加權(quán)表征向量;
依賴推理模塊,根據(jù)所述加權(quán)表征向量和所述用戶當(dāng)前發(fā)言對應(yīng)的語義表示向量,預(yù)測所述用戶當(dāng)前發(fā)言的意圖和槽位只與所述用戶當(dāng)前發(fā)言存在依賴關(guān)系,還是與所述歷史對話信息之間存在依賴關(guān)系;
意圖槽位確定模塊,若與所述歷史對話信息之間存在依賴關(guān)系,則獲取已為所述歷史對話信息確定的意圖和槽位,并據(jù)此確定所述用戶當(dāng)前發(fā)言的意圖和槽位。
本說明書一個或多個實(shí)施例提供的一種基于上下文推理的自然語言理解處理設(shè)備,包括:
至少一個處理器;以及,
與所述至少一個處理器通信連接的存儲器;其中,
該專利技術(shù)資料僅供研究查看技術(shù)是否侵權(quán)等信息,商用須獲得專利權(quán)人授權(quán)。該專利全部權(quán)利屬于支付寶(杭州)信息技術(shù)有限公司,未經(jīng)支付寶(杭州)信息技術(shù)有限公司許可,擅自商用是侵權(quán)行為。如果您想購買此專利、獲得商業(yè)授權(quán)和技術(shù)合作,請聯(lián)系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/202110240179.8/2.html,轉(zhuǎn)載請聲明來源鉆瓜專利網(wǎng)。





