[發(fā)明專利]對(duì)話處理方法、問句改寫模型的訓(xùn)練方法及其裝置

在審

• 申請(qǐng)?zhí)枺?/td>: 202210195537.2
• 申請(qǐng)日: 2022-03-01
• 公開（公告）號(hào): CN114626385A
• 公開（公告）日: 2022-06-14
• 發(fā)明（設(shè)計(jì)）人: 劉航;陳蒙
• 申請(qǐng)（專利權(quán)）人: 京東科技信息技術(shù)有限公司
• 主分類號(hào): G06F40/35
• 分類號(hào): G06F40/35;G06F40/289;G06F16/332;G06F16/335
• 代理公司: 北京清亦華知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11201
• 代理人: 杜月

本公開提出一種對(duì)話處理方法、問句改寫模型的訓(xùn)練方法及其裝置，其中，對(duì)話處理方法，包括：在用戶問句存在信息缺失的情況下，將用戶問句和歷史對(duì)話內(nèi)容輸入到問句改寫模型的編碼層中，得到歷史對(duì)話內(nèi)容中各個(gè)詞語的語義表示向量和用戶問句中各個(gè)詞語的語義表示向量，及歷史對(duì)話內(nèi)容中各個(gè)詞語的關(guān)鍵詞得分，進(jìn)而，解碼層根據(jù)用戶問句中各個(gè)詞語的語義表示向量、歷史對(duì)話內(nèi)容中各個(gè)詞語的語義表示向量和關(guān)鍵詞得分，準(zhǔn)確地從歷史對(duì)話內(nèi)容中選擇出與用戶問句語義相關(guān)的關(guān)鍵詞，并根據(jù)該關(guān)鍵詞顯示地生成信息完整的改寫后的用戶問句，準(zhǔn)確地對(duì)用戶問句中缺失的信息進(jìn)行了補(bǔ)充，實(shí)現(xiàn)了用戶問句內(nèi)容的完整性和可讀性，提高了用戶體驗(yàn)。

技術(shù)領(lǐng)域

本公開涉及自然語言處理技術(shù)領(lǐng)域，尤其涉及一種對(duì)話處理方法、問句改寫模型的訓(xùn)練方法及其裝置。

背景技術(shù)

目前，在多輪對(duì)話系統(tǒng)中，用戶提出的問句中存在信息缺失的情況(如，省略和指代)。當(dāng)問句中的關(guān)鍵成分缺失時(shí)，導(dǎo)致系統(tǒng)無法準(zhǔn)確應(yīng)答。例如。用戶問句“什么意思”就是屬于信息缺失的情況，系統(tǒng)僅根據(jù)這個(gè)問句的內(nèi)容很難判斷出用戶在咨詢哪方面的問題。

相關(guān)技術(shù)中，通過從聊天內(nèi)容中獲取內(nèi)容，將獲取的內(nèi)容直接拼接在句尾的方式或?qū)@取的內(nèi)容插入到用戶問句中，實(shí)現(xiàn)用戶問句的完整，但是，從聊天內(nèi)容中獲取的內(nèi)容可能與用戶問句無關(guān)，將與用戶問句無關(guān)的內(nèi)容插入到用戶問句中，導(dǎo)致用戶問句出現(xiàn)較大偏差，影響用戶體驗(yàn)。

發(fā)明內(nèi)容

本公開旨在至少在一定程度上解決上述技術(shù)中的技術(shù)問題之一。

為此，本公開提出一種對(duì)話處理方法，以實(shí)現(xiàn)在用戶問句存在信息缺失的情況下，將用戶問句和歷史對(duì)話內(nèi)容輸入到問句改寫模型的編碼層中，得到歷史對(duì)話內(nèi)容中各個(gè)詞語的語義表示向量和用戶問句中各個(gè)詞語的語義表示向量，以及歷史對(duì)話內(nèi)容中各個(gè)詞語的關(guān)鍵詞得分，進(jìn)而，問句改寫模型的解碼層根據(jù)用戶問句中各個(gè)詞語的語義表示向量、歷史對(duì)話內(nèi)容中各個(gè)詞語的語義表示向量和關(guān)鍵詞得分，準(zhǔn)確地從歷史對(duì)話內(nèi)容中選擇出與用戶問句語義相關(guān)的關(guān)鍵詞，并根據(jù)該關(guān)鍵詞顯示地生成信息完整的改寫后的用戶問句，準(zhǔn)確地對(duì)用戶問句中缺失的信息進(jìn)行了補(bǔ)充，實(shí)現(xiàn)了用戶問句內(nèi)容的完整性和可讀性，提高了用戶體驗(yàn)。

本公開第一方面實(shí)施例提出了一種對(duì)話處理方法，該方法應(yīng)用在對(duì)話系統(tǒng)中，所述對(duì)話系統(tǒng)中具有問句改寫模型，所述問句改寫模型包括編碼層和解碼層，所述編碼層包括語義表示層和關(guān)鍵詞分析層，所述方法包括：獲取待回復(fù)的用戶問句；在確定所述用戶問句存在信息缺失的情況下，獲取所述用戶問句的歷史對(duì)話內(nèi)容，其中，所述用戶問句所在的輪次與所述歷史對(duì)話內(nèi)容所在的輪次之間的輪次差值小于預(yù)設(shè)輪次閾值；將所述歷史對(duì)話內(nèi)容和所述用戶問句輸入到所述語義表示層，以得到所述歷史對(duì)話內(nèi)容中各個(gè)詞語的語義表示向量和所述用戶問句中各個(gè)詞語的語義表示向量；將所述歷史對(duì)話內(nèi)容中各個(gè)詞語的語義表示向量輸入到所述關(guān)鍵詞分析層中，以得到所述歷史對(duì)話內(nèi)容中各個(gè)詞語的關(guān)鍵詞得分；將所述用戶問句中各個(gè)詞語的語義表示向量、所述歷史對(duì)話內(nèi)容中各個(gè)詞語的語義表示向量和關(guān)鍵詞得分輸入到所述解碼層，以得到信息完整的改寫后的用戶問句；獲取與所述改寫后的用戶問句的回復(fù)信息，并輸出所述回復(fù)信息。