[發明專利]修正自然語言生成結果的方法和裝置有效
| 申請號: | 202010631294.3 | 申請日: | 2020-07-03 |
| 公開(公告)號: | CN111737417B | 公開(公告)日: | 2020-11-17 |
| 發明(設計)人: | 李揚名;姚開盛;李小龍 | 申請(專利權)人: | 支付寶(杭州)信息技術有限公司 |
| 主分類號: | G06F16/33 | 分類號: | G06F16/33;G06F16/332 |
| 代理公司: | 北京億騰知識產權代理事務所(普通合伙) 11309 | 代理人: | 陳霽;周良玉 |
| 地址: | 310000 浙江省杭州市*** | 國省代碼: | 浙江;33 |
| 權利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關鍵詞: | 修正 自然語言 生成 結果 方法 裝置 | ||
1.一種修正自然語言生成結果的方法,包括:
獲取本輪迭代中待修正的第一模板句子,所述第一模板句子是針對第一對話動作而生成,所述第一對話動作包括若干詞槽;
將所述第一模板句子輸入指針改寫器,所述指針改寫器依次逐個確定待輸出句子中各個輸出位置的字符,從而生成修正的第二模板句子;其中,對于所述各個輸出位置中任意的第一位置,通過從所述第一模板句子中進行復制的第一方式,或者通過重新生成的第二方式,得到該第一位置的字符;
對所述第二模板句子進行詞槽提取,并判斷所提取的詞槽與所述若干詞槽是否一致;
在不一致的情況下,將所述第二模板句子確定為下一輪迭代的輸入,并基于所述第一對話動作和所述第二模板句子生成一條訓練樣本,添加到樣本緩存器中,所述樣本緩存器用于收集訓練樣本,所收集的訓練樣本用以訓練所述指針改寫器。
2.根據權利要求1所述的方法,其中,獲取本輪迭代中待修正的第一模板句子,包括:
從自然語言生成NLG系統獲取其針對所述第一對話動作而生成的模板結果;
對所述模板結果進行詞槽提取,并判斷所提取的詞槽與所述若干詞槽是否一致;
在不一致的情況下,將所述模板結果作為所述本輪迭代中待修正的第一模板句子。
3.根據權利要求2所述的方法,其中,所述NLG系統為基于K最近鄰的KNN-NLG系統,或者,通過神經網絡實現的NLG系統。
4.根據權利要求2所述的方法,還包括,基于所述第一對話動作和所述第一模板句子生成一條訓練樣本,添加到所述樣本緩存器中。
5.根據權利要求1所述的方法,其中,所述待修正的第一模板句子為上一輪迭代輸出的模板句子。
6.根據權利要求1所述的方法,其中,得到該第一位置的字符,具體包括:
確定用于表征該第一位置的第一狀態向量;
根據所述第一狀態向量,分別確定采取所述第一方式的第一指針值,和采取所述第二方式的第二指針值;
根據所述第一模板句子中各個輸入位置的字符的嵌入向量以及所述第一狀態向量,確定從所述各個輸入位置復制字符到第一位置的第一概率分布;
根據所述第一狀態向量,確定從預定詞集生成各個字符的第二概率分布;
將所述第一指針值與所述第一概率分布結合,得到字符復制概率分布;以及將所述第二指針值與所述第二概率分布結合,得到字符生成概率分布;
根據所述字符復制概率分布和所述字符生成概率分布,確定該第一位置的字符。
7.根據權利要求6所述的方法,其中,確定用于表征該第一位置的第一狀態向量,包括:
利用時間遞歸網絡,根據所述第一位置的前一位置對應的第二狀態向量以及當前輸入向量,確定所述第一狀態向量,其中所述當前輸入向量至少基于所述第一對話動作,以及所述前一位置的輸出字符而確定。
8.根據權利要求7所述的方法,其中,所述當前輸入向量還基于所述第一模板句子的當前句子表征向量而確定,所述當前句子表征向量通過對所述第一模板句子中各個輸入位置的字符的嵌入向量加權求和得到,所述加權求和的權重分布對應于從所述各個輸入位置復制字符到所述前一位置的概率分布。
9.根據權利要求1所述的方法,其中,基于所述第一對話動作和所述第二模板句子生成一條訓練樣本,包括:
確定所述第一對話動作的第一參考模板;
生成第一訓練樣本,其中包括,所述第一對話動作,所述第二模板句子,以及所述第一參考模板。
10.根據權利要求1所述的方法,還包括,
通過采樣方式生成偽訓練樣本;
將所述偽訓練樣本添加到所述樣本緩存器中。
該專利技術資料僅供研究查看技術是否侵權等信息,商用須獲得專利權人授權。該專利全部權利屬于支付寶(杭州)信息技術有限公司,未經支付寶(杭州)信息技術有限公司許可,擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作,請聯系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/202010631294.3/1.html,轉載請聲明來源鉆瓜專利網。





