[發明專利]一種基于指針網絡的自然語言任務生成方法在審
| 申請號： | 202110995559.2 | 申請日： | 2021-08-27 |
| 公開（公告）號： | CN113704424A | 公開（公告）日： | 2021-11-26 |
| 發明（設計）人： | 周昉昉;賴蔚蔚;林嘉鑫;洪雨天;葉杭;鄭穎龍;陳穎璇;馮志鵬;吳穹 | 申請（專利權）人： | 廣東電力信息科技有限公司 |
| 主分類號： | G06F16/332 | 分類號： | G06F16/332;G06F16/33;G06F16/338;G06N20/00 |
| 代理公司： | 北京世譽鑫誠專利代理有限公司 11368 | 代理人： | 任欣生 |
| 地址： | 510030 廣東省廣*** | 國省代碼： | 廣東;44 |
| 權利要求書： | 查看更多 | 說明書： | 查看更多 |
| 摘要： | |||
| 搜索關鍵詞： | 一種 基于 指針 網絡 自然語言 任務 生成 方法 | ||
【權利要求書】：
1.一種基于指針網絡的自然語言任務生成方法，其特征在于，應用于任務型人機對話的業務中，所述生成方法包括：
在人機對話過程中，將用戶與機器人的整個對話歷史文本進行編碼，獲得編碼文本；
將所述編碼文本采用指針網絡進行概率分布統計，獲得回復文本；
對所述回復文本進行修正處理，獲得修正文本。
2.根據權利要求1所述的一種基于指針網絡的自然語言任務生成方法，其特征在于，所述將所述編碼文本采用指針網絡進行概率分布統計，獲得回復文本具體包括：
對所述編碼文本進行解碼；
在第t步，根據所述編碼文本的上下文向量、Decoder的隱狀態和Decoder輸入，經過一個sigmoid函數計算概率：
其中，Pvocab(ω)代表按原詞表計算的單詞概率分布，等號右側P(ω)為按照加入未登錄詞后的新詞表計算的單詞概率分布。
3.根據權利要求1所述的一種基于指針網絡的自然語言任務生成方法，其特征在于，所述對所述回復文本進行修正處理，獲得修正文本具體包括：
修正所述回復文本；
在解碼的第t步，計算保險向量ct；
保險向量ct是由前t-1步的注意力分布求和而成：
保險向量為到第t-1步為止，原文中每個單詞所受到的關注程度；
保險向量加入到注意力分布的計算中：
保險懲罰文本，對已經給予關注的單詞，進行懲罰；
保險懲罰文本
所述保險懲罰文本為有界的量
最終的損失函數為：
下載完整專利技術內容需要扣除積分，VIP會員可以免費下載。
該專利技術資料僅供研究查看技術是否侵權等信息，商用須獲得專利權人授權。該專利全部權利屬于廣東電力信息科技有限公司，未經廣東電力信息科技有限公司許可，擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作，請聯系【客服】
本文鏈接：http://www.szxzyx.cn/pat/books/202110995559.2/1.html，轉載請聲明來源鉆瓜專利網。
