[發(fā)明專利]文本生成方法、裝置、計算機設(shè)備及存儲介質(zhì)有效
| 申請?zhí)枺?/td> | 201910064116.4 | 申請日: | 2019-01-23 |
| 公開(公告)號: | CN109918630B | 公開(公告)日: | 2023-08-04 |
| 發(fā)明(設(shè)計)人: | 金戈;徐亮 | 申請(專利權(quán))人: | 平安科技(深圳)有限公司 |
| 主分類號: | G06F40/166 | 分類號: | G06F40/166;G06F40/151;G06F40/289 |
| 代理公司: | 深圳市精英專利事務(wù)所 44242 | 代理人: | 林燕云 |
| 地址: | 518000 廣東省深圳市福田區(qū)福*** | 國省代碼: | 廣東;44 |
| 權(quán)利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關(guān)鍵詞: | 文本 生成 方法 裝置 計算機 設(shè)備 存儲 介質(zhì) | ||
1.一種文本生成方法,其特征在于,所述方法包括:
獲取進行文本生成的初始文本和預(yù)設(shè)預(yù)測詞匯;
將所述初始文本和所述預(yù)設(shè)預(yù)測詞匯分別進行詞嵌入以將所述初始文本轉(zhuǎn)化為第一詞向量和將所述預(yù)設(shè)預(yù)測詞匯轉(zhuǎn)化為第二詞向量;
將所述第一詞向量和所述第二詞向量分別通過對應(yīng)的卷積神經(jīng)網(wǎng)絡(luò)獲得所述第一詞向量的第一注意力矩陣和所述第二詞向量的第二注意力矩陣;
將所述第一注意力矩陣和所述第二注意力矩陣相乘以得到第三注意力矩陣;
將所述第三注意力矩陣經(jīng)歸一化后與預(yù)設(shè)預(yù)測詞匯進行匹配以生成預(yù)測文本。
2.根據(jù)權(quán)利要求1所述文本生成方法,其特征在于,所述將所述第一詞向量和所述第二詞向量分別通過對應(yīng)的卷積神經(jīng)網(wǎng)絡(luò)獲得所述第一詞向量的第一注意力矩陣和所述第二詞向量的第二注意力矩陣的步驟包括:
通過第一卷積神經(jīng)網(wǎng)絡(luò)對所述第一詞向量進行卷積并經(jīng)歸一化后得到所述第一詞向量的第一詞向量概率;
通過所述第一卷積神經(jīng)網(wǎng)絡(luò)對所述第一詞向量進行卷積以得到卷積第一詞向量;
將所述第一詞向量概率和所述卷積第一詞向量相乘以得到第一注意力矩陣;
通過第二卷積神經(jīng)網(wǎng)絡(luò)對所述第二詞向量進行卷積并經(jīng)歸一化后得到所述第二詞向量的第二詞向量概率;
通過所述第二卷積神經(jīng)網(wǎng)絡(luò)對所述第二詞向量進行卷積以得到卷積第二詞向量;
將所述第二詞向量概率和所述卷積第二詞向量相乘以得到第二注意力矩陣。
3.根據(jù)權(quán)利要求2所述文本生成方法,其特征在于,所述通過第一卷積神經(jīng)網(wǎng)絡(luò)對所述第一詞向量進行卷積并經(jīng)歸一化后得到所述第一詞向量的第一詞向量概率的步驟包括:
通過第一卷積神經(jīng)網(wǎng)絡(luò)對所述第一詞向量進行卷積并經(jīng)歸一化后捕捉所述第一詞向量的短期信息與長期信息以得到第一詞向量概率;
所述通過第二卷積神經(jīng)網(wǎng)絡(luò)對所述第二詞向量進行卷積并經(jīng)歸一化后得到所述第二詞向量的第二詞向量概率的步驟包括:
通過第二卷積神經(jīng)網(wǎng)絡(luò)對所述第二詞向量進行卷積并經(jīng)歸一化后捕捉所述第二詞向量的短期信息與長期信息以得到第二詞向量概率。
4.根據(jù)權(quán)利要求1-3任一項所述文本生成方法,其特征在于,所述將所述第三注意力矩陣經(jīng)歸一化后與預(yù)設(shè)預(yù)測詞匯進行匹配以生成預(yù)測文本的步驟包括:
將所述第三注意力矩陣經(jīng)歸一化后得到第三詞向量;
將所述第三詞向量與預(yù)設(shè)預(yù)測詞匯進行匹配以生成預(yù)測文本。
5.根據(jù)權(quán)利要求4所述文本生成方法,其特征在于,所述將所述第三注意力矩陣經(jīng)歸一化后得到第三詞向量的步驟之后,還包括:
按照所述第三詞向量的概率由高到低篩選出預(yù)設(shè)數(shù)量的第三詞向量;
所述將所述第三詞向量與預(yù)設(shè)預(yù)測詞匯進行匹配以生成預(yù)測文本的步驟包括:
將篩選出的所述預(yù)設(shè)數(shù)量的第三詞向量與預(yù)設(shè)預(yù)測詞匯進行匹配以生成預(yù)設(shè)數(shù)量的預(yù)測文本。
6.根據(jù)權(quán)利要求4所述文本生成方法,其特征在于,所述將所述第三注意力矩陣經(jīng)歸一化后得到第三詞向量的步驟包括:
將所述第三注意力矩陣經(jīng)Softmax函數(shù)歸一化后得到第三詞向量。
7.根據(jù)權(quán)利要求5所述文本生成方法,其特征在于,所述將篩選出的所述預(yù)設(shè)數(shù)量的第三詞向量與預(yù)設(shè)預(yù)測詞匯進行匹配以生成預(yù)設(shè)數(shù)量的預(yù)測文本的步驟之后,還包括:
按照預(yù)設(shè)方式顯示所述預(yù)設(shè)數(shù)量的所述預(yù)測文本。
該專利技術(shù)資料僅供研究查看技術(shù)是否侵權(quán)等信息,商用須獲得專利權(quán)人授權(quán)。該專利全部權(quán)利屬于平安科技(深圳)有限公司,未經(jīng)平安科技(深圳)有限公司許可,擅自商用是侵權(quán)行為。如果您想購買此專利、獲得商業(yè)授權(quán)和技術(shù)合作,請聯(lián)系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/201910064116.4/1.html,轉(zhuǎn)載請聲明來源鉆瓜專利網(wǎng)。





