[發明專利]文本生成方法、裝置、設備以及存儲介質有效
| 申請號: | 202010328590.6 | 申請日: | 2020-04-23 |
| 公開(公告)號: | CN111597779B | 公開(公告)日: | 2022-05-27 |
| 發明(設計)人: | 黃文璨;邱東洋 | 申請(專利權)人: | 騰訊科技(深圳)有限公司 |
| 主分類號: | G06F40/166 | 分類號: | G06F40/166;G06F16/33;G06F40/126 |
| 代理公司: | 北京三高永信知識產權代理有限責任公司 11138 | 代理人: | 祝亞男 |
| 地址: | 518057 廣東省深圳*** | 國省代碼: | 廣東;44 |
| 權利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關鍵詞: | 文本 生成 方法 裝置 設備 以及 存儲 介質 | ||
1.一種文本生成方法,其特征在于,所述方法包括:
獲取第一文本;
基于所述第一文本中的字符,獲取所述第一文本的語義特征;
將隨機生成的隱特征以及所述第一文本的語義特征進行拼接,得到所述第一文本對應的第一融合特征,所述隱特征用于對所述第一文本的語義進行調整;
基于所述第一融合特征和所述第一文本的語義特征,得到多個備選字符對應的概率,所述概率用于表示所述備選字符在生成文本時的出現概率;
基于所述概率符合目標概率條件的備選字符,生成多個第二文本,所述多個第二文本與所述第一文本的表述方式不同,所述多個第二文本的語義與所述第一文本的語義之間的相似度符合目標相似度條件。
2.根據權利要求1所述的方法,其特征在于,所述基于所述第一文本中的字符,獲取所述第一文本的語義特征包括:
對所述第一文本中的字符進行嵌入編碼,得到字符特征;
基于注意力權重和所述字符特征,獲取所述第一文本的語義特征。
3.根據權利要求1所述的方法,其特征在于,所述基于所述第一文本中的字符,獲取所述第一文本的語義特征包括:
對所述第一文本中的字符進行嵌入編碼,得到字符特征;
為所述字符特征添加位置特征,基于注意力權重和添加位置特征后的字符特征,獲取所述第一文本的語義特征,所述位置特征用于表示所述第一文本中的字符在所述第一文本中的位置。
4.根據權利要求1所述的方法,其特征在于,所述基于所述第一融合特征和所述第一文本的語義特征,得到多個備選字符對應的概率包括:
對所述第一融合特征和所述第一文本的語義特征進行歸一化處理,得到所述多個備選字符對應的第一概率和第二概率,所述第一概率用于表示多個備選字符對應的初始概率,所述第二概率用于表示采用備選字符對所述第一文本中的原字符進行替換的概率;
基于所述第一概率和所述第二概率的乘積,得到多個備選字符對應的概率。
5.根據權利要求4所述的方法,其特征在于,所述對所述第一融合特征和所述第一文本的語義特征進行歸一化處理,得到所述多個備選字符對應的第一概率和第二概率包括:
將所述第一文本的語義特征中對應于不同字符的語義特征進行加權求和,得到第二融合特征;
對所述第一融合特征和所述第二融合特征進行歸一化處理,得到所述多個備選字符對應的第一概率和第二概率。
6.根據權利要求1所述的方法,其特征在于,通過文本生成模型獲取所述第一文本的語義特征以及所述多個備選字符對應的概率,所述文本生成模型的訓練方法包括:
確定樣本文本和至少一個與所述樣本文本之間相似度符合目標相似度條件的參考文本;
將所述樣本文本中的字符和所述參考文本中的字符輸入初始文本生成模型,通過所述初始文本生成模型生成至少一個預測文本;
基于所述至少一個預測文本與所述樣本文本之間的差異信息,調整所述初始文本生成模型的模型參數;
將所述差異信息符合目標條件的模型作為所述文本生成模型。
7.根據權利要求6所述的方法,其特征在于,所述通過所述初始文本生成模型生成至少一個預測文本包括:
基于所述樣本文本中的字符確定所述樣本文本對應的樣本語義特征;
基于所述參考文本中的字符確定所述參考文本對應的參考語義特征;
基于所述樣本語義特征以及所述參考語義特征生成所述至少一個預測文本。
8.根據權利要求7所述的方法,其特征在于,所述基于所述樣本語義特征以及所述參考語義特征生成所述至少一個預測文本包括:
基于所述樣本語義特征以及所述參考語義特征,確定后驗高斯分布的分布參數;
基于所述后驗高斯分布的分布參數確定所述樣本文本和所述參考文本對應的樣本隱特征;
基于所述樣本隱特征和所述參考語義特征生成所述至少一個預測文本。
該專利技術資料僅供研究查看技術是否侵權等信息,商用須獲得專利權人授權。該專利全部權利屬于騰訊科技(深圳)有限公司,未經騰訊科技(深圳)有限公司許可,擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作,請聯系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/202010328590.6/1.html,轉載請聲明來源鉆瓜專利網。





