[發(fā)明專利]文本翻譯方法、裝置、設(shè)備及計(jì)算機(jī)可讀存儲介質(zhì)有效
| 申請?zhí)枺?/td> | 202110287301.7 | 申請日: | 2021-03-17 |
| 公開(公告)號: | CN112668347B | 公開(公告)日: | 2021-06-22 |
| 發(fā)明(設(shè)計(jì))人: | 張祥文 | 申請(專利權(quán))人: | 騰訊科技(深圳)有限公司 |
| 主分類號: | G06F40/58 | 分類號: | G06F40/58;G06F40/56;G06F40/268;G06F16/35;G06N3/08;G06N20/00 |
| 代理公司: | 北京派特恩知識產(chǎn)權(quán)代理有限公司 11270 | 代理人: | 李昂;張穎玲 |
| 地址: | 518000 廣東省深圳*** | 國省代碼: | 廣東;44 |
| 權(quán)利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關(guān)鍵詞: | 文本 翻譯 方法 裝置 設(shè)備 計(jì)算機(jī) 可讀 存儲 介質(zhì) | ||
本申請實(shí)施例提供一種文本翻譯方法、裝置、設(shè)備及計(jì)算機(jī)可讀存儲介質(zhì),涉及人工智能技術(shù)領(lǐng)域。方法包括:調(diào)用編碼器對待翻譯文本中的每個(gè)待翻譯詞依次進(jìn)行映射處理,得到待翻譯文本的隱狀態(tài)表示,根據(jù)待翻譯文本的隱狀態(tài)表示,預(yù)測得到候選詞集合;在調(diào)用解碼器對隱狀態(tài)表示進(jìn)行解碼翻譯過程中,針對于每個(gè)待翻譯詞,獲取在待翻譯詞之前的已翻譯詞對應(yīng)的中間向量表示;根據(jù)中間向量表示,預(yù)測待翻譯詞的未來詞向量表示;調(diào)用解碼器依次基于每一待翻譯詞的詞向量表示和未來詞向量表示,在候選詞集合中預(yù)測出與待翻譯文本對應(yīng)的譯文。通過本申請,能夠充分利用預(yù)測得到的全局信息和局部未來信息來輔助翻譯過程,從而有效提升文本翻譯的效率。
技術(shù)領(lǐng)域
本申請實(shí)施例涉及互聯(lián)網(wǎng)技術(shù)領(lǐng)域,涉及但不限于一種文本翻譯方法、裝置、設(shè)備及計(jì)算機(jī)可讀存儲介質(zhì)。
背景技術(shù)
在傳統(tǒng)機(jī)器翻譯模型中,對于給定的源端輸入(即待翻譯文本),機(jī)器翻譯模型通常以從左向右的方式,逐個(gè)生成機(jī)器譯文中的詞,這一過程被稱為是“自回歸式”的建模。在自回歸式建模中,每個(gè)解碼步驟只能看到過去已經(jīng)生成的譯文片段(即完整譯文的前綴),而無法看到尚未生成的譯文片段(即完整譯文的后綴)。顯然,這使得機(jī)器翻譯模型在解碼時(shí)能獲得的信息,受限于已翻譯的局部上下文。
相關(guān)技術(shù)中,針對全局上下文的利用,主要采用以下技術(shù)方案:迭代式翻譯、異步雙向解碼、詞袋預(yù)測、建模已翻譯和未翻譯的上下文;針對局部未來上下文的利用,主要采用以下技術(shù)方案:同步雙向解碼和預(yù)測當(dāng)前詞的詞性。
但是,相關(guān)技術(shù)中無論是針對全局上下文的利用,還是針對局部未來上下文的利用,均存在效率低下,且沒有將預(yù)測結(jié)果用于輔助翻譯過程,模型提升有限的問題。
發(fā)明內(nèi)容
本申請實(shí)施例提供一種文本翻譯方法、裝置、設(shè)備及計(jì)算機(jī)可讀存儲介質(zhì),涉及人工智能技術(shù)領(lǐng)域。對編碼器得到的隱狀態(tài)表示進(jìn)行預(yù)測得到候選詞集合,實(shí)現(xiàn)建模全局上下文,并對解碼器翻譯得到的中間向量表示進(jìn)行預(yù)測得到未來詞向量表示,從而實(shí)現(xiàn)提前預(yù)測并建模未來上下文,如此,在對待翻譯文本進(jìn)行翻譯時(shí),能夠充分利用全局信息和局部未來信息,從而有效提升文本翻譯的效率。
本申請實(shí)施例的技術(shù)方案是這樣實(shí)現(xiàn)的:
本申請實(shí)施例提供一種文本翻譯方法,所述方法包括:
調(diào)用編碼器對待翻譯文本中的每個(gè)待翻譯詞依次進(jìn)行映射處理,得到所述待翻譯文本的隱狀態(tài)表示,所述隱狀態(tài)表示包括每個(gè)所述待翻譯詞的詞向量表示;
根據(jù)所述待翻譯文本的隱狀態(tài)表示,預(yù)測得到候選詞集合;
在調(diào)用解碼器對所述隱狀態(tài)表示進(jìn)行解碼翻譯過程中,針對于每個(gè)所述待翻譯詞,獲取在所述待翻譯詞之前的已翻譯詞對應(yīng)的中間向量表示;
根據(jù)所述中間向量表示,預(yù)測所述待翻譯詞的未來詞向量表示;
調(diào)用所述解碼器依次基于每一所述待翻譯詞的詞向量表示和所述未來詞向量表示,在所述候選詞集合中預(yù)測出與所述待翻譯文本對應(yīng)的譯文。
本申請實(shí)施例提供一種文本翻譯裝置,所述裝置包括:
映射處理模塊,用于調(diào)用編碼器對待翻譯文本中的每個(gè)待翻譯詞依次進(jìn)行映射處理,得到所述待翻譯文本的隱狀態(tài)表示,所述隱狀態(tài)表示包括每個(gè)所述待翻譯詞的詞向量表示;
第一預(yù)測模塊,用于根據(jù)所述待翻譯文本的隱狀態(tài)表示,預(yù)測得到候選詞集合;
獲取模塊,用于在調(diào)用解碼器對所述隱狀態(tài)表示進(jìn)行解碼翻譯過程中,針對于每個(gè)所述待翻譯詞,獲取在所述待翻譯詞之前的已翻譯詞對應(yīng)的中間向量表示;
第二預(yù)測模塊,用于根據(jù)所述中間向量表示,預(yù)測所述待翻譯詞的未來詞向量表示;
該專利技術(shù)資料僅供研究查看技術(shù)是否侵權(quán)等信息,商用須獲得專利權(quán)人授權(quán)。該專利全部權(quán)利屬于騰訊科技(深圳)有限公司,未經(jīng)騰訊科技(深圳)有限公司許可,擅自商用是侵權(quán)行為。如果您想購買此專利、獲得商業(yè)授權(quán)和技術(shù)合作,請聯(lián)系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/202110287301.7/2.html,轉(zhuǎn)載請聲明來源鉆瓜專利網(wǎng)。
- 文本匹配方法及裝置
- 互聯(lián)網(wǎng)金融非顯性廣告識別方法及裝置
- 文本結(jié)論智能推薦方法、裝置及計(jì)算機(jī)可讀存儲介質(zhì)
- 文本檢索方法、裝置及設(shè)備、文本檢索模型的訓(xùn)練方法
- 基于級連模式的文本匹配方法及裝置
- 一種文本關(guān)系提取方法、裝置及電子設(shè)備
- 文本的標(biāo)準(zhǔn)化處理方法、裝置、電子設(shè)備及計(jì)算機(jī)介質(zhì)
- 文本標(biāo)簽確定方法、裝置、計(jì)算機(jī)設(shè)備和存儲介質(zhì)
- 文本圖像合成方法、裝置、設(shè)備及存儲介質(zhì)
- 文本生成方法、裝置和電子設(shè)備





