[發(fā)明專利]一種基于翻譯記憶庫的神經(jīng)機(jī)器翻譯方法

在審

• 申請(qǐng)?zhí)枺?/td>: 202110661294.2
• 申請(qǐng)日: 2021-06-15
• 公開（公告）號(hào): CN113343717A
• 公開（公告）日: 2021-09-03
• 發(fā)明（設(shè)計(jì)）人: 杜權(quán);楊迪
• 申請(qǐng)（專利權(quán)）人: 沈陽雅譯網(wǎng)絡(luò)技術(shù)有限公司
• 主分類號(hào): G06F40/58
• 分類號(hào): G06F40/58;G06N3/04;G06N3/08
• 代理公司: 沈陽新科知識(shí)產(chǎn)權(quán)代理事務(wù)所(特殊普通合伙) 21117
• 代理人: 李曉光

1.一種基于翻譯記憶庫的神經(jīng)機(jī)器翻譯方法，其特征在于包括以下步驟：

1)通過網(wǎng)絡(luò)爬蟲技術(shù)從含有外文數(shù)據(jù)的網(wǎng)絡(luò)中爬取海量雙語數(shù)據(jù)；

2)對(duì)雙語數(shù)據(jù)進(jìn)行清洗過濾、分詞、子詞切分預(yù)處理，得到處理后的雙語數(shù)據(jù)；

3)將一半處理后的雙語數(shù)據(jù)存儲(chǔ)為翻譯記憶庫基礎(chǔ)數(shù)據(jù)，另一半作為訓(xùn)練語料，使用搜索技術(shù)找到翻譯記憶庫中與訓(xùn)練語料中每個(gè)句子最相似的句子；

4)將訓(xùn)練語料數(shù)據(jù)和翻譯記憶庫數(shù)據(jù)一起輸入到神經(jīng)網(wǎng)絡(luò)模型中開始訓(xùn)練模型至模型收斂；

5)導(dǎo)入用戶自定義的數(shù)據(jù)到翻譯記憶庫中，形成更符合用戶習(xí)慣的自定義翻譯記憶庫；

6)對(duì)用戶實(shí)時(shí)輸入的文本進(jìn)行模糊搜索，找到翻譯記憶庫中與該文本最相似的句子，并一起輸入到機(jī)器翻譯模型中，在解碼端使用門控機(jī)制指導(dǎo)模型翻譯；

7)將用戶輸入的句子和修訂后的結(jié)果存入翻譯記憶庫。

2.按權(quán)利要求1所述的基于翻譯記憶庫的神經(jīng)機(jī)器翻譯方法，其特征在于：步驟4)中，訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型至模型收斂，具體為：

401)用雙編碼器結(jié)構(gòu)分別對(duì)訓(xùn)練語料數(shù)據(jù)和翻譯記憶庫數(shù)據(jù)進(jìn)行編碼；

402)結(jié)合兩種編碼訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型至模型收斂。

3.按權(quán)利要求1所述的基于翻譯記憶庫的神經(jīng)機(jī)器翻譯方法，其特征在于：步驟6)中，在機(jī)器翻譯模型的解碼端使用門控機(jī)制指導(dǎo)翻譯，具體為：

601)將用戶輸入句子和翻譯記憶查找結(jié)果一起輸入翻譯模型；

602)使用門控機(jī)制結(jié)合翻譯記憶和源語句指導(dǎo)神經(jīng)網(wǎng)絡(luò)模型翻譯，得到翻譯結(jié)果；

603)門控機(jī)制計(jì)算具體公式為：

g^tm＝f(s_t-1,y_t-1,c^src,c^tm_t)

s_t-1為前置隱藏層狀態(tài)，y_t-1為前置預(yù)測目標(biāo)詞，c^src為用戶輸入句子，c^tm_t為翻譯記憶，f為激活函數(shù)。