[發(fā)明專利]一種文本糾錯方法及裝置、設(shè)備、存儲介質(zhì)

在審

• 申請?zhí)枺?/td>: 202011252798.0
• 申請日: 2020-11-11
• 公開（公告）號: CN112329476A
• 公開（公告）日: 2021-02-05
• 發(fā)明（設(shè)計）人: 袁鵬;李浩然
• 申請（專利權(quán)）人: 北京京東尚科信息技術(shù)有限公司;北京京東世紀(jì)貿(mào)易有限公司
• 主分類號: G06F40/30
• 分類號: G06F40/30;G06F40/279;G06F40/242;G06F40/216;G06K9/46;G06N3/08
• 代理公司: 北京派特恩知識產(chǎn)權(quán)代理有限公司 11270
• 代理人: 周麗莎;張穎玲

1.一種文本糾錯方法，其特征在于，所述方法包括：

獲取待糾錯文本；

將所述待糾錯文本輸入文本糾錯模型，得到所述文本糾錯模型輸出的第一輸出和第二輸出；所述第一輸出表征所述待糾錯文本的錯誤識別結(jié)果；所述第二輸出表征所述待糾錯文本的糾錯結(jié)果；其中，所述文本糾錯模型的參數(shù)基于訓(xùn)練數(shù)據(jù)對應(yīng)的第一預(yù)測結(jié)果和第二預(yù)測結(jié)果得到，所述第一預(yù)測結(jié)果表征所述訓(xùn)練數(shù)據(jù)的錯誤識別結(jié)果；所述第二預(yù)測結(jié)果表征所述訓(xùn)練數(shù)據(jù)的糾錯結(jié)果。

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述文本糾錯模型包括：特征提取模塊、識別模塊和糾錯模塊；所述將所述待糾錯文本輸入文本糾錯模型，得到所述文本糾錯模型輸出的第一輸出和第二輸出，包括：

將所述待糾錯文本輸入所述特征提取模塊，得到所述特征提取模塊輸出的特征序列；

將所述特征序列輸入所述識別模塊，得到所述識別模塊輸出的所述第一輸出；

將所述第一輸出輸入所述糾錯模塊，得到所述糾錯模塊輸出的所述第二輸出。

3.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述特征提取模塊包括：特征向量層和至少一個轉(zhuǎn)換層；所述將所述待糾錯文本輸入所述特征提取模塊，得到所述特征提取模塊輸出的特征序列，包括：

將所述待糾錯文本輸入所述特征向量層，得到所述特征向量層輸出的文本向量序列；

將所述文本向量序列輸入所述至少一個轉(zhuǎn)換層，得到所述至少一個轉(zhuǎn)換層中每一轉(zhuǎn)換層輸出的編碼序列；

根據(jù)所述每一轉(zhuǎn)換層對應(yīng)的權(quán)重對相應(yīng)的編碼序列進行加權(quán)求和，得到所述特征序列。

4.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述方法還包括：

將所述訓(xùn)練數(shù)據(jù)輸入所述文本糾錯模型，得到所述文本糾錯模型輸出的所述第一預(yù)測結(jié)果和所述第二預(yù)測結(jié)果；

基于所述第一預(yù)測結(jié)果、所述第二預(yù)測結(jié)果和所述訓(xùn)練文本對應(yīng)的標(biāo)簽集，確定所述文本糾錯模型的第一損失；所述標(biāo)簽集中的標(biāo)簽表征所述訓(xùn)練數(shù)據(jù)中對應(yīng)字符是否為錯別字；

當(dāng)所述第一損失不滿足停止訓(xùn)練條件時，根據(jù)所述第一損失對所述文本糾錯模型的參數(shù)進行調(diào)整，并將所述訓(xùn)練數(shù)據(jù)輸入?yún)?shù)調(diào)整后的文本糾錯模型，以得到新的第一損失，直到所述文本糾錯模型的第一損失滿足停止訓(xùn)練條件。

5.根據(jù)權(quán)利要求4所述的方法，其特征在于，所述文本糾錯模型包括：特征提取模塊、識別模塊和糾錯模塊；所述將所述訓(xùn)練數(shù)據(jù)輸入所述文本糾錯模型，得到所述文本糾錯模型輸出的所述第一預(yù)測結(jié)果和所述第二預(yù)測結(jié)果，包括：

將所述訓(xùn)練數(shù)據(jù)輸入所述特征提取模塊，得到所述特征提取模塊輸出的訓(xùn)練特征序列；

將所述訓(xùn)練特征序列分別輸入所述識別模塊和所述糾錯模塊，得到所述識別模塊輸出的所述第一預(yù)測結(jié)果，和所述糾錯模塊輸出的所述第二預(yù)測結(jié)果。

6.根據(jù)權(quán)利要求4所述的方法，其特征在于，所述基于所述第一預(yù)測結(jié)果和所述第二預(yù)測結(jié)果，確定所述文本糾錯模型的第一損失，包括：

基于所述第一預(yù)測結(jié)果和所述訓(xùn)練數(shù)據(jù)中各字符對應(yīng)的第一標(biāo)簽，計算所述文本糾錯模型的第二損失；

基于所述第二預(yù)測結(jié)果在生成字典上的概率分布，計算所述文本糾錯模型的第三損失；

根據(jù)所述第二損失和所述第三損失，確定所述第一損失。

7.根據(jù)權(quán)利要求6所述的方法，其特征在于，所述基于所述第一預(yù)測結(jié)果和所述第二預(yù)測結(jié)果，確定所述文本糾錯模型的第一損失，還包括：

基于所述第一預(yù)測結(jié)果和所述第二預(yù)測結(jié)果在生成字典上的概率分布，計算所述文本糾錯模型的第四損失；

對應(yīng)的，根據(jù)所述第二損失和所述第三損失，確定所述第一損失，包括：

根據(jù)所述第二損失、所述第三損失和所述第四損失，確定所述第一損失。