[發(fā)明專利]文本糾錯(cuò)的方法、裝置、電子設(shè)備和可讀存儲(chǔ)介質(zhì)

有效

• 申請?zhí)枺?/td>: 202010692628.8
• 申請日: 2020-07-17
• 公開（公告）號: CN112001169B
• 公開（公告）日: 2022-03-25
• 發(fā)明（設(shè)計(jì)）人: 徐夢笛;鄧卓彬;賴佳偉;付志宏;何徑舟
• 申請（專利權(quán)）人: 北京百度網(wǎng)訊科技有限公司
• 主分類號: G06F40/232
• 分類號: G06F40/232;G06F40/30
• 代理公司: 北京鴻德海業(yè)知識產(chǎn)權(quán)代理有限公司 11412
• 代理人: 田宏賓

1.一種文本糾錯(cuò)的方法，包括：

獲取待處理文本，并從所述待處理文本中提取語義向量；

將所述語義向量輸入至文本糾錯(cuò)模型，得到所述文本糾錯(cuò)模型輸出的所述待處理文本中每個(gè)字的文本糾錯(cuò)信息，所述每個(gè)字的文本糾錯(cuò)信息包含每個(gè)字的檢錯(cuò)信息以及每個(gè)字分別對應(yīng)預(yù)設(shè)字表中各候選字的概率值；

根據(jù)所述檢錯(cuò)信息，確定所述待處理文本中出現(xiàn)錯(cuò)誤的字作為目標(biāo)字；

根據(jù)所述目標(biāo)字分別對應(yīng)預(yù)設(shè)字表中各候選字的概率值，從預(yù)設(shè)字表中選取相應(yīng)的候選字替換所述目標(biāo)字，得到所述待處理文本的糾錯(cuò)結(jié)果。

2.根據(jù)權(quán)利要求1所述的方法，其中，所述從所述待處理文本中提取語義向量包括：

將所述待處理文本進(jìn)行字粒度的切分，得到所述待處理文本中的每個(gè)字；

將所得到的每個(gè)字輸入預(yù)訓(xùn)練語言模型，得到所述預(yù)訓(xùn)練語言模型輸出的對應(yīng)各字的語義向量。

3.根據(jù)權(quán)利要求1所述的方法，還包括，

采用如下方式預(yù)先訓(xùn)練得到所述文本糾錯(cuò)模型：

獲取訓(xùn)練文本，并從所述訓(xùn)練文本中提取語義向量；

對所述訓(xùn)練文本中每個(gè)字的檢錯(cuò)信息以及每個(gè)字分別對應(yīng)預(yù)設(shè)字表中各候選字的概率值進(jìn)行標(biāo)注；

根據(jù)所述訓(xùn)練文本的語義向量、所述訓(xùn)練文本中每個(gè)字的檢錯(cuò)信息以及每個(gè)字分別對應(yīng)預(yù)設(shè)字表中各候選字的概率值訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型，得到文本糾錯(cuò)模型。

4.根據(jù)權(quán)利要求1所述的方法，其中，所述根據(jù)所述目標(biāo)字分別對應(yīng)候選字表中各候選字的概率值，從預(yù)設(shè)字表中選取相應(yīng)的候選字替換所述目標(biāo)字包括：

根據(jù)所述目標(biāo)字分別對應(yīng)預(yù)設(shè)字表中各候選字的概率值，從預(yù)設(shè)字表中選取多個(gè)候選字；

計(jì)算所選取的候選字與所述待處理文本之間的語義相似度；

選取與所述待處理文本具有最高語義相似度的候選字，替換所述目標(biāo)字。

5.一種文本糾錯(cuò)的裝置，包括：

提取單元，用于獲取待處理文本，并從所述待處理文本中提取語義向量；

處理單元，用于將所述語義向量輸入至文本糾錯(cuò)模型，得到所述文本糾錯(cuò)模型輸出的所述待處理文本中每個(gè)字的文本糾錯(cuò)信息，所述每個(gè)字的文本糾錯(cuò)信息包含每個(gè)字的檢錯(cuò)信息以及每個(gè)字分別對應(yīng)預(yù)設(shè)字表中各候選字的概率值；

檢錯(cuò)單元，用于根據(jù)所述檢錯(cuò)信息，確定所述待處理文本中出現(xiàn)錯(cuò)誤的字作為目標(biāo)字；

糾正單元，用于根據(jù)所述目標(biāo)字分別對應(yīng)預(yù)設(shè)字表中各候選字的概率值，從預(yù)設(shè)字表中選取相應(yīng)的候選字替換所述目標(biāo)字，得到所述待處理文本的糾錯(cuò)結(jié)果。

6.根據(jù)權(quán)利要求5所述的裝置，其中，所述提取單元在從所述待處理文本中提取語義向量時(shí)，具體執(zhí)行：

將所述待處理文本進(jìn)行字粒度的切分，得到所述待處理文本中的每個(gè)字；

將所得到的每個(gè)字輸入預(yù)訓(xùn)練語言模型，得到所述預(yù)訓(xùn)練語言模型輸出的對應(yīng)各字的語義向量。

7.根據(jù)權(quán)利要求5所述的裝置，還包括訓(xùn)練單元，用于采用如下方式預(yù)先訓(xùn)練得到所述文本糾錯(cuò)模型：

獲取訓(xùn)練文本，并從所述訓(xùn)練文本中提取語義向量；

對所述訓(xùn)練文本中每個(gè)字的檢錯(cuò)信息以及每個(gè)字分別對應(yīng)預(yù)設(shè)字表中各候選字的概率值進(jìn)行標(biāo)注；

根據(jù)所述訓(xùn)練文本的語義向量、所述訓(xùn)練文本中每個(gè)字的檢錯(cuò)信息以及每個(gè)字分別對應(yīng)預(yù)設(shè)字表中各候選字的概率值訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型，得到文本糾錯(cuò)模型。

8.根據(jù)權(quán)利要求5所述的裝置，其中，所述糾正單元在根據(jù)所述目標(biāo)字分別對應(yīng)預(yù)設(shè)字表中各候選字的概率值，從預(yù)設(shè)字表中選取相應(yīng)的候選字替換所述目標(biāo)字時(shí)，具體執(zhí)行：

根據(jù)所述目標(biāo)字分別對應(yīng)預(yù)設(shè)字表中各候選字的概率值，從預(yù)設(shè)字表中選取多個(gè)候選字；

計(jì)算所選取的候選字與所述待處理文本之間的語義相似度；

選取與所述待處理文本具有最高語義相似度的候選字，替換所述目標(biāo)字。