[發(fā)明專利]一種中文語音識(shí)別方法、系統(tǒng)、存儲(chǔ)介質(zhì)和電子設(shè)備

在審

• 申請(qǐng)?zhí)枺?/td>: 202211304048.2
• 申請(qǐng)日: 2022-10-24
• 公開（公告）號(hào): CN115762487A
• 公開（公告）日: 2023-03-07
• 發(fā)明（設(shè)計(jì)）人: 李建群
• 申請(qǐng)（專利權(quán)）人: 北京數(shù)美時(shí)代科技有限公司;數(shù)美天下（北京）科技有限公司
• 主分類號(hào): G10L15/06
• 分類號(hào): G10L15/06;G10L15/28;G10L15/02
• 代理公司: 北京輕創(chuàng)知識(shí)產(chǎn)權(quán)代理有限公司 11212
• 代理人: 孟仕杰

本發(fā)明涉及一種中文語音識(shí)別方法、系統(tǒng)、存儲(chǔ)介質(zhì)和電子設(shè)備，包括：基于多個(gè)中文語音訓(xùn)練樣本，對(duì)添加有一個(gè)細(xì)粒度損失模塊和兩個(gè)中間層損失模塊的原始CTC編碼網(wǎng)絡(luò)進(jìn)行訓(xùn)練，得到第一中文語音識(shí)別模型，并刪除所述第一中文語音識(shí)別模型中的所述細(xì)粒度損失模塊和所述兩個(gè)中間層損失模塊，得到目標(biāo)中文語音識(shí)別模型；將待識(shí)別中文語音數(shù)據(jù)輸入至所述目標(biāo)中文語音識(shí)別模型中，得到中文語音識(shí)別結(jié)果。本發(fā)明通過添加多層級(jí)多粒度的損失計(jì)算，使CTC編碼網(wǎng)絡(luò)能夠提取更加豐富多樣的語音特征信息，在不影響模型推理速度和模型復(fù)雜度的同時(shí)，提高了中文語音識(shí)別的準(zhǔn)確率。

技術(shù)領(lǐng)域

本發(fā)明涉及深度學(xué)習(xí)技術(shù)領(lǐng)域，尤其涉及一種中文語音識(shí)別方法、系統(tǒng)、存儲(chǔ)介質(zhì)和電子設(shè)備。

背景技術(shù)

目前的中文語音識(shí)別模型中，普遍存在識(shí)別精度不高或者是模型復(fù)雜度偏高等問題。倘若只是為提高模型的識(shí)別精度而構(gòu)建復(fù)雜的編碼網(wǎng)絡(luò)無疑會(huì)大大增加計(jì)算難度，從而增加了模型推理的速度。

如何在提高模型精度的同時(shí)，不降低模型識(shí)別的效率，是當(dāng)前亟需解決的技術(shù)問題。

發(fā)明內(nèi)容

為解決上述技術(shù)問題，本發(fā)明提供了一種中文語音識(shí)別方法、系統(tǒng)、存儲(chǔ)介質(zhì)和電子設(shè)備。

本發(fā)明的一種中文語音識(shí)別方法的技術(shù)方案如下：

基于多個(gè)中文語音訓(xùn)練樣本，對(duì)添加有一個(gè)細(xì)粒度損失模塊和兩個(gè)中間層損失模塊的原始CTC編碼網(wǎng)絡(luò)進(jìn)行訓(xùn)練，得到第一中文語音識(shí)別模型，并刪除所述第一中文語音識(shí)別模型中的所述細(xì)粒度損失模塊和所述兩個(gè)中間層損失模塊，得到目標(biāo)中文語音識(shí)別模型；其中，所述細(xì)粒度損失模塊用于：接收并根據(jù)上一個(gè)原始編碼層輸出的第一中文語音特征，得到細(xì)粒度損失值；任一中間層損失模塊用于：接收并對(duì)上一個(gè)原始編碼層輸出的第二中文語音特征進(jìn)行處理，得到第三中文語音特征，并將所述第三中文語音特征與所述第二中文語音特征進(jìn)行拼接，得到并將拼接中文語音特征輸入至下一個(gè)原始編碼層；

將待識(shí)別中文語音數(shù)據(jù)輸入至所述目標(biāo)中文語音識(shí)別模型中，得到中文語音識(shí)別結(jié)果。

本發(fā)明的一種中文語音識(shí)別方法的有益效果如下：

本發(fā)明的方法通過添加多層級(jí)多粒度的損失計(jì)算，使CTC編碼網(wǎng)絡(luò)能夠提取更加豐富多樣的語音特征信息，在不影響模型推理速度和模型復(fù)雜度的同時(shí)，提高了中文語音識(shí)別的準(zhǔn)確率。

在上述方案的基礎(chǔ)上，本發(fā)明的一種中文語音識(shí)別方法還可以做如下改進(jìn)。

進(jìn)一步，所述細(xì)粒度損失模塊包括：依次設(shè)置的第一歸一化層、第一線性層和第一softmax函數(shù)和細(xì)粒度損失函數(shù)；

所述細(xì)粒度損失模塊具體用于：接收所述細(xì)粒度損失模塊對(duì)應(yīng)的上一層編碼層輸出的第一中文語音特征，并依次經(jīng)所述第一歸一化層、第一線性層和所述第一softmax函數(shù)進(jìn)行處理，得到并將處理后的第一中文語音特征輸入至所述細(xì)粒度損失函數(shù)中進(jìn)行計(jì)算，得到所述細(xì)粒度損失值。

進(jìn)一步，所述兩個(gè)中間層損失模塊包括：包含依次設(shè)置的第二歸一化層、第二線性層、第二softmax函數(shù)、第一新增線性層和拼音級(jí)損失函數(shù)的拼音級(jí)中間層損失模塊，和，包含依次設(shè)置的第三歸一化層、第三線性層、第三sotfmax函數(shù)、第二新增線性層和字符級(jí)損失函數(shù)的字符級(jí)中間層損失模塊；

所述拼音級(jí)中間層損失模塊用于：接收所述拼音級(jí)中間層損失模塊對(duì)應(yīng)的上一層原始編碼層輸出的第二中文語音特征，并依次通過所述第二歸一化層、所述第二線性層、所述第二softmax函數(shù)對(duì)所述拼音級(jí)中間層損失模塊的第二中文語音特征進(jìn)行處理，得到所述拼音級(jí)中間層損失模塊的第三中文語音特征，并通過所述第一新增線性層，將所述拼音級(jí)中間層損失模塊的第三中文語音特征與所述拼音級(jí)中間層損失模塊的第二中文語音特征進(jìn)行拼接，得到并將所述拼音級(jí)中間層損失模塊的拼接中文語音特征輸出至所述拼音級(jí)中間層損失模塊對(duì)應(yīng)的下一層原始編碼層；