[發(fā)明專(zhuān)利]語(yǔ)音識(shí)別的方法、裝置、設(shè)備和計(jì)算機(jī)可讀介質(zhì)

在審

• 申請(qǐng)?zhí)枺?/td>: 202011119709.5
• 申請(qǐng)日: 2020-10-19
• 公開(kāi)（公告）號(hào): CN112259079A
• 公開(kāi)（公告）日: 2021-01-22
• 發(fā)明（設(shè)計(jì)）人: 蔡猛;梁鎮(zhèn)麟;張駿
• 申請(qǐng)（專(zhuān)利權(quán)）人: 北京有竹居網(wǎng)絡(luò)技術(shù)有限公司
• 主分類(lèi)號(hào): G10L15/06
• 分類(lèi)號(hào): G10L15/06;G10L15/08;G10L15/16;G10L15/26
• 代理公司: 北京衛(wèi)智暢科專(zhuān)利代理事務(wù)所(普通合伙) 11557
• 代理人: 陳佳

本公開(kāi)的實(shí)施例公開(kāi)了一種語(yǔ)音識(shí)別的方法、裝置、設(shè)備和計(jì)算機(jī)可讀介質(zhì)。該方法的一具體實(shí)施方式包括：將目標(biāo)語(yǔ)音輸入預(yù)先訓(xùn)練的語(yǔ)音識(shí)別模型，生成所述目標(biāo)語(yǔ)音對(duì)應(yīng)的目標(biāo)文字，其中，所述語(yǔ)音識(shí)別模型是由兩個(gè)階段訓(xùn)練得到的，第一階段包括對(duì)初始語(yǔ)音識(shí)別模型的編碼器中預(yù)定數(shù)目個(gè)網(wǎng)絡(luò)層進(jìn)行凍結(jié)，對(duì)所述初始語(yǔ)音識(shí)別模型中其余層進(jìn)行訓(xùn)練，得到第一語(yǔ)音識(shí)別模型，第二階段包括解除所述預(yù)定數(shù)目個(gè)網(wǎng)絡(luò)層的凍結(jié)，對(duì)所述第一語(yǔ)音識(shí)別模型進(jìn)行訓(xùn)練，得到所述語(yǔ)音識(shí)別模型。經(jīng)驗(yàn)證，通過(guò)上述兩個(gè)階段，模型訓(xùn)練過(guò)程較穩(wěn)定。作為示例，模型的損失函數(shù)在訓(xùn)練過(guò)程中收斂。最終，使用所得到的語(yǔ)音識(shí)別模型去做語(yǔ)音識(shí)別任務(wù)時(shí)，預(yù)測(cè)效果較好。

技術(shù)領(lǐng)域

本公開(kāi)的實(shí)施例涉及計(jì)算機(jī)技術(shù)領(lǐng)域，具體涉及語(yǔ)音識(shí)別的方法、裝置、設(shè)備和計(jì)算機(jī)可讀介質(zhì)。

背景技術(shù)

目前，在做語(yǔ)音識(shí)別相關(guān)任務(wù)時(shí)，例如，語(yǔ)音喚醒，常常會(huì)使用到一些基于深度神經(jīng)網(wǎng)絡(luò)的語(yǔ)音識(shí)別模型。這里，語(yǔ)音識(shí)別模型預(yù)測(cè)結(jié)果的好壞，有很大一部分取決于模型的訓(xùn)練。目前，在模型訓(xùn)練時(shí)可以只求一個(gè)字的損失值。但是，在這種情況下，模型的訓(xùn)練過(guò)程會(huì)不穩(wěn)定。作為示例，損失函數(shù)曲線(xiàn)不收斂。

發(fā)明內(nèi)容

本公開(kāi)的內(nèi)容部分用于以簡(jiǎn)要的形式介紹構(gòu)思，這些構(gòu)思將在后面的具體實(shí)施方式部分被詳細(xì)描述。本公開(kāi)的內(nèi)容部分并不旨在標(biāo)識(shí)要求保護(hù)的技術(shù)方案的關(guān)鍵特征或必要特征，也不旨在用于限制所要求的保護(hù)的技術(shù)方案的范圍。

本公開(kāi)的一些實(shí)施例提出了一種語(yǔ)音識(shí)別的方法、裝置、設(shè)備和計(jì)算機(jī)可讀介質(zhì)，來(lái)解決以上背景技術(shù)部分提到的技術(shù)問(wèn)題。

第一方面，本公開(kāi)的一些實(shí)施例提供了一種語(yǔ)音識(shí)別的方法，該方法包括：將目標(biāo)語(yǔ)音輸入預(yù)先訓(xùn)練的語(yǔ)音識(shí)別模型，生成所述目標(biāo)語(yǔ)音對(duì)應(yīng)的目標(biāo)文字，其中，所述語(yǔ)音識(shí)別模型是由兩個(gè)階段訓(xùn)練得到的，第一階段包括對(duì)初始語(yǔ)音識(shí)別模型的編碼器中預(yù)定數(shù)目個(gè)網(wǎng)絡(luò)層進(jìn)行凍結(jié)，對(duì)所述初始語(yǔ)音識(shí)別模型中其余層進(jìn)行訓(xùn)練，得到第一語(yǔ)音識(shí)別模型，第二階段包括解除所述預(yù)定數(shù)目個(gè)網(wǎng)絡(luò)層的凍結(jié)，對(duì)所述第一語(yǔ)音識(shí)別模型進(jìn)行訓(xùn)練，得到所述語(yǔ)音識(shí)別模型。

第二方面，本公開(kāi)的一些實(shí)施例提供了一種語(yǔ)音識(shí)別的裝置，裝置包括：生成單元，被配置成將目標(biāo)語(yǔ)音輸入預(yù)先訓(xùn)練的語(yǔ)音識(shí)別模型，生成所述目標(biāo)語(yǔ)音對(duì)應(yīng)的目標(biāo)文字，其中，所述語(yǔ)音識(shí)別模型是由兩個(gè)階段訓(xùn)練得到的，第一階段包括對(duì)初始語(yǔ)音識(shí)別模型的編碼器中預(yù)定數(shù)目個(gè)網(wǎng)絡(luò)層進(jìn)行凍結(jié)，對(duì)所述初始語(yǔ)音識(shí)別模型中其余層進(jìn)行訓(xùn)練，得到第一語(yǔ)音識(shí)別模型，第二階段包括解除所述預(yù)定數(shù)目個(gè)網(wǎng)絡(luò)層的凍結(jié)，對(duì)所述第一語(yǔ)音識(shí)別模型進(jìn)行訓(xùn)練，得到所述語(yǔ)音識(shí)別模型。

第三方面，本公開(kāi)的一些實(shí)施例提供了一種生成語(yǔ)音識(shí)別模型的方法，該方法包括：對(duì)初始語(yǔ)音識(shí)別模型的編碼器中預(yù)定數(shù)目個(gè)網(wǎng)絡(luò)層進(jìn)行凍結(jié)，基于訓(xùn)練數(shù)據(jù)對(duì)所述初始語(yǔ)音識(shí)別模型進(jìn)行訓(xùn)練，生成第一語(yǔ)音識(shí)別模型；響應(yīng)于所述第一語(yǔ)音識(shí)別模型參數(shù)符合預(yù)設(shè)條件，解除所述預(yù)定數(shù)目個(gè)網(wǎng)絡(luò)層的凍結(jié)，基于所述訓(xùn)練數(shù)據(jù)對(duì)所述第一語(yǔ)音識(shí)別模型進(jìn)行訓(xùn)練，生成第二語(yǔ)音識(shí)別模型。

第四方面，本公開(kāi)的一些實(shí)施例提供了一種生成語(yǔ)音識(shí)別模型的裝置，裝置包括：第一生成單元：被配置成對(duì)初始語(yǔ)音識(shí)別模型的編碼器中預(yù)定數(shù)目個(gè)網(wǎng)絡(luò)層進(jìn)行凍結(jié)，基于訓(xùn)練數(shù)據(jù)對(duì)所述初始語(yǔ)音識(shí)別模型進(jìn)行訓(xùn)練，生成第一語(yǔ)音識(shí)別模型；第二生成單元：被配置成響應(yīng)于所述第一語(yǔ)音識(shí)別模型符合預(yù)設(shè)條件，解除所述預(yù)定數(shù)目個(gè)網(wǎng)絡(luò)層的凍結(jié)，基于所述訓(xùn)練數(shù)據(jù)對(duì)所述第一語(yǔ)音識(shí)別模型進(jìn)行訓(xùn)練，生成第二語(yǔ)音識(shí)別模型。

第五方面，本公開(kāi)的一些實(shí)施例提供了一種電子設(shè)備，包括：一個(gè)或多個(gè)處理器；存儲(chǔ)裝置，其上存儲(chǔ)有一個(gè)或多個(gè)程序，當(dāng)一個(gè)或多個(gè)程序被一個(gè)或多個(gè)處理器執(zhí)行，使得一個(gè)或多個(gè)處理器實(shí)現(xiàn)如第一方面中任一的方法。

第六方面，本公開(kāi)的一些實(shí)施例提供了一種計(jì)算機(jī)可讀介質(zhì)，其上存儲(chǔ)有計(jì)算機(jī)程序，其中，程序被處理器執(zhí)行時(shí)實(shí)現(xiàn)如第一方面中任一的方法。