[發(fā)明專利]一種降低時(shí)延神經(jīng)網(wǎng)絡(luò)模型功耗的方法及裝置

有效

• 申請(qǐng)?zhí)枺?/td>: 202010163869.3
• 申請(qǐng)日: 2020-03-11
• 公開（公告）號(hào): CN111428860B
• 公開（公告）日: 2023-05-30
• 發(fā)明（設(shè)計(jì)）人: 閆子魁
• 申請(qǐng)（專利權(quán)）人: 云知聲智能科技股份有限公司;廈門云知芯智能科技有限公司
• 主分類號(hào): G06N3/082
• 分類號(hào): G06N3/082;G06N3/049;G10L15/16
• 代理公司: 北京冠和權(quán)律師事務(wù)所 11399
• 代理人: 張楠楠

1.一種降低時(shí)延神經(jīng)網(wǎng)絡(luò)模型功耗的方法，其特征在于，包括：

獲取第一時(shí)延神經(jīng)網(wǎng)絡(luò)模型；

將所述第一時(shí)延神經(jīng)網(wǎng)絡(luò)模型中的原始矩陣分解為兩個(gè)目標(biāo)矩陣，以得到第二時(shí)延神經(jīng)網(wǎng)絡(luò)模型；對(duì)所述第二時(shí)延神經(jīng)網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練，以得到第三時(shí)延神經(jīng)網(wǎng)絡(luò)模型；

對(duì)所述第三時(shí)延神經(jīng)網(wǎng)絡(luò)模型進(jìn)行參數(shù)調(diào)整，以得到第四時(shí)延神經(jīng)網(wǎng)絡(luò)模型；

將所述第四時(shí)延神經(jīng)網(wǎng)絡(luò)模型導(dǎo)入到預(yù)設(shè)嵌入式設(shè)備：

所述對(duì)所述第二時(shí)延神經(jīng)網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練，以得到第三時(shí)延神經(jīng)網(wǎng)絡(luò)模型，包括：

獲取若干條語(yǔ)音數(shù)據(jù)；

將所述若干條語(yǔ)音數(shù)據(jù)中第一預(yù)設(shè)數(shù)目條語(yǔ)音數(shù)據(jù)確定為訓(xùn)練集；

通過所述訓(xùn)練集對(duì)所述第二時(shí)延神經(jīng)網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練，以得到所述第三時(shí)延神經(jīng)網(wǎng)絡(luò)模型；

所述對(duì)第三時(shí)延神經(jīng)網(wǎng)絡(luò)模型進(jìn)行參數(shù)調(diào)整，以得到第四時(shí)延神經(jīng)網(wǎng)絡(luò)模型，包括：

將所述若干條語(yǔ)音數(shù)據(jù)中第二預(yù)設(shè)數(shù)目條語(yǔ)音數(shù)據(jù)確定為驗(yàn)證集；

通過所述驗(yàn)證集對(duì)所述第三時(shí)延神經(jīng)網(wǎng)絡(luò)模型進(jìn)行參數(shù)調(diào)整，以得到所述第四時(shí)延神經(jīng)網(wǎng)絡(luò)模型。

2.如權(quán)利要求1所述的方法，其特征在于，所述將所述第一時(shí)延神經(jīng)網(wǎng)絡(luò)模型中的原始矩陣分解為兩個(gè)目標(biāo)矩陣，以得到第二時(shí)延神經(jīng)網(wǎng)絡(luò)模型，包括：

利用SVD技術(shù)將所述第一時(shí)延神經(jīng)網(wǎng)絡(luò)模型中的原始矩陣剪裁成所述兩個(gè)目標(biāo)矩陣；

基于所述第一時(shí)延神經(jīng)網(wǎng)絡(luò)模型，通過所述兩個(gè)目標(biāo)矩陣進(jìn)行模型結(jié)構(gòu)的構(gòu)建，以得到所述第二時(shí)延神經(jīng)網(wǎng)絡(luò)模型。

3.如權(quán)利要求1所述的方法，其特征在于，所述將所述第四時(shí)延神經(jīng)網(wǎng)絡(luò)模型導(dǎo)入嵌入式設(shè)備，包括：

獲取所述嵌入式設(shè)備的導(dǎo)入指令；

判斷所述第四時(shí)延神經(jīng)網(wǎng)絡(luò)模型是否滿足預(yù)設(shè)標(biāo)準(zhǔn)；

當(dāng)所述第四時(shí)延神經(jīng)網(wǎng)絡(luò)模型滿足預(yù)設(shè)標(biāo)準(zhǔn)時(shí)，根據(jù)所述導(dǎo)入指令將所述第四時(shí)延神經(jīng)網(wǎng)絡(luò)模型導(dǎo)入所述嵌入式設(shè)備。

4.一種降低時(shí)延神經(jīng)網(wǎng)絡(luò)模型功耗的裝置，其特征在于，包括：

獲取模塊，用于獲取第一時(shí)延神經(jīng)網(wǎng)絡(luò)模型；

訓(xùn)練模塊，用于將所述第一時(shí)延神經(jīng)網(wǎng)絡(luò)模型中的原始矩陣分解為兩個(gè)目標(biāo)矩陣，以得到第二時(shí)延神經(jīng)網(wǎng)絡(luò)模型；對(duì)所述第二時(shí)延神經(jīng)網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練，以得到第三時(shí)延神經(jīng)網(wǎng)絡(luò)模型；

調(diào)整模塊，用于對(duì)所述第三時(shí)延神經(jīng)網(wǎng)絡(luò)模型進(jìn)行參數(shù)調(diào)整，以得到第四時(shí)延神經(jīng)網(wǎng)絡(luò)模型；

導(dǎo)入模塊，用于將所述第四時(shí)延神經(jīng)網(wǎng)絡(luò)模型導(dǎo)入到預(yù)設(shè)嵌入式設(shè)備；

所述訓(xùn)練模塊，包括：

第一獲取子模塊，用于獲取若干條語(yǔ)音數(shù)據(jù)；

第一確定子模塊，用于將所述若干條語(yǔ)音數(shù)據(jù)中第一預(yù)設(shè)數(shù)目條語(yǔ)音數(shù)據(jù)確定為訓(xùn)練集；

第一訓(xùn)練子模塊，用于通過所述訓(xùn)練集對(duì)所述第二時(shí)延神經(jīng)網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練，以得到所述第三時(shí)延神經(jīng)網(wǎng)絡(luò)模型；

所述調(diào)整模塊，包括：

第二確定子模塊，用于將所述若干條語(yǔ)音數(shù)據(jù)中第二預(yù)設(shè)數(shù)目條語(yǔ)音數(shù)據(jù)確定為驗(yàn)證集；

調(diào)整子模塊，用于通過所述驗(yàn)證集對(duì)所述第三時(shí)延神經(jīng)網(wǎng)絡(luò)模型進(jìn)行參數(shù)調(diào)整，以得到所述第四時(shí)延神經(jīng)網(wǎng)絡(luò)模型。

5.如權(quán)利要求4所述的裝置，其特征在于，所述訓(xùn)練模塊，包括：

裁剪子模塊，用于利用SVD技術(shù)將所述第一時(shí)延神經(jīng)網(wǎng)絡(luò)模型中的原始矩陣剪裁成所述兩個(gè)目標(biāo)矩陣；

構(gòu)建子模塊，用于基于所述第一時(shí)延神經(jīng)網(wǎng)絡(luò)模型，通過所述兩個(gè)目標(biāo)矩陣進(jìn)行模型結(jié)構(gòu)的構(gòu)建，以得到所述第二時(shí)延神經(jīng)網(wǎng)絡(luò)模型。

6.如權(quán)利要求4所述的裝置，其特征在于，所述導(dǎo)入模塊，包括：

第二獲取子模塊，用于獲取所述嵌入式設(shè)備的導(dǎo)入指令；

判斷子模塊，用于判斷所述第四時(shí)延神經(jīng)網(wǎng)絡(luò)模型是否滿足預(yù)設(shè)標(biāo)準(zhǔn)；

導(dǎo)入子模塊，用于當(dāng)所述第四時(shí)延神經(jīng)網(wǎng)絡(luò)模型滿足預(yù)設(shè)標(biāo)準(zhǔn)時(shí)，根據(jù)所述導(dǎo)入指令將所述第四時(shí)延神經(jīng)網(wǎng)絡(luò)模型導(dǎo)入所述嵌入式設(shè)備。