[發明專利]用于語音識別的訓練方法和設備

在審

• 申請號: 201711064668.2
• 申請日: 2017-11-02
• 公開（公告）號: CN108630197A
• 公開（公告）日: 2018-10-09
• 發明（設計）人: 閔允泓
• 申請（專利權）人: 三星電子株式會社
• 主分類號: G10L15/06
• 分類號: G10L15/06;G10L15/16
• 代理公司: 北京銘碩知識產權代理有限公司 11286
• 代理人: 姜長星;張川緒

1.一種訓練方法，包括：

確定是否通過使用經驗回放集的經驗回放迭代執行用于訓練神經網絡的當前迭代；

基于確定的結果從經驗回放集和訓練集中的至少一個選擇樣本；

基于選擇的樣本訓練神經網絡。

2.如權利要求1所述的訓練方法，其中，確定的步驟包括：確定與當前迭代對應的迭代編號是否為第一數字的倍數。

3.如權利要求1所述的訓練方法，其中，確定的步驟包括：確定與當前迭代對應的迭代編號是否小于第一數字的倍數與第二數字之和。

4.如權利要求1所述的訓練方法，其中，確定的步驟包括：確定與當前迭代之前的迭代對應的訓練誤差減小是否小于或等于閾值。

5.如權利要求1所述的訓練方法，其中，確定的步驟包括：確定是否使用批處理方案執行當前迭代。

6.如權利要求1所述的訓練方法，其中，選擇的步驟包括：響應于通過經驗回放迭代執行當前迭代，從經驗回放集隨機選擇樣本。

7.如權利要求1所述的訓練方法，其中，選擇的步驟包括：

響應于通過經驗回放迭代執行當前迭代，從訓練集隨機選擇第一樣本；

從經驗回放集選擇與隨機選擇的第一樣本具有最大相似度的第二樣本。

8.如權利要求7所述的訓練方法，其中，基于語音樣本的三音素的分布定義相似度。

9.如權利要求1所述的訓練方法，其中，選擇的步驟包括：響應于通過經驗回放迭代執行當前迭代，基于經驗回放集中的樣本的質量從經驗回放集選擇樣本。

10.如權利要求1所述的訓練方法，其中，選擇的步驟包括：響應于通過經驗回放迭代執行當前迭代并且使用批處理方案執行經驗回放迭代，從經驗回放集隨機選擇多個樣本。

11.如權利要求1所述的訓練方法，其中，選擇的步驟包括：響應于通過經驗回放迭代執行當前迭代并且使用批處理方案執行經驗回放迭代，按照比例從經驗回放集和訓練集隨機選擇多個樣本。

12.如權利要求1所述的訓練方法，其中，選擇的步驟包括：

響應于通過經驗回放迭代執行當前迭代并且使用批處理方案執行經驗回放迭代，從訓練集隨機選擇多個第一樣本；

從經驗回放集選擇與隨機選擇的所述多個第一樣本具有最大相似度的多個第二樣本。

13.如權利要求1所述的訓練方法，其中，選擇的步驟包括：響應于通過經驗回放迭代執行當前迭代并且使用批處理方案執行經驗回放迭代，基于經驗回放集中的樣本的質量從經驗回放集選擇多個樣本。

14.如權利要求1所述的訓練方法，還包括：

基于訓練的結果和選擇的樣本確定是否更新經驗回放集。

15.如權利要求14所述的訓練方法，其中，確定是否更新經驗回放集的步驟包括基于以下項中的任意一個或任意組合計算選擇的樣本的質量：

選擇的樣本在包括在經驗回放集中的樣本的分布中的概率；

從基于選擇的樣本訓練的神經網絡獲得的輸出；

對應于當前迭代的訓練誤差減小；

對應于當前迭代之前的迭代的訓練誤差減小與對應于當前迭代的訓練誤差減小之間的差。

16.如權利要求15所述的訓練方法，其中，確定是否更新經驗回放集的步驟還包括：將計算的質量與經驗回放集中的樣本的質量進行比較。

17.如權利要求16所述的訓練方法，還包括：

基于比較的結果，使用選擇的樣本替換與經驗回放集中的樣本之中的低于計算的質量的質量對應的至少一個樣本。