[發(fā)明專利]一種基于語(yǔ)義識(shí)別的訓(xùn)練方法、訓(xùn)練裝置及終端設(shè)備

在審

• 申請(qǐng)?zhí)枺?/td>: 201811565995.0
• 申請(qǐng)日: 2018-12-20
• 公開(kāi)（公告）號(hào): CN111354354A
• 公開(kāi)（公告）日: 2020-06-30
• 發(fā)明（設(shè)計(jì)）人: 熊友軍;羅沛鵬;廖洪濤
• 申請(qǐng)（專利權(quán)）人: 深圳市優(yōu)必選科技有限公司
• 主分類號(hào): G10L15/22
• 分類號(hào): G10L15/22;G10L15/18;G10L15/06
• 代理公司: 深圳中一聯(lián)合知識(shí)產(chǎn)權(quán)代理有限公司 44414
• 代理人: 張全文

1.一種基于語(yǔ)義識(shí)別的訓(xùn)練方法，其特征在于，包括：

對(duì)預(yù)設(shè)的操作指令語(yǔ)料進(jìn)行預(yù)處理，獲取基于第一操作指令文本的訓(xùn)練集；

對(duì)經(jīng)過(guò)預(yù)處理的操作指令語(yǔ)料進(jìn)行一級(jí)訓(xùn)練，獲取基于操作指令語(yǔ)料的中間向量模型；

建立所述中間向量模型與所述訓(xùn)練集的映射關(guān)系；

根據(jù)所述映射關(guān)系，對(duì)與所述訓(xùn)練集對(duì)應(yīng)的中間向量模型進(jìn)行二級(jí)訓(xùn)練，獲取基于操作指令意圖的預(yù)測(cè)模型。

2.如權(quán)利要求1所述的基于語(yǔ)義識(shí)別的訓(xùn)練方法，其特征在于，對(duì)預(yù)設(shè)的操作指令語(yǔ)料進(jìn)行預(yù)處理，獲取基于第一操作指令文本的訓(xùn)練集，包括：

對(duì)所述操作指令語(yǔ)料進(jìn)行格式化處理以及語(yǔ)義聯(lián)想擴(kuò)展；

對(duì)經(jīng)過(guò)格式化處理以及擴(kuò)展的操作指令語(yǔ)料重采樣，獲取數(shù)量平衡、多種類型的操作指令語(yǔ)料樣本；

根據(jù)操作指令意圖對(duì)所述操作指令語(yǔ)料樣本進(jìn)行分類標(biāo)識(shí)，獲取基于所述第一操作指令文本的訓(xùn)練集。

3.如權(quán)利要求1所述的基于語(yǔ)義識(shí)別的訓(xùn)練方法，其特征在于，對(duì)經(jīng)過(guò)預(yù)處理的操作指令語(yǔ)料進(jìn)行一級(jí)訓(xùn)練，獲取基于操作指令語(yǔ)料的中間向量模型，包括：

采用第一訓(xùn)練模型將所述操作指令語(yǔ)料訓(xùn)練成字向量；

采用第二訓(xùn)練模型對(duì)所述字向量進(jìn)行公開(kāi)語(yǔ)料訓(xùn)練，獲取字向量模型。

4.如權(quán)利要求1所述的基于語(yǔ)義識(shí)別的訓(xùn)練方法，其特征在于，建立所述中間向量模型與所述訓(xùn)練集的映射關(guān)系，包括：

根據(jù)所述中間向量模型，獲取所述訓(xùn)練集的所述第一操作指令文本中每個(gè)字對(duì)應(yīng)的字向量；

將與每個(gè)字相關(guān)聯(lián)的字向量組成矩陣，獲取與每個(gè)字對(duì)應(yīng)的句向量。

5.如權(quán)利要求1所述的基于語(yǔ)義識(shí)別的訓(xùn)練方法，其特征在于，在根據(jù)所述映射關(guān)系，對(duì)與所述訓(xùn)練集對(duì)應(yīng)的中間向量模型進(jìn)行二級(jí)訓(xùn)練，獲取基于操作指令意圖的預(yù)測(cè)模型之前，包括：

按預(yù)設(shè)比例抽取每一類的操作指令語(yǔ)料，作為操作指令樣本；

通過(guò)神經(jīng)網(wǎng)絡(luò)分類模型對(duì)所述操作指令樣本進(jìn)行訓(xùn)練以及對(duì)所述神經(jīng)網(wǎng)絡(luò)分類模型進(jìn)行參數(shù)調(diào)整，獲取神經(jīng)網(wǎng)絡(luò)訓(xùn)練模型。

6.如權(quán)利要求1-5任一項(xiàng)所述的基于語(yǔ)義識(shí)別的訓(xùn)練方法，其特征在于，所述訓(xùn)練方法還包括：

接收經(jīng)過(guò)語(yǔ)音識(shí)別生成的操作指令信息；

對(duì)所述操作指令信息進(jìn)行格式化處理，獲取與所述操作指令信息對(duì)應(yīng)的第二操作指令文本；

根據(jù)所述中間向量模型與所述訓(xùn)練集的映射關(guān)系，生成與所述第二操作指令文本中的字對(duì)應(yīng)的字向量和句向量；

通過(guò)所述預(yù)測(cè)模型對(duì)所述字向量和句向量進(jìn)行預(yù)測(cè)，獲取預(yù)測(cè)分?jǐn)?shù)；

根據(jù)所述預(yù)測(cè)分?jǐn)?shù)確定所述操作指令的意圖。

7.一種基于語(yǔ)義識(shí)別的訓(xùn)練裝置，其特征在于，包括：

處理單元，用于對(duì)預(yù)設(shè)的操作指令語(yǔ)料進(jìn)行預(yù)處理，獲取基于第一操作指令文本的訓(xùn)練集；

訓(xùn)練單元，用于對(duì)經(jīng)過(guò)預(yù)處理的操作指令語(yǔ)料進(jìn)行一級(jí)訓(xùn)練，獲取基于操作指令語(yǔ)料的中間向量模型；

建立映射單元，用于建立所述中間向量模型與所述訓(xùn)練集的映射關(guān)系；

建立模型單元，用于根據(jù)所述映射關(guān)系，對(duì)與所述訓(xùn)練集對(duì)應(yīng)的中間向量模型進(jìn)行二級(jí)訓(xùn)練，獲取基于操作指令意圖的預(yù)測(cè)模型。

8.如權(quán)利要求7所述的基于語(yǔ)義識(shí)別的訓(xùn)練裝置，其特征在于，所述處理單元包括：

第一處理模塊，用于對(duì)所述操作指令語(yǔ)料進(jìn)行格式化處理以及語(yǔ)義聯(lián)想擴(kuò)展；

第二處理模塊，用于對(duì)經(jīng)過(guò)格式化處理以及擴(kuò)展的操作指令語(yǔ)料重采樣，獲取數(shù)量平衡、多種類型的操作指令語(yǔ)料樣本；

第三處理模塊，用于根據(jù)操作指令意圖對(duì)所述操作指令語(yǔ)料樣本進(jìn)行分類標(biāo)識(shí)，獲取基于所述第一操作指令文本的訓(xùn)練集。

9.如權(quán)利要求7所述的基于語(yǔ)義識(shí)別的訓(xùn)練裝置，其特征在于，所述訓(xùn)練單元包括：

第一訓(xùn)練模塊，用于采用第一訓(xùn)練模型將所述操作指令語(yǔ)料訓(xùn)練成字向量；

第二訓(xùn)練模塊，用于采用第二訓(xùn)練模型對(duì)所述字向量進(jìn)行公開(kāi)語(yǔ)料訓(xùn)練，獲取字向量模型。