[發明專利]語義特征提取模型的訓練方法、裝置、設備及存儲介質

在審

• 申請號: 202110393016.3
• 申請日: 2021-04-13
• 公開（公告）號: CN113723105A
• 公開（公告）日: 2021-11-30
• 發明（設計）人: 陳小帥;陳春全;李偉康;孫星海
• 申請（專利權）人: 騰訊科技（北京）有限公司
• 主分類號: G06F40/30
• 分類號: G06F40/30;G06F16/35;G06F40/117;G06F40/169;G06N3/04;G06N3/08
• 代理公司: 北京三高永信知識產權代理有限責任公司 11138
• 代理人: 祝亞男

1.一種語義特征提取模型的訓練方法，其特征在于，所述方法包括：

獲取所述語義特征提取模型的訓練語料，所述訓練語料包括目標語言的字詞文本語料和所述字詞文本語料的發音標注信息；

獲取所述字詞文本語料的字詞表示向量序列，以及所述字詞文本語料的發音標注信息的發音表示向量序列；

通過所述語義特征提取模型，從所述字詞文本語料的字詞表示向量序列和發音表示向量序列中，提取所述字詞文本語料的融合語義特征；

基于所述字詞文本語料的融合語義特征，確定所述語義特征提取模型的預訓練任務所對應的預測結果；

基于所述預訓練任務所對應的預測結果和真實結果確定所述語義特征提取模型的預訓練損失，并根據所述預訓練損失調整所述語義特征提取模型的參數，得到預訓練完成的語義特征提取模型。

2.根據權利要求1所述的方法，其特征在于，所述通過所述語義特征提取模型，從所述字詞文本語料的字詞表示向量序列和發音表示向量序列中，提取所述字詞文本語料的融合語義特征，包括：

對所述字詞文本語料的字詞表示向量序列和發音表示向量序列進行融合處理，得到所述字詞文本語料的融合表示向量序列；

通過所述語義特征提取模型對所述字詞文本語料的融合表示向量序列進行特征提取處理，得到所述字詞文本語料的融合語義特征。

3.根據權利要求2所述的方法，其特征在于，所述對所述字詞文本語料的字詞表示向量序列和發音表示向量序列進行融合處理，得到所述字詞文本語料的融合表示向量序列，包括：

將所述字詞文本語料的字詞表示向量序列和發音表示向量序列中，對應于同一字詞位置處的字詞表示向量和發音表示向量進行求平均處理，得到所述字詞文本語料的融合表示向量序列；

或者，

將所述字詞文本語料的字詞表示向量序列和發音表示向量序列中，對應于同一字詞位置處的字詞表示向量和發音表示向量進行拼接處理，得到所述字詞文本語料的融合表示向量序列；

或者，

將所述字詞文本語料的字詞表示向量序列和發音表示向量序列輸入至字詞發音融合網絡；通過所述字詞發音融合網絡對所述字詞文本語料的字詞表示向量序列和發音表示向量序列中，對應于同一字詞位置處的字詞表示向量和發音表示向量進行加權求和處理，得到所述字詞文本語料的融合表示向量序列。

4.根據權利要求1所述的方法，其特征在于，所述通過所述語義特征提取模型，從所述字詞文本語料的字詞表示向量序列和發音表示向量序列中，提取所述字詞文本語料的融合語義特征，包括：

將所述字詞文本語料的字詞表示向量序列加上第一類型標注向量序列，得到更新后的字詞表示向量序列；

將所述字詞文本語料的發音表示向量序列加上第二類型標注向量序列，得到更新后的發音表示向量序列；其中，所述第一類型標注向量序列和所述第二類型標注向量序列，用于對所述字詞文本語料的字詞表示向量序列和發音表示向量序列進行區分；

將所述更新后的字詞表示向量序列和所述更新后的發音表示向量序列進行拼接，得到拼接向量序列；

通過所述語義特征提取模型對所述拼接向量序列進行特征提取處理，得到所述字詞文本語料的融合語義特征。

5.根據權利要求1所述的方法，其特征在于，所述語義特征提取模型包括第一提取子模型和第二提取子模型；

所述通過所述語義特征提取模型，從所述字詞文本語料的字詞表示向量序列和發音表示向量序列中，提取所述字詞文本語料的融合語義特征，包括：

通過所述第一提取子模型從所述字詞文本語料的字詞表示向量序列中，提取字詞語義特征；

通過所述第二提取子模型從所述字詞文本語料的發音表示向量序列中，提取發音語義特征；

對所述字詞語義特征和所述發音語義特征進行融合處理，得到所述字詞文本語料的融合語義特征。

6.根據權利要求5所述的方法，其特征在于，所述對所述字詞語義特征和所述發音語義特征進行融合處理，得到所述字詞文本語料的融合語義特征，包括：

采用自注意力機制對所述字詞語義特征和所述發音語義特征進行融合處理，得到所述字詞文本語料的融合語義特征。