[發明專利]音樂神經網絡模型預訓練方法及電子設備和存儲介質

有效

• 申請號: 202110698944.0
• 申請日: 2021-06-23
• 公開（公告）號: CN113408702B
• 公開（公告）日: 2022-12-27
• 發明（設計）人: 李宇峰
• 申請（專利權）人: 騰訊音樂娛樂科技（深圳）有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08
• 代理公司: 深圳市深佳知識產權代理事務所(普通合伙) 44285
• 代理人: 張金香

1.一種音樂神經網絡模型預訓練方法，其特征在于，包括：

獲取原始音頻特征向量，對所述原始音頻特征向量中的待掩碼特征子向量進行掩碼處理得到掩碼特征子向量，并將所述原始音頻特征向量中的待掩碼特征子向量替換為所述掩碼特征子向量；

將所述掩碼特征子向量輸入待訓練神經網絡中，以預測所述掩碼特征子向量對應的預測音頻特征子向量；

對所述待掩碼特征子向量中的原始音頻特征進行離散化處理得到離散化待掩碼特征子向量，并將所述離散化待掩碼特征子向量作為正樣本與多個負樣本進行拼接得到拼接音頻特征向量；

基于所述預測音頻特征子向量和所述拼接音頻特征向量構建損失函數，并基于所述損失函數的當前值調整所述待訓練神經網絡中的參數，直至所述損失函數收斂，得到預訓練完成的音樂神經網絡模型；

其中，對所述待掩碼特征子向量中的原始音頻特征進行離散化處理得到離散化待掩碼特征子向量，包括：

基于預設分類規則生成目標維度的離散化向量表；其中，所述目標維度為所述待掩碼特征子向量中原始音頻特征的維度；

基于所述預設分類規則確定所述待掩碼特征子向量中每個原始音頻特征對應的類別，以生成所述待掩碼特征子向量對應的類別向量；

將所述類別向量與所述離散化向量表的乘積確定為離散化待掩碼特征子向量。

2.根據權利要求1所述音樂神經網絡模型預訓練方法，其特征在于，對所述原始音頻特征向量中的待掩碼特征子向量進行掩碼處理得到掩碼特征子向量，包括：

基于預設概率分布和預設長度確定掩碼特征數量，并在所述原始音頻特征向量中確定待掩碼特征子向量；其中，所述待掩碼特征子向量中包含的原始音頻特征的數量為所述掩碼特征數量；

對所述待掩碼特征子向量進行掩碼處理得到掩碼特征子向量。

3.根據權利要求1所述音樂神經網絡模型預訓練方法，其特征在于，所述基于所述預設分類規則確定所述待掩碼特征子向量中每個原始音頻特征對應的類別，以生成所述待掩碼特征子向量對應的類別向量，包括：

利用全連接層基于預設分類規則確定所述待掩碼特征子向量中每個原始音頻特征對應的類別，以生成所述待掩碼特征子向量對應的one hot向量。

4.根據權利要求3所述音樂神經網絡模型預訓練方法，其特征在于，所述利用全連接層確定所述原始音頻特征的類別之后，還包括：

基于所述全連接層輸出的類別對應的概率計算類別熵；

相應的，所述基于所述損失函數的當前值調整所述待訓練神經網絡中的參數，包括：

基于所述損失函數的當前值和所述類別熵調整所述待訓練神經網絡中的參數。

5.根據權利要求1所述音樂神經網絡模型預訓練方法，其特征在于，將所述離散化待掩碼特征子向量作為正樣本與多個負樣本進行拼接得到拼接音頻特征向量之前，還包括：

在所述原始音頻特征向量中未被掩碼的原始音頻特征中選取負樣本。

6.根據權利要求1所述音樂神經網絡模型預訓練方法，其特征在于，所述基于預設分類規則生成目標維度的離散化向量表，包括：

基于預設分類規則生成多組目標維度的離散化向量表；

相應的，將所述類別向量與所述離散化向量表的乘積確定為離散化待掩碼特征子向量，包括：

在多組目標維度的離散化向量表中確定目標離散化向量表，將所述類別向量與所述目標離散化向量表的乘積確定為離散化待掩碼特征子向量；

相應的，將所述離散化待掩碼特征子向量作為正樣本與多個負樣本進行拼接得到拼接音頻特征向量之前，還包括：

在除所述目標離散化向量表之外的離散化向量表中選取負樣本。

7.根據權利要求1所述音樂神經網絡模型預訓練方法，其特征在于，所述基于所述預測音頻特征和所述拼接音頻特征構建損失函數，包括：

基于所述預測音頻特征與所述拼接音頻特征之間的余弦距離構建損失函數。