[發明專利]音樂神經網絡模型預訓練方法及電子設備和存儲介質

有效

• 申請號: 202110698944.0
• 申請日: 2021-06-23
• 公開（公告）號: CN113408702B
• 公開（公告）日: 2022-12-27
• 發明（設計）人: 李宇峰
• 申請（專利權）人: 騰訊音樂娛樂科技（深圳）有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08
• 代理公司: 深圳市深佳知識產權代理事務所(普通合伙) 44285
• 代理人: 張金香

本申請公開了一種音樂神經網絡模型預訓練方法、電子設備和存儲介質，該方法包括：對原始音頻特征向量中的待掩碼特征子向量進行掩碼處理得到掩碼特征子向量，并將原始音頻特征向量中的待掩碼特征子向量替換為掩碼特征子向量；將掩碼特征向量輸入待訓練神經網絡中預測預測音頻特征子向量；對待掩碼特征子向量中的原始音頻特征進行離散化處理得到離散化待掩碼特征子向量，并將離散化待掩碼特征子向量作為正樣本與多個負樣本進行拼接得到拼接音頻特征向量；基于預測音頻特征子向量和拼接音頻特征向量構建損失函數，調整待訓練神經網絡中的參數直至損失函數收斂，得到預訓練完成的音樂神經網絡模型，提高了下游任務中神經網絡模型的訓練速度和性能。

技術領域

本申請涉及音樂技術領域，更具體地說，涉及音樂神經網絡模型預訓練方法及電子設備和計算機可讀存儲介質。

背景技術

對于音樂領域的神經網絡模型，在相關技術中，基于原始音頻進行預訓練，即將原始音頻轉化為頻譜，對部分頻譜進行掩碼，然后通過編碼器-解碼器的方法對被掩碼音頻進行預測，進而進行神經網絡模型的預訓練。編碼器-解碼器的目的在于重建被掩碼掉的音頻，但是在下游任務中，如分類任務中，模型通常不需要音頻的全部信息來進行預測，基于上述方式預訓練完成的神經網絡模型進行訓練，影響訓練速度和訓練完成的神經網絡模型的性能較差。

因此，如何提高下游任務中神經網絡模型訓練的速度和訓練完成的神經網絡模型的性能是本領域技術人員需要解決的技術問題。

發明內容

本申請的目的在于提供一種音樂神經網絡模型預訓練方法及一種電子設備和一種計算機可讀存儲介質，提高了下游任務中神經網絡模型訓練的速度和訓練完成的神經網絡模型的性能。

為實現上述目的，本申請第一方面提供了一種音樂神經網絡模型預訓練方法，包括：

獲取原始音頻特征向量，對所述原始音頻特征向量中的待掩碼特征子向量進行掩碼處理得到掩碼特征子向量，并將所述原始音頻特征向量中的待掩碼特征子向量替換為所述掩碼特征子向量；

將所述掩碼特征向量輸入待訓練神經網絡中，以預測所述掩碼特征子向量對應的預測音頻特征子向量；

對所述待掩碼特征子向量中的原始音頻特征進行離散化處理得到離散化待掩碼特征子向量，并將所述離散化待掩碼特征子向量作為正樣本與多個負樣本進行拼接得到拼接音頻特征向量；

基于所述預測音頻特征子向量和所述拼接音頻特征向量構建損失函數，并基于所述損失函數的當前值調整所述待訓練神經網絡中的參數，直至所述損失函數收斂，得到預訓練完成的音樂神經網絡模型。

為實現上述目的，本申請第二方面提供了一種電子設備，包括：

存儲器，用于存儲計算機程序；

處理器，用于執行所述計算機程序時實現如上述音樂神經網絡模型預訓練方法的步驟。

為實現上述目的，本申請第三方面提供了一種計算機可讀存儲介質，所述計算機可讀存儲介質上存儲有計算機程序，所述計算機程序被處理器執行時實現如上述音樂神經網絡模型預訓練方法的步驟。

通過以上方案可知，本申請提供的一種音樂神經網絡模型預訓練方法，包括：獲取原始音頻特征向量，對所述原始音頻特征向量中的待掩碼特征子向量進行掩碼處理得到掩碼特征子向量，并將所述原始音頻特征向量中的待掩碼特征子向量替換為所述掩碼特征子向量；將所述掩碼特征向量輸入待訓練神經網絡中，以預測所述掩碼特征子向量對應的預測音頻特征子向量；對所述待掩碼特征子向量中的原始音頻特征進行離散化處理得到離散化待掩碼特征子向量，并將所述離散化待掩碼特征子向量作為正樣本與多個負樣本進行拼接得到拼接音頻特征向量；基于所述預測音頻特征子向量和所述拼接音頻特征向量構建損失函數，并基于所述損失函數的當前值調整所述待訓練神經網絡中的參數，直至所述損失函數收斂，得到預訓練完成的音樂神經網絡模型。