[發明專利]孿生網絡模型訓練、度量方法、裝置、介質和設備

有效

• 申請號: 202110113716.2
• 申請日: 2021-01-27
• 公開（公告）號: CN112784130B
• 公開（公告）日: 2022-05-27
• 發明（設計）人: 李鵬;曹偲;潘頌聲;劉華平;趙翔宇;熊貝爾;陳夢;金強;蔡苗苗;白楊
• 申請（專利權）人: 杭州網易云音樂科技有限公司
• 主分類號: G06F16/906
• 分類號: G06F16/906;G06F16/65;G06F16/9535;G06K9/62;G06N3/04;G06N3/08
• 代理公司: 北京同達信恒知識產權代理有限公司 11291
• 代理人: 萬曉君

1.一種用于推薦系統中的數據相似度度量的孿生網絡模型訓練方法，其特征在于，若所述推薦系統為音樂推薦系統，則所述孿生網絡模型用于對所述音樂推薦系統中的歌曲相似度進行度量，所述方法包括：

將第一樣本數據作為待訓練標簽分類模型的輸入，根據所述第一樣本數據的至少一個分類標簽信息，訓練得到已訓練的標簽分類模型，所述標簽分類模型包括基礎神經網絡和分類神經網絡，所述基礎神經網絡用于將輸入的樣本數據轉換為設定維度的第一向量，所述分類神經網絡用于根據所述基礎神經網絡傳入的所述第一向量輸出所述至少一個分類標簽類別下對應的分類信息；所述第一樣本數據為所述音樂推薦系統歌曲庫中保存的具有分類標簽信息的待推薦歌曲；所述分類標簽包括以下至少一種標簽：歌曲流派、歌曲語種和歌手類別；

基于所述已訓練的標簽分類模型構造孿生網絡模型，包括：在所述標簽分類模型的基礎神經網絡上，增加一個編碼神經網絡分支，所述編碼神經網絡用于根據所述基礎神經網絡傳入的所述第一向量輸出指定維度的第二向量；

將第二樣本數據中的一對樣本數據作為待訓練孿生網絡模型的輸入，所述一對樣本數據包括正樣本對或者負樣本對，所述正樣本對包括一個樣本數據以及一個與該樣本數據相似的正樣本數據，所述負樣本對包括一個樣本數據以及一個與該樣本數據不相似的負樣本數據；所述第二樣本數據包括多個歌曲對，所述一對樣本數據為一個歌曲對，所述一個歌曲對包括兩首歌曲；

基于所述分類神經網絡獲得所述一對樣本數據的標簽分類預測值，根據所述標簽分類預測值與真實標簽分類值計算標簽分類損失函數值；基于所述編碼神經網絡獲得所述一對樣本數據中的兩首歌曲各自對應的第二向量，并計算兩個所述第二向量之間的度量學習損失函數值，基于所述標簽分類損失函數值和所述度量學習損失函數值，采用多任務學習的方式訓練得到已訓練的孿生網絡模型。

2.如權利要求1所述的方法，其特征在于，待訓練標簽分類模型輸出至少兩個分類標簽類別下的分類信息，將第一樣本數據作為待訓練標簽分類模型的輸入，根據所述第一樣本數據的至少一個分類標簽信息，訓練得到已訓練的標簽分類模型，包括：

將第一樣本數據作為待訓練標簽分類模型的輸入，根據所述第一樣本數據的所述至少兩個分類標簽類別下的分類標簽信息，訓練得到已訓練的標簽分類模型。

3.如權利要求1所述的方法，其特征在于，所述推薦系統包含具有分類標簽信息的待推薦數據，所述第一樣本數據為所述推薦系統保存的待推薦數據。

4.如權利要求1所述的方法，其特征在于，所述正樣本對中的樣本數據為所述推薦系統保存的具有分類標簽信息的待推薦數據，所述正樣本對中的正樣本數據為所述推薦系統推薦的該樣本數據的關聯待推薦數據中的一個；

所述負樣本對中的樣本數據為所述推薦系統保存的具有分類標簽信息的待推薦數據，所述負樣本對中的負樣本數據為所述推薦系統保存的至少一個分類標簽信息與該樣本數據不同的待推薦數據。

5.如權利要求1～4任一所述的方法，其特征在于，所述方法還包括：

利用人工標注獲得的正樣本對或者負樣本對，按照不大于設定值的學習率參數，對訓練出的所述孿生網絡模型的至少一個模型參數進行更新。

6.如權利要求5所述的方法，其特征在于，利用人工標注獲得的正樣本數據構成的正樣本對或者負樣本對，按照不大于設定值的學習率參數，對訓練出的所述孿生網絡模型的至少一個模型參數進行更新，包括：

從訓練出的所述孿生網絡模型中，移除所述標簽分類模型中的分類神經網絡，得到調整后的孿生網絡模型；

利用人工標注獲得的正樣本對或者負樣本對，按照不大于設定值的學習率參數，對調整后的孿生網絡模型的至少一個模型參數進行更新。