[發明專利]一種模型訓練方法、裝置、設備及存儲介質

在審

• 申請號: 202010141137.4
• 申請日: 2020-03-03
• 公開（公告）號: CN111507471A
• 公開（公告）日: 2020-08-07
• 發明（設計）人: 成梭宇
• 申請（專利權）人: 上海喜馬拉雅科技有限公司
• 主分類號: G06N3/08
• 分類號: G06N3/08;G06Q10/04;G06F16/9035;G06F17/18
• 代理公司: 北京品源專利代理有限公司 11332
• 代理人: 胡彬

1.一種模型訓練方法，其特征在于，包括：

按照用戶行為順序從數據庫獲取M條樣本數據，所述樣本數據包括用戶標識、信息標識、至少兩個用戶行為的標簽，其中，M為大于等于1的整數；

根據至少兩個用戶行為的標簽確定M條樣本數據的至少兩個行為損失函數其中，k表示第k條樣本數據，1≤k≤M，n表示用戶行為數，n為大于1的整數；

根據M條樣本數據的至少兩個行為損失函數確定損失函數L；

根據所述損失函數L訓練預測模型。

2.根據權利要求1所述的方法，其特征在于，根據至少兩個用戶行為的標簽確定M條樣本數據的至少兩個行為損失函數包括：

根據至少兩個用戶行為的標簽，通過第一公式確定M條樣本數據的至少兩個行為損失函數所述第一公式為：

其中，表示第k條樣本數據的第n個用戶行為的標簽，表示第k條樣本數據產生第n個用戶行為的概率。

3.根據權利要求2所述的方法，其特征在于，確定產生第n個用戶行為的概率，包括：

根據產生第n-1個用戶行為的概率和第n個用戶行為的預估條件概率的乘積，得到產生第n個用戶行為的概率；

其中，所述第n個用戶行為的預估條件概率為在第n-1個用戶行為之后，產生第n個用戶行為的概率。

4.根據權利要求3所述的方法，其特征在于，確定產生第1個用戶行為的概率，包括：

根據所述用戶標識從數據庫獲取用戶特征；

將所述信息標識輸入所述預測模型的向量層，生成信息向量；

將所述信息向量與所述用戶特征通過所述預測模型的拼接層進行拼接，生成拼接向量；

根據所述拼接向量，依次通過所述預測模型的全連接層、輸出層，得到產生第1個用戶行為的概率。

5.根據權利要求3所述的方法，其特征在于，獲取第n個用戶行為的預估條件概率，包括：

根據所述用戶標識從數據庫獲取用戶特征；

將所述信息標識輸入所述預測模型的向量層，生成信息向量；

將所述信息向量與所述用戶特征通過所述預測模型的拼接層，生成拼接向量；

根據所述拼接向量，依次通過所述預測模型的全連接層、輸出層，得到產生第n個用戶行為的預估條件概率。

6.根據權利要求1-5任一項所述的方法，其特征在于，根據M條樣本數據的至少兩個行為損失函數確定損失函數L，包括：

根據M條樣本數據的至少兩個行為損失函數確定M條樣本數據的損失函數L^k；

根據所述M條樣本數據的損失函數L^k確定損失函數L。

7.根據權利要求6所述的方法，其特征在于，根據樣本數據的至少兩個行為損失函數確定M條樣本數據的損失函數L^k，包括：

根據M條樣本數據的至少兩個行為損失函數通過第二公式確定M條樣本數據的損失函數L^k，所述第二公式為：

其中，L^k為第k條樣本數據的損失函數，α1+α2+……+αn＝1，α1、α2、……、αn為對應損失函數的權值。

8.根據權利要求6所述的方法，其特征在于，根據所述M條樣本數據的損失函數L^k確定損失函數L，包括：

計算所述M條樣本數據的損失函數L^k的平均值，確定損失函數L。