[發明專利]一種模型訓練的方法及裝置

在審

• 申請號: 202110690782.6
• 申請日: 2021-06-22
• 公開（公告）號: CN113344201A
• 公開（公告）日: 2021-09-03
• 發明（設計）人: 馮家琪;肖垚;黃培浩;周翔;陳勝
• 申請（專利權）人: 北京三快在線科技有限公司
• 主分類號: G06N3/08
• 分類號: G06N3/08;G06N3/04;G06F16/953;G06F16/9538
• 代理公司: 北京曼威知識產權代理有限公司 11709
• 代理人: 方志煒

1.一種模型訓練的方法，其特征在于，包括：

獲取訓練樣本，所述訓練樣本中包含搜索語句，所述搜索語句對應的搜索結果、所述搜索語句對應的第一標注信息以及所述搜索結果對應的第二標注信息，所述第一標注信息用于表示與所述搜索語句相關的業務，所述第二標注信息用于表示用戶針對所述搜索結果的實際操作結果；

將所述搜索結果以及所述搜索語句輸入到待訓練的業務模型中，得到所述搜索結果在各業務下的排序評分，以及所述搜索語句與各業務之間的匹配度；

針對每個業務，根據所述搜索語句與該業務之間匹配度，補償所述搜索結果在該業務下的排序評分，得到所述搜索結果在該業務下的補償后排序評分；

根據所述搜索結果在各業務下的補償后排序評分、所述搜索語句與各業務之間的匹配度、所述第一標注信息以及所述第二標注信息，訓練所述業務模型。

2.如權利要求1所述的方法，其特征在于，所述業務模型中包含排序模型以及業務匹配模型；

將所述搜索結果以及所述搜索語句輸入到待訓練的業務模型中，得到所述搜索結果在各業務下的排序評分，以及所述搜索語句與各業務之間的匹配度，具體包括：

將所述搜索結果輸入到所述排序模型中，得到所述搜索結果在各業務下的排序評分，以及將所述搜索語句輸入到所述業務匹配模型中，得到所述搜索語句與各業務之間的匹配度。

3.如權利要求2所述的方法，其特征在于，所述排序模型中包含特征提取層以及各業務對應的業務層；

將所述搜索結果輸入到所述排序模型中，得到所述搜索結果在各業務下的排序評分，具體包括：

將所述搜索結果輸入到所述特征提取層中，得到所述搜索結果對應的特征向量；

針對每個業務，將所述特征向量輸入到該業務對應的業務層中，得到所述搜索結果在該業務下的排序評分。

4.如權利要求3所述的方法，其特征在于，所述特征提取層中包含基礎特征提取層以及業務特征提取層；

將所述搜索結果輸入到特征提取層中，得到所述搜索結果對應的特征向量，具體包括：

將所述搜索結果輸入到所述基礎特征提取層中，得到基礎特征向量；

將所述基礎特征向量輸入到所述業務特征提取層中，得到所述搜索結果在各業務下的特征向量；

將所述特征向量輸入到該業務對應的業務層中，得到所述搜索結果在該業務下的排序評分，具體包括：

將所述搜索結果在該業務下的特征向量輸入到該業務對應的業務層中，得到所述搜索結果在該業務下的排序評分。

5.如權利要求4所述的方法，其特征在于，將所述基礎特征向量輸入到所述業務特征提取層中，得到所述搜索結果在各業務下的特征向量，具體包括：

將所述基礎特征向量輸入到所述業務特征提取層中，確定所述基礎特征向量在各業務下的注意力權重；

針對每個業務，根據所述基礎特征向量以及所述基礎特征向量在該業務下的注意力權重，確定所述搜索結果在該業務下的特征向量。

6.如權利要求5所述的方法，其特征在于，將所述基礎特征向量輸入到所述業務特征提取層中，確定所述基礎特征向量在各業務下的注意力權重，具體包括：

將所述基礎特征向量輸入到所述業務特征提取層中，對所述基礎特征向量進行向量拆分，得到所述基礎特征向量對應的各子向量，以及確定所述基礎特征向量對應的各子向量在各業務下的注意力權重；

針對每個業務，根據所述基礎特征向量以及所述基礎特征向量在該業務下的注意力權重，確定所述搜索結果在該業務下的特征向量，具體包括：

針對每個業務，根據所述基礎特征向量對應的各子向量，以及所述基礎特征向量對應的各子向量在該業務下的注意力權重，確定所述搜索結果在該業務下的特征向量。