[發明專利]行為預測系統的更新方法及裝置、存儲介質和計算設備

有效

• 申請號: 202011503790.7
• 申請日: 2020-12-18
• 公開（公告）號: CN112288042B
• 公開（公告）日: 2021-04-02
• 發明（設計）人: 董鑫;高喆;莫林劍;李寧;李海;程磊;何勇;嚴坦
• 申請（專利權）人: 螞蟻智信（杭州）信息技術有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62
• 代理公司: 北京億騰知識產權代理事務所(普通合伙) 11309
• 代理人: 陳婧玥;周良玉

1.一種行為預測系統的更新方法，包括：

獲取訓練樣本對，其中包括對應同一用戶的源域樣本和目標域樣本，各域樣本包括對應域的當前對象，用戶已做出特定行為的M個歷史對象，以及指示該用戶是否對該當前對象做出特定行為的行為標簽；

將所述訓練樣本對輸入所述行為預測系統，該行為預測系統包括基于Transformer機制的源域編碼層和目標域編碼層；

其中，所述源域編碼層包括N個源域編碼子層，第i個源域編碼子層，利用源域查詢變換矩陣對M+1個目標域對象的上一層表征向量進行第一線性變換，得到源域查詢結果矩陣；分別利用源域鍵變換矩陣和源域值變換矩陣對M+1個源域對象的上一層表征向量進行變換，得到對應的源域鍵結果矩陣和源域值結果矩陣；基于所述源域查詢結果矩陣和所述源域鍵結果矩陣的乘積確定源域注意力，基于源域注意力和源域值結果矩陣，得到所述M+1個源域對象的本層表征向量，從而源域編碼層編碼得到源域當前對象向量和M個源域歷史對象向量；

所述目標域編碼層包括N個目標域編碼子層，第i個目標域編碼子層，利用目標域查詢變換矩陣對M+1個源域對象的上一層表征向量進行第二線性變換，得到目標域查詢結果矩陣；分別利用目標域鍵變換矩陣和目標域值變換矩陣對M+1個目標域對象的上一層表征向量進行變換，得到對應的目標域鍵結果矩陣和目標域值結果矩陣；基于目標域查詢結果矩陣和目標域鍵結果矩陣的乘積確定目標域注意力，基于目標域注意力和所述目標域值結果矩陣，得到所述M+1個目標域對象的本層表征向量，從而目標域編碼層編碼得到目標域當前對象向量和M個目標域歷史對象向量；

基于包括所述M個源域歷史對象向量以及M個目標域歷史對象向量的2M個歷史對象向量，分別進行第一融合和第二融合，對應得到源域用戶向量和目標域用戶向量；

基于所述源域用戶向量和所述源域當前對象向量，確定源域行為預測結果；基于所述目標域用戶向量和目標域當前對象向量，確定目標域行為預測結果；

基于所述源域行為預測結果和源域行為標簽，以及所述目標域行為預測結果和目標域行為標簽，更新所述行為預測系統。

2.根據權利要求1所述的方法，其中，所述行為預測系統還包括，源域嵌入層和目標域嵌入層，所述源域嵌入層確定所述M+1個源域對象對應的M+1個源域對象嵌入向量；所述目標域嵌入層確定所述M+1個目標域對象對應的M+1個目標域對象嵌入向量；

所述第i個為第1個；所述M+1個目標域對象的上一層表征向量為所述M+1個目標域對象嵌入向量；所述M+1個源域對象的上一層表征向量為所述M+1個源域對象嵌入向量。

3.根據權利要求1所述的方法，其中，所述第i個不是第1個；

所述M+1個目標域對象的上一層表征向量為，第i-1個目標域編碼層輸出的M+1個目標域對象表征向量；

所述M+1個源域對象的上一層表征向量為，第i-1個源域編碼層輸出的M+1個源域對象表征向量。

4.根據權利要求1所述的方法，其中，

所述第一融合包括：利用第一組合權重，對所述M個源域歷史對象向量的源域平均向量，以及所述M個目標域歷史對象向量的目標域平均向量進行加權求和，得到所述源域用戶向量；

所述第二融合包括：利用第二組合權重，對所述源域平均向量和目標域平均向量進行加權求和，得到所述目標域用戶向量。

5.根據權利要求1所述的方法，其中，

所述第一融合包括：確定所述源域當前對象向量，針對所述2M個歷史對象向量中各個向量分配的第一注意力權重；利用該第一注意力權重，對所述2M個歷史對象向量進行加權求和，得到所述源域用戶向量；

所述第二融合包括：確定所述目標域當前對象向量，針對所述2M個歷史對象向量中各個向量分配的第二注意力權重；利用該第二注意力權重，對所述2M個歷史對象向量進行加權求和，得到所述目標域用戶向量。