[發明專利]基于事件序列進行業務預測的方法、神經網絡模型和裝置

有效

• 申請號: 202110584259.5
• 申請日: 2021-05-27
• 公開（公告）號: CN113255908B
• 公開（公告）日: 2023-04-07
• 發明（設計）人: 李輝;傅幸;王維強
• 申請（專利權）人: 支付寶（杭州）信息技術有限公司
• 主分類號: G06N3/044
• 分類號: G06N3/044;G06N3/045;G06N3/048;G06N3/08;G06N3/0442;G06N3/0455
• 代理公司: 北京億騰知識產權代理事務所(普通合伙) 11309
• 代理人: 陳霽;周良玉

1.一種基于事件序列進行業務預測的方法，包括：

獲取目標事件序列，其中包含預定數目τ個互聯網環境中的用戶操作事件；每個事件的屬性字段中包括若干類別型字段，所述若干類別型字段對應于實體集合，其中一個實體表示一個類別型字段的一個備選類別值,所述用戶操作事件為如下事件至少之一：登錄事件，購買事件，支付事件，點擊事件，加購事件，交易事件，社交互動事件；

確定單個用戶操作事件對應的事件嵌入向量；τ個用戶操作事件對應的事件嵌入向量構成嵌入矩陣；

利用預先構建的分配矩陣對所述嵌入矩陣進行線性變換，基于線性變換結果得到實體表征矩陣；其中，所述分配矩陣用于指示所述τ個用戶操作事件中各個事件對于所述實體集合中各個實體的包含關系；

對所述實體表征矩陣中對應于同一字段的矩陣部分進行第一池化操作，基于第一池化操作結果得到所述若干類別型字段對應的若干字段表征向量；基于所述若干字段表征向量，確定該目標事件序列對應的條件嵌入向量；

至少基于所述條件嵌入向量，確定該目標事件序列對應的序列表征向量；

基于所述序列表征向量，進行與用戶操作事件相關的操作風險預測。

2.根據權利要求1所述的方法，其中，確定單個事件對應的事件嵌入向量，包括：

獲取所述單個事件的編碼向量，所述編碼向量通過對所述單個事件的各個屬性字段進行編碼而得到；

對所述編碼向量進行變換處理，得到所述事件嵌入向量。

3.根據權利要求2所述的方法，其中，對所述編碼向量進行變換處理，得到所述事件嵌入向量，包括：

對所述編碼向量進行字段間高階交互處理，得到高階交互向量；

至少基于所述高階交互向量，確定所述事件嵌入向量。

4.根據權利要求3所述的方法，其中，對所述編碼向量進行字段間高階交互處理，包括：

對所述編碼向量進行非線性變換，得到第一特征向量，所述第一特征向量中所有元素均為正數；

針對多種高階特征組合中任意的第一組合，利用與所述第一組合對應的第一組合矩陣處理所述第一特征向量的自然對數，得到中間向量，并基于所述中間向量的自然指數確定所述第一組合對應的特征交互向量；其中，所述多種高階特征組合中每種組合，對應于所述第一特征向量中多個向量元素的相乘組合；

對所述多種高階特征組合各自對應的特征交互向量進行組合，得到所述高階交互向量。

5.根據權利要求4所述的方法，其中，所述編碼向量包括稀疏子向量、稠密子向量和二元編碼向量；

對所述編碼向量進行非線性變換，得到第一特征向量，包括：

利用第一參數子集對所述稀疏子向量進行所述非線性變換，得到第一子向量；

利用第二參數子集對所述稠密子向量進行所述非線性變換，得到第二子向量；

利用第三參數子集對所述二元編碼子向量進行所述非線性變換，得到第三子向量；

基于所述第一子向量、第二子向量和第三子向量的拼接，得到所述第一特征向量。

6.根據權利要求1所述的方法，其中，所述若干類別型字段包括第一字段；對所述實體表征矩陣中對應于同一字段的矩陣部分進行第一池化操作，基于第一池化操作結果得到所述若干類別型字段對應的若干字段表征，包括：

對所述實體表征矩陣中對應于所述第一字段的行向量進行求和池化，得到和向量；

用訓練的第一參數矩陣對所述和向量進行線性變換后，再施加非線性變換，得到所述第一字段對應的字段表征向量。

7.根據權利要求1或6所述的方法，其中，基于所述若干字段表征向量，確定該目標事件序列對應的條件嵌入向量，包括：

對所述若干字段表征向量進行第二池化操作，得到綜合向量；

用訓練的第二參數矩陣對所述綜合向量進行線性變換后，再施加非線性變換，得到所述條件嵌入向量。