[發明專利]一種基于深度學習模型的推理方法、系統和裝置

在審

• 申請號: 202011162465.9
• 申請日: 2020-10-27
• 公開（公告）號: CN112257867A
• 公開（公告）日: 2021-01-22
• 發明（設計）人: 趙加成;張曉明;林小波
• 申請（專利權）人: 支付寶（杭州）信息技術有限公司
• 主分類號: G06N5/04
• 分類號: G06N5/04;G06N3/04;G06N3/08;G06N20/00
• 代理公司: 成都七星天知識產權代理有限公司 51253
• 代理人: 袁春曉

1.一種基于深度學習模型的推理方法，其中，所述方法包括：

獲取第一輸入數據以及第二輸入數據，所述第一輸入數據與實體對象相關，所述第二輸入數據與目標用戶的屬性信息和/或歷史行為相關；

利用深度學習模型對所述第一輸入數據與第二輸入數據進行處理，確定反應所述實體對象與所述目標用戶的關聯關系的推理結果；其中，所述處理至少包括矩陣運算和/或指數運算，所述深度學習模型包括至少一個基于運算優化庫實現的網絡層，以實現所述矩陣運算和/或指數運算。

2.根據權利要求1所述的方法，其中，所述利用深度學習模型對所述第一輸入數據與第二輸入數據進行處理，確定反應所述待推薦對象與所述目標用戶匹配度的推理結果，包括：

確定所述第一輸入數據對應的第一嵌入向量，以及所述第二輸入數據對應的第二嵌入向量；

針對所述第一嵌入向量，利用第一網絡層組處理所述第一嵌入向量，獲得第四嵌入向量；

針對所述第二嵌入向量，利用第二網絡層組處理所述第二嵌入向量，獲得第五嵌入向量；

基于所述第四嵌入向量以及所述第五嵌入向量，獲取第六嵌入向量；

利用第三網絡層組處理所述第六嵌入向量，獲得所述推理結果；

所述第一網絡層組、第二網絡層組以及第三網絡層組對相應嵌入向量的處理分別包括矩陣運算和/或指數運算。

3.根據權利要求2所述的方法，其中，確定所述第一嵌入向量，以及所述第二嵌入向量，包括：

利用輸入處理層處理所述第一輸入數據以及第二輸入數據，確定所述第一嵌入向量以及所述第二嵌入向量；所述輸入處理層包括嵌入層，所述第一嵌入向量以及所述第二嵌入向量以矩陣形式表示。

4.根據權利要求2所述的方法，其中，確定第六嵌入向量，包括：

利用拼接網絡層處理所述第四嵌入向量以及所述第五嵌入向量，確定第六嵌入向量，所述第六嵌入向量以矩陣形式表示。

5.根據權利要求2所述的方法，所述利用第三網絡層組處理所述第六嵌入向量，獲得所述推理結果，包括：

基于所述第六嵌入向量，確定第七嵌入向量；

利用softmax網絡層處理所述第七嵌入向量，確定所述推理結果。

6.根據權利要求5所述的方法，其中，所述softmax網絡層中的指數運算基于AVX512指令集的Intrinsic Exp算子函數實現。

7.根據權利要求1或2所述的方法，其中，所述運算優化庫包括以下庫中的一種或多種的組合：OneDNN優化庫、AVX512指令集以及Libxsmm優化庫。

8.根據權利要求7所述的方法，其中，所述第一網絡層組中的矩陣運算基于OneDNN優化庫實現，指數運算基于AVX512指令集的Intrinsic Exp算子函數實現。

9.根據權利要求7所述的方法，其中，所述第二網絡層組中的矩陣運算基于Libxsmm優化庫實現，指數運算基于AVX512指令集的Intrinsic Exp算子函數實現。

10.根據權利要求7所述的方法，其中，所述第三網絡層組中的矩陣運算基于OneDNN優化庫實現，指數運算基于AVX512指令集的Intrinsic Exp算子函數實現。

11.一種基于深度學習模型的推理系統，其中，所述系統包括：

獲取模塊，用于獲取第一輸入數據以及第二輸入數據，所述第一輸入數據與實體對象相關，所述第二輸入數據與目標用戶的屬性信息和/或歷史行為相關；

處理模塊，用于利用深度學習模型對所述第一輸入數據與第二輸入數據進行處理，確定反應所述待推薦對象與所述目標用戶的關聯關系的推理結果；其中，所述處理至少包括矩陣運算和/或指數運算，所述深度學習模型包括至少一個基于運算優化庫實現的網絡層，以實現所述矩陣運算和/或指數運算。