[發明專利]基于橫向聯邦學習的建立用戶行為周期模型的方法及系統

在審

• 申請號: 202010824167.5
• 申請日: 2020-08-17
• 公開（公告）號: CN111898769A
• 公開（公告）日: 2020-11-06
• 發明（設計）人: 狄瀟然
• 申請（專利權）人: 中國銀行股份有限公司
• 主分類號: G06N20/20
• 分類號: G06N20/20;G06N3/04;G06N3/08
• 代理公司: 北京三友知識產權代理有限公司 11127
• 代理人: 谷敬麗;薛平

本發明提出了一種基于橫向聯邦學習的建立用戶行為周期模型的方法及系統，該方法包括：采集用戶歷史行為數據，對用戶歷史行為數據進行預處理；將預處理后的數據按照用戶ID進行劃分，構建為時間序列數據；對時間序列數據進行向量化處理；根據用戶特征向量進行橫向聯邦學習，由每個參與方分別在本地利用長短期記憶人工神經網絡對本地模型進行訓練，將訓練后的模型參數上傳至模型聚合服務器；將模型參數進行更新聚合處理，得到聚合模型參數；檢測聚合模型是否收斂，若未收斂，將聚合模型參數返回參與方繼續迭代訓練，直到檢測到的聚合模型處于收斂狀態；根據收斂狀態下聚合模型的聚合模型參數，建立用戶行為周期預測模型，并下傳至參與方。

技術領域

本發明涉及數據處理技術領域，尤指一種基于橫向聯邦學習的建立用戶行為周期模型的方法及系統。

背景技術

隨著計算機技術的發展，越來越多的技術應用在金融領域，傳統金融業正在逐步向金融科技(Finteh)轉變，由于金融行業的安全性、實時性要求，對于技術提出了更高的要求。

在當前的信息時代，用戶在移動端進行金融領域相關操作時會產生多種行為，某些行為具有一定的周期性，挖掘用戶的行為規律并加以應用，可以極大提高用戶的移動端體驗。在現有技術中，由于用戶數據的隱私等問題，對于行為數據通常只能進行簡單的統計計算，并以此作為用戶行為是否具有周期性的判斷基礎。

隨著人工智能領域的發展，將機器學習運用在用戶行為周期挖掘是目前的一個探索方向。但是，機器學習需要大量的數據作為學習基礎，每家商業銀行移動端行為數據是有限的，僅依靠自身數據，很難訓練得到優質的機器模型。若將其他商業銀行移動端行為數據聯合起來進行訓練，則會泄露各個移動端用戶數據的隱私。

因此，如何以一種安全可靠的方式實現各個移動端行為數據聯合，得到優質的用戶行為周期模型，是一個亟待解決的問題。

發明內容

為解決現有技術存在的問題，本發明提出了一種基于橫向聯邦學習的建立用戶行為周期模型的方法及系統，可以在保證用戶數據的隱私的前提下共享數據，打破“數據孤島”的困境，讓不同商業銀行(參與方)之間的用戶行為數據在安全的前提下共享，實現聯合建模；克服商業銀行內部訓練模型的樣本數據存在極度不均衡的現象，通過橫向聯邦學習技術提供適用于各商業銀行移動端之間進行行為周期挖掘聯合建模的方案，在保證各方用戶行為數據隱私的情況下實現聯合建模，豐富樣本數據(尤其是反例樣本數據)，提高模型預測的準確性。

在本發明實施例的第一方面，提出了一種基于橫向聯邦學習的建立用戶行為周期模型的方法，該方法包括：

采集用戶歷史行為數據，對所述用戶歷史行為數據進行預處理；

將預處理后的數據按照用戶ID進行劃分，將同一用戶ID對應的數據構建為時間序列數據；

對所述時間序列數據進行向量化處理，得到用戶特征向量；

根據所述用戶特征向量進行橫向聯邦學習，由每個參與方分別在本地利用長短期記憶人工神經網絡對本地模型進行訓練，將訓練后的本地模型的模型參數上傳至模型聚合服務器；

由模型聚合服務器將模型參數進行更新聚合處理，得到聚合模型參數并建立聚合模型；

檢測所述聚合模型是否收斂，若未收斂，將聚合模型參數返回參與方繼續迭代訓練，直到檢測到的所述聚合模型處于收斂狀態；

根據收斂狀態下聚合模型的聚合模型參數，建立用戶行為周期預測模型，并下傳至所述參與方。

在本發明實施例的第二方面，提出了一種基于橫向聯邦學習的建立用戶行為周期模型的系統，該系統包括：

數據處理模塊，用于采集用戶歷史行為數據，對所述用戶歷史行為數據進行預處理；