[發明專利]一種基于分布式數據的模型訓練方法及系統

有效

• 申請號: 202010586338.5
• 申請日: 2020-06-24
• 公開（公告）號: CN111475853B
• 公開（公告）日: 2020-12-11
• 發明（設計）人: 于亭義;傅欣藝
• 申請（專利權）人: 支付寶（杭州）信息技術有限公司
• 主分類號: G06F21/62
• 分類號: G06F21/62;G06N20/00
• 代理公司: 北京博思佳知識產權代理有限公司 11415
• 代理人: 周嗣勇

本說明書公開了一種基于分布式數據的模型訓練方法及系統。所述方法應用于包括至少3個終端的系統；終端被劃分為至少3個終端集群，針對每個集群，將該集群中任一終端確定為集群中心；所述方法包括，通過以下步驟完成模型訓練的每輪迭代：針對每個集群中心，確定本輪迭代的至少一個目標集群中心；其中，每輪迭代所確定的目標集群中心具有隨機性；每個集群中心獲得本集群當前的綜合模型脫敏特征，并將該綜合模型脫敏特征發送到目標集群中心；每個集群中心根據本集群的綜合模型脫敏特征、以及接收到的其他集群的綜合模型脫敏特征，對本集群中每個終端的模型進行更新。

技術領域

本說明書實施例涉及機器學習領域，尤其涉及一種基于分布式數據的模型訓練方法及系統。

背景技術

在大數據時代，往往需要收集海量的數據進行分析，從而獲取到各種形式的分析結果。在模型訓練的過程中，往往需要大量的數據作為樣本，才能提高模型的訓練效果，使得模型更好地發揮作用。例如，收集大量風控數據以便于更好地訓練風控模型，提高風控模型的風險識別準確率。

但在收集數據的過程中，不可避免地會涉及到用戶隱私的問題。當需要收集的數據涉及用戶隱私時，往往會因為違規問題或用戶未授權等情況，導致無法獲取到涉及用戶隱私的數據，從而難以收集到足夠的數據進行分析。

在這種情況下，模型的訓練效果往往較差，難以達到預期。

發明內容

為了在保護用戶隱私數據的前提下，提高模型的訓練效果，本說明書提供了一種基于分布式數據的模型訓練方法及系統。技術方案如下：

一種基于分布式數據的模型訓練方法，應用于包括至少3個終端的系統，每個終端中存儲有特征相同的數據樣本、以及針對數據樣本構建的模型；系統中的終端被劃分為至少3個終端集群，針對每個集群，將該集群中任一終端確定為集群中心；所述方法包括，通過以下步驟完成模型訓練的每輪迭代：

針對每個集群中心，確定本輪迭代的至少一個目標集群中心；其中，每輪迭代所確定的目標集群中心具有隨機性；

每個集群中心獲得本集群當前的綜合模型脫敏特征，并將該綜合模型脫敏特征發送到目標集群中心；所述綜合模型脫敏特征，是對本集群中每個終端當前的模型進行脫敏處理后獲得的；

每個集群中心根據本集群的綜合模型脫敏特征、以及接收到的其他集群的綜合模型脫敏特征，對本集群中每個終端的模型進行更新。

一種基于分布式數據的模型訓練方法，應用于包括至少3個終端的系統，每個終端中存儲有特征相同的數據樣本、以及針對數據樣本構建的模型；所述方法包括，通過以下步驟完成模型訓練的每輪迭代：

針對每個終端，確定本輪迭代的至少一個目標終端；其中，每輪迭代所確定的目標終端具有隨機性；

每個終端獲得當前的模型脫敏特征，并將該特征發送到目標終端；所述模型脫敏特征，是對終端當前的模型進行脫敏處理后獲得的；

每個終端根據本地的當前模型脫敏特征、以及接收到的其他終端的模型脫敏特征，對本地模型進行更新。

一種基于分布式數據的模型訓練系統，包括至少3個終端，每個終端中存儲有特征相同的數據樣本、以及針對數據樣本構建的模型；系統中的終端被劃分為至少3個終端集群，針對每個集群，將該集群中任一終端確定為集群中心；

被確定為集群中心的每個終端，用于通過以下步驟完成模型訓練的每輪迭代：

獲得本集群當前的綜合模型脫敏特征，并將該綜合模型脫敏特征發送到本輪迭代中所確定的至少一個目標集群中心；所述綜合模型脫敏特征，是對本集群中每個終端當前的模型進行脫敏處理后獲得的；其中，每輪迭代所確定的目標集群中心具有隨機性；

根據本集群的綜合模型脫敏特征、以及接收到的其他集群的綜合模型脫敏特征，對本集群中每個終端的模型進行更新。