[發明專利]一種基于共享數據的模型訓練方法及裝置

有效

• 申請號: 201710650740.3
• 申請日: 2017-08-02
• 公開（公告）號: CN109388661B
• 公開（公告）日: 2020-04-21
• 發明（設計）人: 趙沛霖;李龍飛;周俊;李小龍
• 申請（專利權）人: 創新先進技術有限公司
• 主分類號: G06F16/2458
• 分類號: G06F16/2458;G06F16/23
• 代理公司: 北京博思佳知識產權代理有限公司 11415
• 代理人: 陳蕾

公開了一種基于共享數據的模型訓練方法及裝置。數據挖掘方可以根據多個數據提供方提供的數據進行聯合訓練，并且在模型訓練過程中，具體的參數迭代更新的操作是在數據提供方完成，因此數據提供方并不需要向數據挖掘方提供具體數據、僅需將每次參數更新的結果上傳至數據挖掘方。

技術領域

本說明書實施例涉及數據挖掘技術領域，尤其涉及一種基于共享數據的模型訓練方法及裝置。

背景技術

在大數據時代，通過對海量數據進行挖掘，可以獲得各種形式的有用信息，因此數據的重要性不言而喻。不同的機構都擁有各自的數據，但是任何一家機構的數據挖掘效果，都會受限于其自身擁有的數據數量和種類。針對該問題，一種直接的解決思路是：多家機構相互合作，將數據進行共享，從而實現更好的數據挖掘效果，實現共贏。

然而對于數據擁有方而言，數據本身是一種具有很大價值的資產，而且出于保護隱私、防止泄露等需求，數據擁有方往往并不愿意直接把數據提供出來，這種狀況導致“數據共享”在現實中很難實際運作。因此，如何在充分保證數據安全的前提下實現數據共享，已經成為行業內備受關注的問題。

發明內容

針對上述技術問題，本說明書實施例提供一種基于共享數據的模型訓練方法及裝置，技術方案如下：

根據本說明書實施例的第一方面，提供一種基于共享數據的模型訓練方法，數據挖掘方以及至少1個數據提供方分別維護針對訓練樣本數據特征集的模型參數，其中：

數據挖掘方維護公用參數集W^global；每個數據提供方u分別維護自有參數集W^u；

所述方法包括：利用以下步驟進行迭代訓練，直到滿足模型訓練要求：

數據提供方u從數據挖掘方下載公用參數，利用下載結果替換本地維護的自有參數集W^u；

利用本地數據以及模型參數更新算法，對替換后得到的自有參數集W^u進行更新；

將更新結果上傳至數據挖掘方，使得數據挖掘方利用數據提供方上傳的更新結果更新公用參數集W^global。

根據本說明書實施例的第二方面，提供一種基于共享數據的模型訓練裝置，數據挖掘方以及至少1個數據提供方分別維護針對訓練樣本數據特征集的模型參數，其中：

數據挖掘方維護公用參數集W^global；每個數據提供方u分別維護自有參數集W^u,；

所述裝置包括以下用于實現迭代訓練的模塊：

公用參數下載模塊，用于數據提供方u從數據挖掘方下載公用參數，利用下載結果替換本地維護的自有參數集W^u；

自有參數更新模塊，用于利用本地數據以及模型參數更新算法，對替換后得到的自有參數集W^u進行更新；

更新結果上傳模塊，用于將更新結果上傳至數據挖掘方，使得數據挖掘方利用數據提供方上傳的更新結果更新公用參數集W^global。

根據本說明書實施例的第三方面，提供包括數據挖掘方裝置以及至少1個數據提供方裝置；

數據挖掘方裝置和數據提供方裝置分別維護針對訓練樣本數據特征集的模型參數，其中：

數據挖掘方維護公用參數集W^global；每個數據提供方u分別維護自有參數集W^u；

所述數據提供方裝置包括以下用于實現迭代訓練的模塊：