[發明專利]聯邦學習系統及實現多方聯合處理任務的方法與設備

有效

• 申請號: 202211068859.7
• 申請日: 2022-09-02
• 公開（公告）號: CN115169587B
• 公開（公告）日: 2022-12-20
• 發明（設計）人: 張冠一;王哲
• 申請（專利權）人: 第四范式（北京）技術有限公司
• 主分類號: G06N20/00
• 分類號: G06N20/00;G06F9/50;H04L69/08;H04L41/16
• 代理公司: 北京展翼知識產權代理事務所(特殊普通合伙) 11452
• 代理人: 王明遠

本公開涉及一種聯邦學習系統及實現多方聯合處理任務的方法與設備。聯邦學習系統包括至少兩個參與方，任意一個參與方包括至少一個第一節點以及至少一個第二節點。第一節點上部署至少一個聯邦學習框架。第二節點上部署至少一個聯邦學習算子，聯邦學習算子為對至少部分聯邦學習算法進行去差異化處理得到的。響應于調用聯邦學習算子的任務請求，第二節點將任務請求中的輸入參數轉換為聯邦學習算子所對應的聯邦學習算法所需要的格式，并將轉換后的輸入參數轉發至支持聯邦學習算法的聯邦學習框架所在的第一節點，由第一節點基于轉換后的輸入參數執行聯邦學習算法。由此，為方便用戶使用異構聯邦學習框架提供支持。

技術領域

本公開涉及聯邦學習技術，特別是涉及一種聯邦學習系統及實現多方聯合處理任務的方法與設備。

背景技術

使用聯邦學習是近年來用于打破數據孤島，實現數據的安全隱私的共享，提高機器學習建模的模型質量的新技術。聯邦學習技術可以將其他參與方（如企業）的數據在保護隱私的前提下使用起來，共同用于建模。具體地，聯邦學習技術可以在保護合作者（如企業）的數據隱私的前提條件下，聯合多個合作者的不同數據、特征等，一同構建出預測質量更高的機器學習模型。

聯邦學習的計算框架有很多種，例如TensorFlow Federated、Fate、Paddle FL等。每一種計算框架都有適合的場景以及對應的優劣勢，只使用某一種框架并不一定可以滿足客戶所有的需求，例如TensorFlow Federated框架可以支持移動設備端的部署和運行、Fate適合有中心的部署模式等等。

目前的聯邦學習平臺都是基于某一種計算框架構建，能力比較局限，無法適應各類應用場景。因此，需要一種能夠支持多種異構聯邦計算框架的方案。

發明內容

本公開要解決的一個技術問題是提供一種能夠支持多種異構聯邦計算框架的方案。

根據本公開的第一個方面，提供了一種聯邦學習系統，其中，所述系統包括至少兩個參與方，任意一個參與方包括：至少一個第一節點，所述第一節點上部署至少一個聯邦學習框架，所述聯邦學習框架支持至少一種聯邦學習算法；以及至少一個第二節點，所述第二節點上部署至少一個聯邦學習算子，所述聯邦學習算子為對至少部分聯邦學習算法進行去差異化處理得到的，其中，響應于調用所述聯邦學習算子的任務請求，所述第二節點將所述任務請求中的輸入參數轉換為所述聯邦學習算子所對應的聯邦學習算法所需要的格式，并將轉換后的輸入參數轉發至支持所述聯邦學習算法的聯邦學習框架所在的第一節點，由所述第一節點基于轉換后的輸入參數執行所述聯邦學習算法。

可選地，所述第二節點還將所述第一節點執行所述聯邦學習算法后的輸出結果轉換為符合所述聯邦學習算子的格式要求的輸出參數。

可選地，任意一個所述聯邦學習算子對應機器學習建模流程中的一個建模步驟，所述聯邦學習算子是對所述聯邦學習框架中與所述建模步驟對應的聯邦學習算法部分進行封裝得到的，所述機器學習建模流程包括以下建模步驟中的任意一個或多個：數據預處理；樣本對齊；特征工程；模型訓練與評估。

可選地，所述聯邦學習算子為基于統一封裝規范對至少部分所述聯邦學習算法進行封裝得到的，不同聯邦學習算子具有格式統一的輸入參數和輸出參數。

可選地，所述輸入參數包括輸入數據集和訓練參數，并且/或者所述輸出參數包括輸出模型和輸出數據集。

可選地，所述輸入參數還包括合作方信息、協作協議信息、版本信息中的任意一項或多項，所述合作方信息用于表征其他參與方中支持所述聯邦學習算子所對應的聯邦學習算法的聯邦學習框架和/或所述聯邦學習框架所在的第一節點，所述協作協議信息用于約定參與方中支持所述聯邦學習算子所對應的聯邦學習算法的聯邦學習框架參與聯邦學習建模任務時使用的協議，所述版本信息用于表征所述聯邦學習算子所對應的聯邦學習算法和/或聯邦學習框架的版本。

可選地，不同的聯邦學習框架部署在不同的第一節點上。