[發明專利]面向聯邦機器學習的全流程服務遷移方法與系統

有效

• 申請號: 202110290587.4
• 申請日: 2021-03-18
• 公開（公告）號: CN112884165B
• 公開（公告）日: 2023-07-04
• 發明（設計）人: 邢廷炎;周長兵;楊艷霞
• 申請（專利權）人: 中國地質大學（北京）
• 主分類號: G06N20/00
• 分類號: G06N20/00;G06F18/25;G06N3/098;G06F16/215
• 代理公司: 北京君莫知識產權代理事務所(普通合伙) 11715
• 代理人: 崔云鶴

本發明公開了一種面向聯邦機器學習的全流程服務遷移系統，包括分布在不同地址的多個設備(1)；每個設備(1)包括相應的模型創建模塊(2)、數據清理模塊(3)、數據傳感模塊(6)和數據讀取模塊(11)；所述數據創建模塊(2)和所述數據傳感模塊(6)數據通信連接；所述聯邦機器學習調度模塊(10)從所有設備上的所述單機存儲模塊(7)任意抽取一定數量的數據記錄，用于對所述總的所述數據聯邦模型進行校驗。本發明的面向聯邦機器學習的全流程服務遷移方法與系統，本申請在進行數據記錄訓練前，對數據記錄進行數據清理，以便剔除數據記錄異常的部分，以便保證數據記錄的準確性，從而保證數據模型的準確。

技術領域

本發明涉及在計算機算法技術領域，具體為一種面向聯邦機器學習的全流程服務遷移方法與系統。

背景技術

21世紀是智能化的時代。隨著科學技術的快速發展，人類社會的生產和生活都得到了極大的提高，而依賴于技術的進步，很多原來更多依賴人力的技術開始走向自動化的操作，但是自動化的操作通常需要計算機或者微型計算機去處理眾多的邏輯關系，因此，其需要進行大量的數學計算和邏輯計算，這必然會提高對處理器的邏輯計算能力需求，而大規模集成電路或超大規模集成電路的運算處理能力，也直接影響到了其生產成本。而對有智能化的計算和人工智能的發展，其對處理器的運算處理能力需求進一步加強，因此，為了適應于大規模的計算和運算處理能力，一方面，需要提升處理器的自身處理能力，另外一方面，希望降低對運算能力的需求，即優化人工智能的運算處理需求，因此，現今，也一直有大量的研究針對算法，已通過算法去改進計算模型，降低運算的需求。另外一方面，對各種智能設備來說，為了實現各種智能化處理的技術效果，需要聯合各傳感設備或各機構的數據，進行綜合邏輯計算后，進行匯總后作出綜合判斷，但要將分散在各地的數據進行整合在巨大的困難和經濟成本，而目前也存在對分布在各地的數據進行聯合訪問和處理的技術，如聯邦機器學習，又名聯邦學習，聯合學習，聯盟學習，聯邦機器學習是一個機器學習框架，能有效幫助多個機構在滿足用戶隱私保護、數據安全和政府法規的要求下，進行數據使用和機器學習建模；

如專利CN?111126609A公開了一種基于聯邦學習的知識遷移方法、裝置、設備和介質，其首先進行各不同訓練任務的各強化學習訓練模型的接收，進而進行對各所述預設強化學習訓練模型的適配，獲得強化學習適配模型，進而進行對各所述強化學習適配模型的聯邦處理，獲得聯邦模型，進而進行對所述聯邦模型的適配，獲得聯邦適配模型，進而將各所述聯邦適配模型發送至各所述強化學習訓練模型對應的訓練設備，以對各所述強化學習訓練模型進行迭代訓練。也即，本申請通過首先進行對各所述強化學習訓練模型的適配，實現了對不同訓練任務的各強化學習訓練模型的聯邦處理，獲得聯邦模型，進而對所述聯邦模型進行適配，獲得聯邦適配模型，進而實現了對不同訓練任務的各強化學習訓練模型的迭代訓練，也即，實現了基于聯邦學習的不同訓練任務的各強化學習訓練模型的知識的在線實時遷移，避免了進行知識遷移時花費訓練時間過長的情況發生，進而提高了知識遷移的遷移效率，所以，解決了現有技術中知識遷移效率低的技術問題。

專利CN109299728A公開了一種聯邦學習方法、系統及可讀存儲介質，其聯邦學習方法包括以下步驟：數據終端基于梯度下降樹GBDT算法對多方訓練樣本進行聯邦訓練，以構建梯度樹模型，其中，所述數據終端為多個，所述梯度樹模型包括多棵回歸樹，所述回歸樹包括多個分割點，所述訓練樣本包括多個特征，所述特征與所述分割點一一對應；所述數據終端基于所述梯度樹模型，對待預測樣本進行聯合預測，以確定待預測樣本的預測值。該發明通過GBDT算法對多方訓練樣本進行聯邦訓練，實現梯度樹模型建立，通過梯度樹模型，適用于數據量規模大的場景，可以很好地滿足現實生產環境需要；對待預測樣本進行聯合預測，實現對待預測樣本的預測。