[發明專利]聯邦學習建模優化方法、設備、可讀存儲介質及程序產品

在審

• 申請號: 202111151142.4
• 申請日: 2021-09-29
• 公開（公告）號: CN113792892A
• 公開（公告）日: 2021-12-14
• 發明（設計）人: 康焱;吳岳洲
• 申請（專利權）人: 深圳前海微眾銀行股份有限公司
• 主分類號: G06N20/20
• 分類號: G06N20/20
• 代理公司: 深圳市世紀恒程知識產權代理事務所 44287
• 代理人: 王徑武

本申請公開了一種聯邦學習建模優化方法、設備、可讀存儲介質及程序產品，應用于第一設備，所述聯邦學習建模優化方法包括：依據特征提取模型生成第一訓練樣本對應的第一樣本特征，并依據特征生成模型生成第一噪音數據和第一真實分類標簽共同對應的第二樣本特征；依據第一真實分類標簽、第一樣本特征以及第二樣本特征，迭代訓練得到特征生成模型；將特征生成模型和分類模型發送至第二設備，以供第二設備構建目標全局特征生成模型和目標全局分類模型；依據目標全局特征生成模型，對特征提取模型和目標全局分類模型進行迭代優化，得到目標特征提取模型和目標分類模型。本申請解決了聯邦學習方法存在泄露參與方數據隱私的風險的技術問題。

技術領域

本申請涉及金融科技(Fintech)的人工智能技術領域，尤其涉及一種聯邦學習建模優化方法、設備、可讀存儲介質及程序產品。

背景技術

隨著金融科技，尤其是互聯網科技金融的不斷發展，越來越多的技術(如分布式、人工智能等)應用在金融領域，但金融業也對技術提出了更高的要求，如對金融業對應待辦事項的分發也有更高的要求。

隨著計算機軟件和人工智能、大數據云服務應用的不斷發展，目前，在聯邦學習場景中每個參與方維護一個本地模型和一個全局模型。各個參與方通過本地模型學習本地特有的知識，通過全局模型共享所有參與方的知識，然后各個參與方將本地模型和全局模型聚合在一起。但是這種方法的缺點是聯邦服務器可以通過各個參與方的全局模型反推出參與方的原始數據，因此有數據泄露的風險，也即，現有的聯邦學習方法存在泄露參與方數據隱私的風險。

發明內容

本申請的主要目的在于提供一種聯邦學習建模優化方法、設備、可讀存儲介質及程序產品，旨在解決現有技術中聯邦學習方法存在泄露參與方數據隱私的風險的技術問題。

為實現上述目的，本申請提供一種聯邦學習建模優化方法，所述聯邦學習建模優化方法應用于第一設備，所述聯邦學習建模優化方法包括：

獲取訓練好的特征提取模型和分類模型，并提取第一訓練樣本、第一噪音數據、所述第一訓練樣本對應的第一真實分類標簽；

獲取所述特征提取模型針對于所述第一訓練樣本生成的第一樣本特征，以及待訓練特征生成模型針對于所述第一噪音數據和所述第一真實分類標簽生成的第二樣本特征；

通過所述分類模型對所述第二樣本特征進行分類以及通過待訓練樣本區分模型對所述第一樣本特征與所述第二樣本特征進行樣本區分，在固定所述特征提取模型和所述分類模型的情況下對所述待訓練特征生成模型進行迭代優化，得到特征生成模型；

將所述特征生成模型和所述分類模型發送至第二設備，以供第二設備依據各所述第一設備發送的特征生成模型，迭代優化聚合各所述特征生成模型得到的全局特征生成模型以及聚合各所述分類模型得到的全局分類模型，得到目標全局特征生成模型和目標全局分類模型；

接收所述第二設備發送的目標全局特征生成模型和目標全局分類模型，并依據所述目標全局特征生成模型，對所述特征提取模型和所述目標全局分類模型進行迭代優化，得到目標特征提取模型和目標分類模型。

本申請提供一種聯邦學習建模優化方法，所述聯邦學習建模優化方法應用于第二設備，所述聯邦學習建模優化方法包括：

接收各第一設備發送的特征生成模型和分類模型，并將各所述特征生成模型聚合為全局特征生成模型以及將各所述分類模型聚合為全局分類模型；

提取噪音數據和所述噪音數據對應的真實分類標簽；

依據所述噪音數據和所述真實分類標簽，通過對所述全局特征生成模型和所述全局分類模型進行迭代訓練，以及通過在所述全局特征生成模型與各所述特征生成模型之間進行知識蒸餾，迭代優化所述全局特征生成模型和所述全局分類模型，得到目標全局特征生成模型和目標全局分類模型；