[發(fā)明專利]一種基于電力數(shù)據(jù)的聯(lián)邦學(xué)習(xí)模型訓(xùn)練方法

有效

• 申請?zhí)枺?/td>: 202211711600.X
• 申請日: 2022-12-29
• 公開（公告）號: CN116227621B
• 公開（公告）日: 2023-10-24
• 發(fā)明（設(shè)計）人: 龐博;張凌浩;唐超;梁暉輝;常政威;陳玉敏;魏陽;代宇涵;莊惠鈞;胡春強(qiáng)
• 申請（專利權(quán)）人: 國網(wǎng)四川省電力公司電力科學(xué)研究院
• 主分類號: G06N20/00
• 分類號: G06N20/00;H04L9/30;H04L9/40;G06Q50/06
• 代理公司: 重慶西南華渝專利代理有限公司 50270
• 代理人: 陳麗梅

本發(fā)明提供了一種基于電力數(shù)據(jù)的聯(lián)邦學(xué)習(xí)模型訓(xùn)練方法，包括以下步驟：服務(wù)器設(shè)定初始模型和訓(xùn)練參數(shù)并發(fā)送至客戶端；客戶端設(shè)定本地控制變量，基于本地控制變量對初始模型進(jìn)行更新、處理獲得密文模型；將密文模型和本地控制變量傳輸至服務(wù)器；服務(wù)器根據(jù)密文模型獲得聚合模型，判斷當(dāng)前迭代次數(shù)小于總迭代次數(shù)時，更新服務(wù)器控制變量，將聚合模型和更新后的服務(wù)器控制變量發(fā)送至客戶端，將聚合模型在客戶端開啟新一輪的訓(xùn)練步驟；服務(wù)器判斷當(dāng)前迭代次數(shù)等于總迭代次數(shù)時，輸出聚合模型。本發(fā)明能夠避免惡意服務(wù)器與客戶端串通獲取其他客戶端的數(shù)據(jù)的問題，同時控制多個客戶端的模型收斂方向，使得模型加快向全局最優(yōu)解收斂。

技術(shù)領(lǐng)域

本發(fā)明屬于聯(lián)邦學(xué)習(xí)技術(shù)領(lǐng)域，具體涉及一種基于電力數(shù)據(jù)的聯(lián)邦學(xué)習(xí)模型訓(xùn)練方法。

背景技術(shù)

對電力數(shù)據(jù)進(jìn)行分析與建模是智能電網(wǎng)得以持續(xù)發(fā)展的重要驅(qū)動力之一。由于模型中心化以及數(shù)據(jù)中心化使得電力數(shù)據(jù)容易被惡意方獲取并用于進(jìn)行非法活動，因此現(xiàn)有技術(shù)使用聯(lián)邦學(xué)習(xí)技術(shù)來解決數(shù)據(jù)中心化導(dǎo)致的隱私泄露問題。設(shè)置一個服務(wù)器和多個客戶端，服務(wù)器將模型分別發(fā)送至多個客戶端，不同地區(qū)的電力公司可以作為多個客戶端分別在本地進(jìn)行模型更新，多個客戶端完成模型更新后，再將模型發(fā)送至服務(wù)器進(jìn)行聚合。

為了保證客戶端與服務(wù)器之間的數(shù)據(jù)傳輸?shù)陌踩?，現(xiàn)有技術(shù)在客戶端與服務(wù)器進(jìn)行數(shù)據(jù)傳輸時，對傳輸?shù)臄?shù)據(jù)進(jìn)行加密，但是仍然存在惡意服務(wù)器與客戶端串通，通過盜取解密數(shù)據(jù)獲取其他客戶端的數(shù)據(jù)，數(shù)據(jù)保護(hù)仍然存在漏洞。

并且不同地區(qū)的電力公司所擁有的電力數(shù)據(jù)分布是不一致的，因此模型在客戶端進(jìn)行更新時會朝著不同方向進(jìn)行優(yōu)化，收斂過程也會變得緩慢，甚至可能導(dǎo)致模型不收斂；并且模型在服務(wù)器進(jìn)行聚合時也很難得到一個普適的全局模型。

發(fā)明內(nèi)容

本發(fā)明旨在解決現(xiàn)有技術(shù)中存在的技術(shù)問題，提供一種基于電力數(shù)據(jù)的聯(lián)邦學(xué)習(xí)模型訓(xùn)練方法，避免在聯(lián)邦學(xué)習(xí)過程中，惡意服務(wù)器與客戶端串通獲取其他客戶端的數(shù)據(jù)的問題，同時在訓(xùn)練過程中控制多個客戶端的模型收斂方向，使得模型加快向全局最優(yōu)解收斂。

為了實現(xiàn)本發(fā)明的上述目的，根據(jù)本發(fā)明的第一個方面，本發(fā)明提供了一種基于電力數(shù)據(jù)的聯(lián)邦學(xué)習(xí)模型訓(xùn)練方法，包括以下步驟：服務(wù)器設(shè)定初始模型和訓(xùn)練參數(shù)并發(fā)送至客戶端，訓(xùn)練參數(shù)包括服務(wù)器控制變量和總迭代次數(shù)；客戶端設(shè)定本地控制變量，基于本地控制變量、服務(wù)器控制變量和訓(xùn)練步驟對初始模型進(jìn)行更新獲得本地模型，對本地模型進(jìn)行剪裁處理、加噪處理和加密處理獲得密文模型；將密文模型和本地控制變量傳輸至服務(wù)器；服務(wù)器根據(jù)密文模型獲得聚合模型，判斷當(dāng)前迭代次數(shù)小于總迭代次數(shù)時，更新服務(wù)器控制變量，將聚合模型和更新后的服務(wù)器控制變量發(fā)送至客戶端，將聚合模型作為初始模型在客戶端開啟新一輪的訓(xùn)練步驟；服務(wù)器判斷當(dāng)前迭代次數(shù)等于總迭代次數(shù)時，輸出聚合模型。

進(jìn)一步，更新服務(wù)器控制變量的步驟具體為：使用第一更新公式對服務(wù)器控制變量進(jìn)行更新，第一更新公式如下：其中，i表示第i個客戶端，N表示參加訓(xùn)練的客戶端的數(shù)量和，表示第i個客戶端的本地控制變量，c′表示更新后的服務(wù)器控制變量。

進(jìn)一步，根據(jù)密文模型獲得聚合模型步驟具體為：根據(jù)聚合公式和密文模型獲得聚合模型；聚合公式具體為：其中，t表示第t次迭代，W^(t+1)表示第t+1次迭代時的聚合模型，[]表示該模型經(jīng)加密處理，i表示第i個客戶端，N表示參加訓(xùn)練的客戶端的數(shù)量和，p_i表示第i個客戶端的權(quán)重比，表示經(jīng)過第t次迭代時第i個客戶端的密文模型。