[發(fā)明專利]基于博弈與多維契約的聯(lián)邦邊緣學(xué)習(xí)調(diào)度方法及系統(tǒng)

在審

• 申請(qǐng)?zhí)枺?/td>: 202210347019.8
• 申請(qǐng)日: 2022-04-01
• 公開(kāi)（公告）號(hào): CN114677030A
• 公開(kāi)（公告）日: 2022-06-28
• 發(fā)明（設(shè)計(jì)）人: 余雪勇;于博杰
• 申請(qǐng)（專利權(quán)）人: 南京郵電大學(xué)
• 主分類號(hào): G06Q10/06
• 分類號(hào): G06Q10/06;G06Q40/04;G06N20/00
• 代理公司: 南京禹為知識(shí)產(chǎn)權(quán)代理事務(wù)所(特殊普通合伙) 32272
• 代理人: 趙荔

本發(fā)明公開(kāi)了計(jì)算機(jī)通信技術(shù)領(lǐng)域一種基于博弈與多維契約的聯(lián)邦邊緣學(xué)習(xí)調(diào)度方法及系統(tǒng)，包括以下步驟：1）構(gòu)建CC、EN和UE參與的聯(lián)邦邊緣學(xué)習(xí)網(wǎng)絡(luò)，并建立CC、EN和UE的效用函數(shù)；2）每個(gè)EN利用歷史記錄統(tǒng)計(jì)其通信范圍內(nèi)的UE數(shù)量，并按照數(shù)據(jù)采集支出、模型訓(xùn)練支出和模型參數(shù)傳輸支出將UE劃分為不同的類型；3）每個(gè)EN將UE預(yù)計(jì)能夠貢獻(xiàn)的數(shù)據(jù)量和對(duì)應(yīng)的獎(jiǎng)勵(lì)的契約包上報(bào)給CC；4）基于上述步驟得到最優(yōu)契約包和博弈解從而實(shí)施聯(lián)邦邊緣學(xué)習(xí)調(diào)度機(jī)制，本發(fā)明解決了CC?EN?UE整體的聯(lián)邦邊緣學(xué)習(xí)調(diào)度問(wèn)題。

技術(shù)領(lǐng)域

本發(fā)明涉及計(jì)算機(jī)通信技術(shù)領(lǐng)域，尤其涉及一種基于博弈與多維契約的聯(lián)邦邊緣學(xué)習(xí)調(diào)度方法及系統(tǒng)。

背景技術(shù)

聯(lián)邦學(xué)習(xí)是一種特殊的分布式學(xué)習(xí)方法，它使多個(gè)UE協(xié)作訓(xùn)練共享的參數(shù)模型，同時(shí)保證訓(xùn)練數(shù)據(jù)存在于UE上。服務(wù)器首先將全局模型參數(shù)分發(fā)給隨機(jī)選取的一部分UE。然后每個(gè)UE并行地在各自的數(shù)據(jù)上進(jìn)行優(yōu)化更新局部參數(shù)。最后服務(wù)器對(duì)所有局部參數(shù)進(jìn)行聚合，進(jìn)而輸出全局參數(shù)。聯(lián)邦學(xué)習(xí)訓(xùn)練期間無(wú)需通過(guò)通信網(wǎng)絡(luò)發(fā)射私有數(shù)據(jù)，在一定程度了保護(hù)了隱私。

然而聯(lián)邦學(xué)習(xí)涉及數(shù)千個(gè)異構(gòu)分布式UE設(shè)備。在這種情況下通信效率低下是關(guān)鍵瓶頸。即通信故障導(dǎo)致的節(jié)點(diǎn)故障和設(shè)備丟失會(huì)導(dǎo)致學(xué)習(xí)效率低下。此外，連接嚴(yán)重受限的UE設(shè)備無(wú)法參與訓(xùn)練，從而對(duì)模型的泛化能力產(chǎn)生不利影響，另外設(shè)備與云端服務(wù)器的遠(yuǎn)距離交互會(huì)帶來(lái)較大的通信支出。邊緣計(jì)算技術(shù)是一種允許網(wǎng)絡(luò)邊緣執(zhí)行的計(jì)算架構(gòu)，可以將各種計(jì)算工作下沉到網(wǎng)絡(luò)邊緣，與集中式云計(jì)算相比EN在地理位置上更靠近UE設(shè)備，同時(shí)分布更廣數(shù)量更多，分擔(dān)了集中云計(jì)算的負(fù)載降低了時(shí)延和學(xué)習(xí)資源消耗。將聯(lián)邦學(xué)習(xí)與邊緣計(jì)算結(jié)合的聯(lián)邦邊緣學(xué)習(xí)框架可解決上述問(wèn)題，其中UE參數(shù)首先上傳到EN用于中間聚合。然后與CC通信進(jìn)行全局聚合，減少了全局通信的支出并降低了設(shè)備的丟失率。

然而在學(xué)習(xí)中各種設(shè)備都是自私的，需要提供自己的資源來(lái)參與學(xué)習(xí)，沒(méi)有合理的補(bǔ)償和有效的調(diào)度方法就無(wú)法調(diào)度到足夠的參與者。

發(fā)明內(nèi)容

本發(fā)明的目的在于概述本發(fā)明的實(shí)施例的一些方面以及簡(jiǎn)要介紹一些較佳實(shí)施例。在本說(shuō)明書(shū)以及本申請(qǐng)的說(shuō)明書(shū)摘要和發(fā)明名稱中可能會(huì)做些簡(jiǎn)化或省略以避免使本說(shuō)明書(shū)、說(shuō)明書(shū)摘要和發(fā)明名稱的目的模糊，而這種簡(jiǎn)化或省略不能用于限制本發(fā)明的范圍。

針對(duì)現(xiàn)有技術(shù)中存在的不足，提出了本發(fā)明，因此，本發(fā)明提供了一種基于博弈與多維契約的聯(lián)邦邊緣學(xué)習(xí)調(diào)度方法及系統(tǒng)，以解決調(diào)度CC,EN和UE參與聯(lián)邦邊緣學(xué)習(xí)的問(wèn)題。

為解決上述技術(shù)問(wèn)題，本發(fā)明提供如下技術(shù)方案：

一種基于博弈與多維契約的聯(lián)邦邊緣學(xué)習(xí)調(diào)度方法，包括以下步驟：

步驟1)構(gòu)建云服務(wù)器CC、邊緣服務(wù)器EN和終端用戶UE參與的聯(lián)邦邊緣學(xué)習(xí)網(wǎng)絡(luò)，并建立CC、EN和UE的效用函數(shù)；

步驟2)每個(gè)EN利用歷史記錄統(tǒng)計(jì)其通信范圍內(nèi)的UE數(shù)量，并按照數(shù)據(jù)采集支出、模型訓(xùn)練支出和模型參數(shù)傳輸支出將UE劃分為不同的類型；基于CC發(fā)布的單位數(shù)據(jù)獎(jiǎng)勵(lì)，EN求解優(yōu)化問(wèn)題1針對(duì)不同類型的UE設(shè)計(jì)不同的契約包，某個(gè)類型的契約包包含該類型的UE貢獻(xiàn)的數(shù)據(jù)量和對(duì)應(yīng)的獎(jiǎng)勵(lì)；

步驟3)每個(gè)EN將UE預(yù)計(jì)能夠貢獻(xiàn)的數(shù)據(jù)量和對(duì)應(yīng)的獎(jiǎng)勵(lì)的契約包上報(bào)給CC；構(gòu)建完全信息條件下的主從博弈，EN為從方，CC為主方；CC通過(guò)優(yōu)化問(wèn)題2求解出最優(yōu)費(fèi)用支付給EN，然后EN將給選定契約的UE依據(jù)所述契約包支付費(fèi)用；選定的UE將進(jìn)行聯(lián)邦邊緣學(xué)習(xí)訓(xùn)練過(guò)程；

步驟4)基于上述步驟得到最優(yōu)契約包和博弈解從而實(shí)施聯(lián)邦邊緣學(xué)習(xí)調(diào)度機(jī)制。

作為本發(fā)明所述基于博弈與多維契約的聯(lián)邦邊緣學(xué)習(xí)調(diào)度方法的優(yōu)選方案，所述步驟1)中UE的效用函數(shù)為：