[發(fā)明專利]質(zhì)量感知的邊緣智能聯(lián)邦學(xué)習方法及系統(tǒng)

有效

• 申請?zhí)枺?/td>: 202010590843.7
• 申請日: 2020-06-24
• 公開（公告）號: CN111754000B
• 公開（公告）日: 2022-10-14
• 發(fā)明（設(shè)計）人: 張堯?qū)W;鄧永恒;呂豐;任炬
• 申請（專利權(quán)）人: 清華大學(xué);中南大學(xué)
• 主分類號: G06N20/20
• 分類號: G06N20/20;G06Q30/08
• 代理公司: 長沙朕揚知識產(chǎn)權(quán)代理事務(wù)所(普通合伙) 43213
• 代理人: 何湘玲

本發(fā)明公開了一種質(zhì)量感知的邊緣智能聯(lián)邦學(xué)習方法及系統(tǒng)，該方法包括：云平臺以多個學(xué)習任務(wù)的聚合模型質(zhì)量之和在每次迭代中都達到最大為優(yōu)化目標，構(gòu)建聯(lián)邦學(xué)習質(zhì)量優(yōu)化問題并解決：在每次迭代中，利用參與節(jié)點的歷史學(xué)習質(zhì)量記錄預(yù)測參與節(jié)點的學(xué)習質(zhì)量；其中，利用每次迭代中損失函數(shù)值的減少量來量化節(jié)點訓(xùn)練數(shù)據(jù)的學(xué)習質(zhì)量；在每次迭代中，云平臺通過反向拍賣機制激勵高學(xué)習質(zhì)量的節(jié)點參與聯(lián)邦學(xué)習；以進行學(xué)習任務(wù)和學(xué)習報酬的分配；在每次迭代中，對于每個學(xué)習任務(wù)，每個參與節(jié)點將其本地模型參數(shù)上傳到云平臺以聚合得到全局模型。本發(fā)明可以在保護數(shù)據(jù)隱私的情況下，為模型的訓(xùn)練提供更豐富的數(shù)據(jù)和更多的算力，以提高模型的質(zhì)量。

技術(shù)領(lǐng)域

本發(fā)明涉及大規(guī)模分布式智能學(xué)習系統(tǒng)的性能優(yōu)化技術(shù)，尤其涉及一種質(zhì)量感知的邊緣智能聯(lián)邦學(xué)習方法及系統(tǒng)。

背景技術(shù)

隨著物聯(lián)網(wǎng)(IoT，Internet of Things)的飛速發(fā)展，網(wǎng)絡(luò)邊緣不斷生成大量數(shù)據(jù)，這為實現(xiàn)基于機器學(xué)習的智能服務(wù)提供了機會。傳統(tǒng)上，集中式機器學(xué)習框架需要將龐大的訓(xùn)練數(shù)據(jù)匯總到云中心以進行模型訓(xùn)練。雖然集中式機器學(xué)習的方法可以實現(xiàn)令人滿意的學(xué)習性能，但是數(shù)據(jù)的傳輸和集中式存儲會存在隱私泄露的風險，同時數(shù)據(jù)傳輸開銷對于功率受限的移動設(shè)備數(shù)以及云中心數(shù)據(jù)維護的成本，都是系統(tǒng)實施和使用的巨大障礙。近年來，隨著新興的移動邊緣計算(MEC，Mobile Edge Computing)技術(shù)的發(fā)展，移動設(shè)備可以配備計算和存儲功能，以實現(xiàn)計算和模型訓(xùn)練的本地化，因此MEC也促進了聯(lián)邦學(xué)習的發(fā)展。聯(lián)邦學(xué)習是一種分布式機器學(xué)習框架，有計算能力的分布式節(jié)點利用本地數(shù)據(jù)在本地訓(xùn)練模型，然后將模型更新上傳到云端進行聚合，聚合后的模型更新可以不斷提高全局模型的質(zhì)量，這種本地訓(xùn)練的方式很好地保護了網(wǎng)絡(luò)隱私。

雖然聯(lián)邦學(xué)習具有非常可觀的潛力，但仍然存在兩方面的技術(shù)挑戰(zhàn)。首先，聯(lián)邦學(xué)習的性能高度依賴于訓(xùn)練節(jié)點的參與，但是如果沒有令人滿意的回報，可想而知，移動設(shè)備不會愿意參與聯(lián)邦學(xué)習模型的訓(xùn)練；其次，受到節(jié)點數(shù)據(jù)量、數(shù)據(jù)質(zhì)量、計算能力等因素的影響，移動設(shè)備貢獻的模型更新的質(zhì)量差異很大。在預(yù)算有限的情況下，選取合適的節(jié)點來參與聯(lián)邦學(xué)習并不是一件容易的事情。一種可行的方法是選擇盡可能多的參與節(jié)點，但是很多研究已經(jīng)證明，盲目地聚合太多低質(zhì)量的模型更新反而會惡化整體模型質(zhì)量，并使得模型無法進行收斂。

現(xiàn)有研究中，已有一些研究來改善聯(lián)邦學(xué)習系統(tǒng)的性能，但是它們并不能很好地解決上述問題。例如，Shiqiang Wang(王世強)等人設(shè)計了一個控制算法來確定最優(yōu)的模型聚合頻率；Zhibo Wang(王志波)等人致力于增強聯(lián)邦學(xué)習系統(tǒng)的安全性和隱私性。盡管這些研究為聯(lián)邦學(xué)習做出了貢獻，但是他們基于一個普遍的假設(shè)，即有足夠多的志愿節(jié)點愿意參與聯(lián)邦學(xué)習。但是，志愿參與在實踐中是不現(xiàn)實的，因為模型的訓(xùn)練通常會消耗大量的資源，包括能源、計算和帶寬資源等，這些對于移動設(shè)備而言可能是相當大的開銷。意識到這一點，近期一些工作研究了聯(lián)邦學(xué)習中的激勵機制。例如，Jiawen Kang等人基于移動節(jié)點的名聲設(shè)計了一個激勵機制；Shashi Raj Pandey等人提出了一種基于Stackelberg(斯塔克爾伯格)博弈的激勵機制來改善通信開銷；Yufeng Zhan等人提出了一種基于深度強化學(xué)習的激勵機制。但是，他們都沒有考慮模型更新的質(zhì)量，這會嚴重影響全局模型的質(zhì)量。具體而言，在聯(lián)邦學(xué)習中，移動設(shè)備通常具有異構(gòu)的計算能力和不同的數(shù)據(jù)量以及數(shù)據(jù)質(zhì)量，這可能導(dǎo)致不同節(jié)點學(xué)習質(zhì)量的巨大差異。以外，參與者可能會故意降低學(xué)習質(zhì)量以減少學(xué)習成本。聚集太多低質(zhì)量模型更新會反過來惡化全局模型質(zhì)量并造成收斂問題。但是，還沒有研究將節(jié)點的學(xué)習質(zhì)量整合到聯(lián)邦學(xué)習中并進行有質(zhì)量意識的激勵機制和模型聚合。

發(fā)明內(nèi)容

本發(fā)明提供了一種質(zhì)量感知的邊緣智能聯(lián)邦學(xué)習方法及系統(tǒng)，用以解決現(xiàn)有的聚合模型沒有考慮節(jié)點學(xué)習質(zhì)量的激勵制度，導(dǎo)致聚集太多低質(zhì)量模型更新會惡化全局模型質(zhì)量的技術(shù)問題。

為解決上述技術(shù)問題，本發(fā)明提出的技術(shù)方案為：