[發(fā)明專利]一種群體產(chǎn)品剩余壽命預(yù)測的聯(lián)邦遷移學(xué)習(xí)方法

在審

• 申請?zhí)枺?/td>: 202110778141.6
• 申請日: 2021-07-09
• 公開（公告）號(hào): CN113536670A
• 公開（公告）日: 2021-10-22
• 發(fā)明（設(shè)計(jì)）人: 馬劍;徐沛洋;許庶;陶來發(fā);程玉杰;丁宇;王超;索明亮;呂琛
• 申請（專利權(quán)）人: 北京航空航天大學(xué)
• 主分類號(hào): G06F30/27
• 分類號(hào): G06F30/27;G06F17/18;G06K9/62;G06N3/04;G06N3/08;G06N20/00;G06F119/04
• 代理公司: 北京元本知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11308
• 代理人: 李斌

提出一種群體產(chǎn)品剩余壽命預(yù)測的聯(lián)邦遷移學(xué)習(xí)方法，包括：獲取群體產(chǎn)品原始數(shù)據(jù)集；將所述原始數(shù)據(jù)集進(jìn)行預(yù)處理，得到訓(xùn)練集和測試集；將所述訓(xùn)練集送入已構(gòu)建的群體產(chǎn)品剩余壽命預(yù)測模型，并進(jìn)行訓(xùn)練；其中，所述群體產(chǎn)品剩余壽命預(yù)測模型的構(gòu)建過程包括：設(shè)計(jì)針對(duì)所述群體產(chǎn)品剩余壽命預(yù)測的總體框架，所述總體框架包括多個(gè)單體產(chǎn)品端和一個(gè)中央服務(wù)器端；構(gòu)建基于LSTM的剩余壽命預(yù)測模型；基于所述LSTM的剩余壽命預(yù)測模型構(gòu)建所述單體產(chǎn)品端的本地壽命預(yù)測模型和和所述中央服務(wù)器端的全局壽命預(yù)測模型；對(duì)全局壽命預(yù)測模型進(jìn)行聯(lián)邦學(xué)習(xí)。

技術(shù)領(lǐng)域

本發(fā)明涉及高端設(shè)備的故障測試和預(yù)測技術(shù)領(lǐng)域，具體而言，涉及一種群體產(chǎn)品剩余壽命預(yù)測的聯(lián)邦遷移學(xué)習(xí)方法。

背景技術(shù)

群體產(chǎn)品指的是既有一定程度的相似性同時(shí)又存在一定的差異性的一類產(chǎn)品，隨著工業(yè)化程度的提高，群體產(chǎn)品逐漸由單一化和簡單化向智能化和復(fù)雜化發(fā)展，在很多領(lǐng)域有著越來越重要的應(yīng)用價(jià)值，這對(duì)群體產(chǎn)品的可靠性提出了較高的要求。然而傳統(tǒng)的定期保養(yǎng)和故障后維修的手段已經(jīng)無法滿足產(chǎn)品高可靠性的要求，PHM技術(shù)(故障預(yù)測和健康管理)的出現(xiàn)為提高群體產(chǎn)品的可靠性提供了一種可行的解決辦法。PHM技術(shù)是一種新發(fā)展起來的工程技術(shù),根據(jù)用途總體上可以分為剩余壽命預(yù)測和健康管理兩個(gè)部分。對(duì)剩余壽命的預(yù)測給設(shè)備維修起到了指引作用，而健康管理則是對(duì)維修和保障工作進(jìn)行分配規(guī)劃，可有效提高維修效率并節(jié)約維修成本。PHM技術(shù)的具體實(shí)施流程是利用各種傳感器采集到的設(shè)備狀態(tài)信息通過有線或無線傳輸方式將數(shù)據(jù)傳輸至處理系統(tǒng)，運(yùn)用數(shù)據(jù)挖掘和信息融合等技術(shù)，快速、精準(zhǔn)地給出產(chǎn)品設(shè)備的智能維護(hù)計(jì)劃，從而降低設(shè)備維護(hù)過程的時(shí)間成本和經(jīng)濟(jì)耗費(fèi)。推進(jìn)PHM技術(shù)的進(jìn)一步發(fā)展有助于進(jìn)一步提升產(chǎn)品設(shè)別的可靠性和維修性，這一技術(shù)已經(jīng)成為實(shí)現(xiàn)產(chǎn)品設(shè)備智能維護(hù)的一項(xiàng)關(guān)建手段。

在群體產(chǎn)品上采集到的產(chǎn)品運(yùn)行狀態(tài)數(shù)據(jù)相似性有限，直接整合數(shù)據(jù)不利于預(yù)測結(jié)果的準(zhǔn)確度，在聯(lián)合建模時(shí)出現(xiàn)較大困難，“數(shù)據(jù)孤島”的困局和近幾年發(fā)布的關(guān)于數(shù)據(jù)隱私保護(hù)問題的相關(guān)法案更是進(jìn)一步限制了企業(yè)間交換數(shù)據(jù)的自由，“數(shù)據(jù)孤島”的困局和隱私保護(hù)的問題嚴(yán)重地阻礙了人工智能技術(shù)的進(jìn)一步發(fā)展。

上述兩大問題導(dǎo)致了可供訓(xùn)練的數(shù)據(jù)不足，最終導(dǎo)致產(chǎn)品剩余壽命預(yù)測結(jié)果不夠準(zhǔn)確，針對(duì)這一問題，聯(lián)邦學(xué)習(xí)方法應(yīng)運(yùn)而生。聯(lián)邦學(xué)習(xí)是谷歌公司在訓(xùn)練模型時(shí)為解決數(shù)據(jù)安全問題和數(shù)據(jù)大批量傳輸問題而產(chǎn)生的。應(yīng)用聯(lián)邦學(xué)習(xí)后，個(gè)人設(shè)備端可以不上傳本地?cái)?shù)據(jù)，只需上傳本地訓(xùn)練模型權(quán)重參數(shù)。這樣既滿足了個(gè)人隱私的保護(hù)要求，同時(shí)也解決了“數(shù)據(jù)孤島”的問題。另外利用遷移學(xué)習(xí)可以將已有的知識(shí)應(yīng)用于新領(lǐng)域，可以節(jié)約模型訓(xùn)練時(shí)間。

國外相較于國內(nèi)，在聯(lián)邦遷移學(xué)習(xí)中，主要是算法的優(yōu)化。Sunghwan Park等人提出了一種FedPSO算法來取代FedAvg算法以提升模型準(zhǔn)確性。現(xiàn)有的聯(lián)邦學(xué)習(xí)聚合算法在執(zhí)行時(shí)需要發(fā)送和接收大量權(quán)重等信息，在不穩(wěn)定的網(wǎng)絡(luò)環(huán)境中，發(fā)送和接收信息往往需要耗費(fèi)大量時(shí)間，而且有時(shí)可能會(huì)遺漏某些信息，最終會(huì)出現(xiàn)模型預(yù)測的準(zhǔn)確性大大降低的情況，而FedPSO算法是在對(duì)客戶端的模型評(píng)分后，每輪迭代只需要將評(píng)分最高的權(quán)重信息傳輸回服務(wù)器，這在不損失模型預(yù)測準(zhǔn)確度的前提下極大地減少了發(fā)送和接收信息耗費(fèi)的時(shí)間。經(jīng)過實(shí)際測試表明，應(yīng)用FedPSO算法可以顯著減少網(wǎng)絡(luò)通信中使用的數(shù)據(jù)量，并可有效地提高全局模型地預(yù)測準(zhǔn)確性。此外，在不穩(wěn)定的網(wǎng)絡(luò)環(huán)境中進(jìn)行的實(shí)際測試顯示利用FedPSO算法相較于傳統(tǒng)的FedAvg算法的模型準(zhǔn)確性損失也有所降低。AmirhosseinReisizadeh等人的研究關(guān)注聯(lián)邦學(xué)習(xí)的通信效率不夠高的問題，他們從三個(gè)方面給出了提升聯(lián)邦學(xué)習(xí)通信效率的方法：服務(wù)器上僅對(duì)客戶端更新的模型進(jìn)行周期性平均；每一輪訓(xùn)練只有部分設(shè)備參與；邊緣節(jié)點(diǎn)在上傳到參數(shù)服務(wù)器之前對(duì)其更新進(jìn)行量化。

總的來看，目前國內(nèi)外有關(guān)聯(lián)邦學(xué)習(xí)的研究較為火熱，國內(nèi)主要側(cè)重于實(shí)際應(yīng)用層面，比如商業(yè)銀行的反欺詐、醫(yī)學(xué)領(lǐng)域的圖像分割等實(shí)際問題。國外則側(cè)重于原理層面，提出了一些提升聯(lián)邦學(xué)習(xí)通信效率和準(zhǔn)確性的方法，但發(fā)現(xiàn)對(duì)聯(lián)邦遷移學(xué)習(xí)的研究較少。