[發(fā)明專利]基于多粒度正則化重平衡增量學習的故障診斷方法及裝置

在審

• 申請?zhí)枺?/td>: 202210174747.3
• 申請日: 2022-02-24
• 公開（公告）號: CN114609994A
• 公開（公告）日: 2022-06-10
• 發(fā)明（設(shè)計）人: 王煜;陳慧彤;胡清華
• 申請（專利權(quán)）人: 天津大學
• 主分類號: G05B23/02
• 分類號: G05B23/02
• 代理公司: 天津市北洋有限責任專利代理事務(wù)所 12201
• 代理人: 李林娟

本發(fā)明公開了一種基于多粒度正則化重平衡增量學習的故障診斷方法及裝置，方法包括：構(gòu)建帶有多粒度信息的連續(xù)標簽，并利用KL散度損失進行優(yōu)化；通過特征提取層獲取新舊類別的特征表示向量，通過知識蒸餾約束當前模型的決策輸出與增量學習前模型的輸出分布相同，基于多粒度正則化項，對于樣本數(shù)目多的新類別施加相對低的權(quán)重，平衡新故障類別與舊故障類別梯度更新的差距，減輕類別不均衡性；采取兩階段訓練策略，使用當前能夠獲取到的數(shù)據(jù)進行第一階段訓練，更新特征提取層，在第二階段訓練時與特征提取層解耦，即凍結(jié)特征提取層的參數(shù)，采用重采樣的平衡訓練子集重新訓練分類器。裝置包括：處理器和存儲器。本發(fā)明提高故障診斷模型的持續(xù)學習能力，進而提高了對器件的故障識別能力。

技術(shù)領(lǐng)域

本發(fā)明涉及機器學習的智能故障診斷領(lǐng)域，尤其涉及一種基于多粒度正則化重平衡增量學習的故障診斷方法及裝置。

背景技術(shù)

隨著當代科技的飛速發(fā)展，大型裝備不斷推陳出新，在交通、能源、電力和航空航天等各領(lǐng)域中得到了廣泛的使用，其安全穩(wěn)定、可靠高效的運行與國家發(fā)展、國防建設(shè)息息相關(guān)。同時，隨著運行時間的推移，重大裝備不可避免的會發(fā)生故障，導致災(zāi)難性事故時有發(fā)生；而大型設(shè)備的復雜性和精密性導致其故障難以通過簡單的探測手段檢出。因此，如何設(shè)計面向大型設(shè)備智能故障診斷研究成為了工業(yè)智能化所面臨的一個亟需解決的問題。

現(xiàn)有智能化故障診斷方法通過收集裝備不同時刻的傳感器信息，基于所整理的數(shù)據(jù)設(shè)計深度神經(jīng)網(wǎng)絡(luò)訓練后進行部署，針對新收集的傳感器數(shù)據(jù)進行預(yù)測以判斷設(shè)備當前屬于正常狀態(tài)或是某個故障狀態(tài)。這種方法雖然能夠達到不錯的性能，但是智能故障診斷模型一旦部署將無法更新。通常地，裝備的故障類型隨著使用年限的增長會逐漸發(fā)生變化，之前未發(fā)生過的故障會接踵而至。現(xiàn)有方法由于僅能識別學習過的舊類型故障，因此難以進行實際使用。

增量學習是使得模型進行更新以掌握新任務(wù)的一種方式，即模型在先前任務(wù)的基礎(chǔ)上學習新任務(wù)，達到同時處理新舊任務(wù)的能力。一般地，增量學習模型在學習大量新任務(wù)數(shù)據(jù)的同時，可保留少部分舊任務(wù)代表性數(shù)據(jù)進行舊任務(wù)的知識保存。但是，由于新任務(wù)的數(shù)據(jù)量遠高于舊任務(wù)，造成了深度神經(jīng)網(wǎng)絡(luò)模型在學習新任務(wù)時對舊任務(wù)相關(guān)的重要參數(shù)的改變，導致其對新舊任務(wù)的識別產(chǎn)生了嚴重偏差，即參數(shù)偏向于學習新任務(wù)，使得舊任務(wù)的識別能力大大下降。

針對此問題，現(xiàn)有方法設(shè)計了一些偏差糾正的方法，添加線性糾正層、對新舊類別的輸出余弦歸一化等，但它們在很大程度上依賴于新舊類之間的偏差關(guān)系的假設(shè)。在實際應(yīng)用中，這種假設(shè)很難成立，因此會損害模型的性能，并且難以適應(yīng)復雜的實際應(yīng)用場景。因此，如何解決增量學習中對舊任務(wù)的遺忘問題，是智能化故障診斷模型能否有效大規(guī)模應(yīng)用的關(guān)鍵。

發(fā)明內(nèi)容

本發(fā)明提供了一種基于多粒度正則化重平衡增量學習的故障診斷方法及裝置，本發(fā)明考慮到故障診斷任務(wù)增量學習中新舊類型故障的偏差分布難以獲得先驗假設(shè)的問題，設(shè)計了一種基于多粒度正則化重平衡方法，約束模型能同時學習平衡的數(shù)據(jù)分布以及不同故障類別之間的相關(guān)性，使得模型在準確學習識別新故障時減少對已學習舊類別故障的知識遺忘，從而提高故障診斷模型的持續(xù)學習能力，進而提高對大型裝備的故障識別能力，大幅度增加設(shè)備的安全性，降低故障率，詳見下文描述：

第一方面，一種基于多粒度正則化重平衡增量學習的故障診斷方法，所述方法包括：

對劃分后的數(shù)據(jù)集進行類別詞向量表示，獲取其語義標簽所對應(yīng)的詞向量，使用K-means算法進行聚類獲取一個兩層的多粒度結(jié)構(gòu)；構(gòu)建帶有多粒度信息的連續(xù)標簽，并利用KL散度損失進行優(yōu)化；

通過特征提取層獲取新舊類別的特征表示向量，通過知識蒸餾約束當前模型的決策輸出與增量學習前模型的輸出分布相同，基于多粒度正則化項，對于樣本數(shù)目多的新故障類別施加相對低的權(quán)重，平衡新故障類別與舊故障類別梯度更新的差距，減輕類別不均衡性；