[發(fā)明專利]基于自注意力機(jī)制的設(shè)備剩余壽命預(yù)測系統(tǒng)

有效

• 申請?zhí)枺?/td>: 202011139314.1
• 申請日: 2020-10-22
• 公開（公告）號: CN112257263B
• 公開（公告）日: 2021-06-25
• 發(fā)明（設(shè)計）人: 王欣剛;劉元俊;徐歆堯;徐德
• 申請（專利權(quán)）人: 中國科學(xué)院自動化研究所
• 主分類號: G06F30/20
• 分類號: G06F30/20;G06N3/04;G06N3/08;G06F119/04
• 代理公司: 北京市恒有知識產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11576
• 代理人: 郭文浩;尹文會

本發(fā)明屬于現(xiàn)代工業(yè)故障預(yù)測與健康管理領(lǐng)域，具體涉及一種基于自注意力機(jī)制的設(shè)備剩余壽命預(yù)測系統(tǒng)，旨在為了解決現(xiàn)有RUL預(yù)估方法實時性效果不足的問題，本發(fā)明系統(tǒng)包括深度單元，基于前饋神經(jīng)網(wǎng)絡(luò)構(gòu)建，配置為將輸入數(shù)據(jù)消除時間維度后進(jìn)行高維向量表示，得到第一向量；注意力單元，配置為將輸入數(shù)據(jù)的時間序列映射到統(tǒng)一的向量空間，并將向量空間中對應(yīng)的特征向量輸入到自注意力模塊，得到多個子空間的注意力向量并拼接為一個，得到第二向量；預(yù)測單元，配置為將第一向量、第二向量合并為第三向量，并通過前饋神經(jīng)網(wǎng)絡(luò)輸出預(yù)測結(jié)果。本發(fā)明可以保持預(yù)測精度的基礎(chǔ)上可以更好的并行化計算，提高了預(yù)測的實時性。

技術(shù)領(lǐng)域

本發(fā)明屬于現(xiàn)代工業(yè)故障預(yù)測與健康管理領(lǐng)域，具體涉及一種基于自注意力機(jī)制的設(shè)備剩余壽命預(yù)測系統(tǒng)。

背景技術(shù)

壽命預(yù)測與健康管理(Prognostic Health Management,PHM)技術(shù)是現(xiàn)代工業(yè)發(fā)展過程中最重要的核心技術(shù)之一。工程實踐表明，PHM技術(shù)可有效降低設(shè)備發(fā)生故障的概率，減少維修維護(hù)費用，特別是在安全性及可靠性要求較高的領(lǐng)域，能顯著減少系統(tǒng)宕機(jī)次數(shù)并提升任務(wù)成功率。PHM的核心問題是針對海量狀態(tài)監(jiān)測數(shù)據(jù)，準(zhǔn)確地針對系統(tǒng)健康狀況進(jìn)行評估并預(yù)測設(shè)備的Remaining Useful Life(RUL)，同時在此基礎(chǔ)上確定設(shè)備的最優(yōu)維護(hù)時機(jī)，進(jìn)一步達(dá)到預(yù)測性維護(hù)的目的。而在這一問題中，根據(jù)設(shè)備的傳感器監(jiān)測數(shù)據(jù)來預(yù)測RUL是實現(xiàn)預(yù)測性維護(hù)的關(guān)鍵。通常來說，RUL預(yù)測任務(wù)是在機(jī)器發(fā)生故障之前，通過監(jiān)控系統(tǒng)獲得的時間序列來預(yù)測剩余的運行時間。基于物理模型的方法需要對設(shè)備機(jī)理進(jìn)行分析，建立準(zhǔn)確的物理模型，這對于復(fù)雜的設(shè)備系統(tǒng)來說很難做到。而基于數(shù)據(jù)驅(qū)動的方法使用分布式傳感器采集設(shè)備的性能退化數(shù)據(jù)，通過充分挖掘監(jiān)測數(shù)據(jù)所包含的潛在信息，不需要建立復(fù)雜的物理模型，就能做到對設(shè)備的剩余使用壽命進(jìn)行準(zhǔn)確預(yù)測。

深度學(xué)習(xí)是機(jī)器學(xué)習(xí)的一個分支，通過堆疊深層次的神經(jīng)網(wǎng)絡(luò)，實現(xiàn)深層抽象特征提取和復(fù)雜非線性關(guān)系表達(dá)。這種方法在諸多領(lǐng)域取得了遠(yuǎn)遠(yuǎn)超過傳統(tǒng)機(jī)器學(xué)習(xí)方法的效果。

在RUL預(yù)估領(lǐng)域，目前的方法大多都是基于LSTM(Long Short-Term Memory，長短期記憶網(wǎng)絡(luò))的改進(jìn)。由于LSTM不適合并行計算，無法滿足實時性要求很高的場景，限制了RUL技術(shù)在實際工廠環(huán)境的使用。

發(fā)明內(nèi)容

為了解決現(xiàn)有技術(shù)中的上述問題，即為了解決現(xiàn)有RUL預(yù)估方法實時性效果不足的問題，本發(fā)明提出了一種基于自注意力機(jī)制的設(shè)備剩余壽命預(yù)測系統(tǒng)，該系統(tǒng)包括深度單元、注意力單元、預(yù)測單元；

所述深度單元，基于前饋神經(jīng)網(wǎng)絡(luò)構(gòu)建，配置為將輸入數(shù)據(jù)消除時間維度后進(jìn)行高維向量表示，得到第一向量；

所述注意力單元，配置為將輸入數(shù)據(jù)的時間序列映射到統(tǒng)一的向量空間，并將所述向量空間中對應(yīng)的特征向量輸入到自注意力模塊，得到多個子空間的注意力向量并拼接為一個，得到第二向量；

所述預(yù)測單元，配置為將所述第一向量、所述第二向量合并為第三向量，并通過前饋神經(jīng)網(wǎng)絡(luò)輸出預(yù)測結(jié)果。

在一些具體實施方式中，所述第一向量，其獲取方法為：

將所述輸入數(shù)據(jù)的多變量時間序列拉平以消除其時間維度；

將拉平處理后的輸入數(shù)據(jù)通過多層堆疊的神經(jīng)網(wǎng)絡(luò)獲取高維向量表示。

在一些具體實施方式中，所述深度單元的輸出部分設(shè)置有Res-FFNN。

在一些具體實施方式中，所述注意力單元包括嵌入模塊，所述嵌入模塊用于將輸入數(shù)據(jù)的時間序列映射到統(tǒng)一的向量空間；

所述嵌入模塊包括兩個CNN結(jié)構(gòu)；第一個CNN結(jié)構(gòu)為濾波器尺寸為3的單層CNN結(jié)構(gòu)；第二個CNN結(jié)構(gòu)包括兩層濾波器尺寸為1的CNN層。

在一些具體實施方式中，所述注意力單元還包括多頭自注意力模塊；