[發(fā)明專利]一種基于圖神經(jīng)網(wǎng)絡(luò)的多變量時(shí)間序列異常檢測(cè)方法及系統(tǒng)

在審

• 申請(qǐng)?zhí)枺?/td>: 202210351790.2
• 申請(qǐng)日: 2022-04-02
• 公開(kāi)（公告）號(hào): CN114881115A
• 公開(kāi)（公告）日: 2022-08-09
• 發(fā)明（設(shè)計(jì)）人: 劉濤;楊晨旺;馬君;韓銀和
• 申請(qǐng)（專利權(quán)）人: 中國(guó)科學(xué)院計(jì)算技術(shù)研究所
• 主分類號(hào): G06K9/62
• 分類號(hào): G06K9/62;G06N3/04;G06N3/08
• 代理公司: 北京律誠(chéng)同業(yè)知識(shí)產(chǎn)權(quán)代理有限公司 11006
• 代理人: 祁建國(guó);陳思遠(yuǎn)

1.一種基于圖神經(jīng)網(wǎng)絡(luò)的多變量時(shí)間序列異常檢測(cè)方法，其特征在于，包括：

步驟1、獲取待異常檢測(cè)物理系統(tǒng)的中各傳感器采集的數(shù)據(jù)，并以傳感器作為概率圖模型中節(jié)點(diǎn)，以傳感器監(jiān)測(cè)的數(shù)據(jù)作為時(shí)間序列，對(duì)多維時(shí)間序列關(guān)系建模，得到動(dòng)態(tài)圖神經(jīng)網(wǎng)絡(luò)模型；

步驟2、采用多頭注意力機(jī)制對(duì)該動(dòng)態(tài)圖神經(jīng)網(wǎng)絡(luò)模型中節(jié)點(diǎn)的特征進(jìn)行聚合，以得到各節(jié)點(diǎn)下一時(shí)間點(diǎn)的預(yù)測(cè)值，并采用歸一化的時(shí)間對(duì)齊測(cè)度各節(jié)點(diǎn)的鄰接矩陣；

步驟3、當(dāng)時(shí)間進(jìn)行到該下一時(shí)間點(diǎn)，獲取節(jié)點(diǎn)的真實(shí)值，根據(jù)該預(yù)測(cè)值和該真實(shí)值，構(gòu)建引入該鄰接矩陣重構(gòu)誤差的損失函數(shù)，以訓(xùn)練更新該動(dòng)態(tài)圖神經(jīng)網(wǎng)絡(luò)模型，同時(shí)根據(jù)各節(jié)點(diǎn)損失函數(shù)數(shù)值及其鄰居節(jié)點(diǎn)在分布上的差異性和鄰接矩陣值，得到各節(jié)點(diǎn)的異常值；

步驟4、循環(huán)執(zhí)行步驟1到步驟3；當(dāng)同一時(shí)間點(diǎn)的節(jié)點(diǎn)預(yù)測(cè)值與真實(shí)值的誤差大于該異常值，則產(chǎn)生對(duì)應(yīng)節(jié)點(diǎn)的異常報(bào)警。

2.如權(quán)利要求1所述的基于圖神經(jīng)網(wǎng)絡(luò)的多變量時(shí)間序列異常檢測(cè)方法，其特征在于，該步驟2中訓(xùn)練更新該動(dòng)態(tài)圖神經(jīng)網(wǎng)絡(luò)模型包括：

對(duì)于T長(zhǎng)的傳感器運(yùn)行狀態(tài)序列，采用時(shí)間序列誤差L_recon和擬合誤差L_reg的均方誤差作為該損失函數(shù)；其中該時(shí)間序列誤差L_recon為t時(shí)刻數(shù)據(jù)的預(yù)測(cè)值與真實(shí)值s_1：T的平均偏差；該擬合誤差L_reg是歸一化的鄰接矩陣與鄰接矩陣模板A的擬合誤差；

其中鄰接矩陣A用于表示有向圖，其中元素A_ij表示從節(jié)點(diǎn)i到節(jié)點(diǎn)j的有向的邊，而表示節(jié)點(diǎn)i的鄰域，該動(dòng)態(tài)圖神經(jīng)網(wǎng)絡(luò)模型采用余弦測(cè)度e_ji表示邊的權(quán)重，即節(jié)點(diǎn)間的依賴性；鄰域大小為K，并選擇強(qiáng)度前K個(gè)鄰居定義鄰接矩陣，即：

通過(guò)最小化該損失函數(shù)，以訓(xùn)練更新該動(dòng)態(tài)圖神經(jīng)網(wǎng)絡(luò)模型，且在訓(xùn)練過(guò)程，將s_t預(yù)測(cè)值的經(jīng)驗(yàn)分布作為其概率表示：

其中，采用時(shí)間對(duì)齊測(cè)度法得到鄰接矩陣的近似表示，并基于GATv2的通過(guò)以下步驟得到估計(jì)值將歸一化以得到相似度矩陣e，并根據(jù)上式(1)計(jì)算鄰接矩陣A_t，根據(jù)GATv2的定義得到的如下表示：

對(duì)于各節(jié)點(diǎn)新的聚合特征，將其多頭輸出拼接起來(lái)，并通過(guò)多個(gè)級(jí)聯(lián)的全連接層的輸出作為當(dāng)前真實(shí)值的估計(jì)值

3.如權(quán)利要求1所述的基于圖神經(jīng)網(wǎng)絡(luò)的多變量時(shí)間序列異常檢測(cè)方法，其特征在于，該步驟3包括：

根據(jù)各節(jié)點(diǎn)最相關(guān)的前l(fā)個(gè)鄰居節(jié)點(diǎn)，得到各節(jié)點(diǎn)與其鄰居節(jié)點(diǎn)的一致性，同時(shí)以該一致性的平均值作為對(duì)應(yīng)節(jié)點(diǎn)的異常值。

4.如權(quán)利要求1所述的基于圖神經(jīng)網(wǎng)絡(luò)的多變量時(shí)間序列異常檢測(cè)方法，其特征在于，該待異常檢測(cè)的物理系統(tǒng)應(yīng)為包含復(fù)雜控制邏輯的信息物理系統(tǒng)，包括電廠、數(shù)據(jù)中心和智能工廠等；該傳感器包括電流、電壓、溫度、速度及壓力、扭矩、流量、位移傳感器。

5.一種基于圖神經(jīng)網(wǎng)絡(luò)的多變量時(shí)間序列異常檢測(cè)系統(tǒng)，其特征在于，包括：

初始模塊，用于獲取待異常檢測(cè)物理系統(tǒng)的中各傳感器采集的數(shù)據(jù)，并以傳感器作為概率圖模型中節(jié)點(diǎn)，以傳感器監(jiān)測(cè)的數(shù)據(jù)作為時(shí)間序列，對(duì)多維時(shí)間序列關(guān)系建模，得到動(dòng)態(tài)圖神經(jīng)網(wǎng)絡(luò)模型；

聚合模塊，用于采用多頭注意力機(jī)制對(duì)該動(dòng)態(tài)圖神經(jīng)網(wǎng)絡(luò)模型中節(jié)點(diǎn)的特征進(jìn)行聚合，以得到各節(jié)點(diǎn)下一時(shí)間點(diǎn)的預(yù)測(cè)值，并采用歸一化的時(shí)間對(duì)齊測(cè)度各節(jié)點(diǎn)的鄰接矩陣；

訓(xùn)練模塊，用于當(dāng)時(shí)間進(jìn)行到下一時(shí)間點(diǎn)，獲取節(jié)點(diǎn)的真實(shí)值，根據(jù)該預(yù)測(cè)值和該真實(shí)值，構(gòu)建引入該鄰接矩陣重構(gòu)誤差的損失函數(shù)，以訓(xùn)練更新該動(dòng)態(tài)圖神經(jīng)網(wǎng)絡(luò)模型，同時(shí)根據(jù)各節(jié)點(diǎn)損失函數(shù)數(shù)值及其鄰居節(jié)點(diǎn)在分布上的差異性和鄰接矩陣值，得到各節(jié)點(diǎn)的異常值；

報(bào)警模塊，用于當(dāng)同一時(shí)間點(diǎn)的節(jié)點(diǎn)預(yù)測(cè)值與真實(shí)值的誤差大于設(shè)定閾值，則產(chǎn)生對(duì)應(yīng)節(jié)點(diǎn)的異常報(bào)警。