[發(fā)明專(zhuān)利]使用深度遞歸神經(jīng)網(wǎng)絡(luò)的上下文感知特征嵌入和序列日志數(shù)據(jù)的異常檢測(cè)

在審

• 申請(qǐng)?zhí)枺?/td>: 201980067519.2
• 申請(qǐng)日: 2019-07-23
• 公開(kāi)（公告）號(hào): CN112840355A
• 公開(kāi)（公告）日: 2021-05-25
• 發(fā)明（設(shè)計(jì)）人: H·哈吉米爾薩德;G-T·周;A·布朗斯沃德;N·阿格爾沃;P·錢(qián)德拉謝卡;K·R·尼亞
• 申請(qǐng)（專(zhuān)利權(quán)）人: 甲骨文國(guó)際公司
• 主分類(lèi)號(hào): G06N3/04
• 分類(lèi)號(hào): G06N3/04;H04L29/06;G06N3/08;G06N5/02
• 代理公司: 中國(guó)貿(mào)促會(huì)專(zhuān)利商標(biāo)事務(wù)所有限公司 11038
• 代理人: 李曉芳

1.一種方法，包括：

對(duì)于相關(guān)日志消息的序列中的每個(gè)日志消息：

從日志消息中提取一個(gè)或多個(gè)特征中的每個(gè)特征，以生成表示所述一個(gè)或多個(gè)特征的稀疏特征向量；

基于稀疏特征向量，激活編碼器遞歸神經(jīng)網(wǎng)絡(luò)(RNN)的相應(yīng)步驟；以及

由編碼器RNN生成相應(yīng)的嵌入式特征向量，該嵌入式特征向量基于：所述一個(gè)或多個(gè)特征以及在相關(guān)日志消息的序列中更早出現(xiàn)的一個(gè)或多個(gè)日志消息；

處理由編碼器RNN生成的一個(gè)或多個(gè)嵌入式特征向量，以確定能夠在相關(guān)日志消息的序列中出現(xiàn)的預(yù)測(cè)的下一個(gè)相關(guān)日志消息；

其中該方法由一個(gè)或多個(gè)計(jì)算機(jī)執(zhí)行。

2.如權(quán)利要求1所述的方法，其中：

所述一個(gè)或多個(gè)特征包括至少一個(gè)類(lèi)別特征；

日志消息包含所述至少一個(gè)類(lèi)別特征中的每個(gè)類(lèi)別特征的相應(yīng)值；

從日志消息中提取每個(gè)特征以生成稀疏特征向量包括將每個(gè)相應(yīng)值一位有效編碼為稀疏特征向量的相應(yīng)部分。

3.如權(quán)利要求1所述的方法，還包括：

從第二日志消息中提取所述一個(gè)或多個(gè)特征中的每個(gè)特征，以生成與所述稀疏特征向量相同的第二稀疏特征向量；

由編碼器RNN生成第二嵌入式特征向量，該第二嵌入式特征向量基于：所述一個(gè)或多個(gè)特征以及在相關(guān)日志消息的序列中更早出現(xiàn)的第二一個(gè)或多個(gè)日志消息；

其中：

所述一個(gè)或多個(gè)嵌入式特征向量包括第二嵌入式特征向量和所述相應(yīng)的嵌入式特征向量；

第二嵌入式特征向量不同于所述相應(yīng)的嵌入式特征向量。

4.如權(quán)利要求1所述的方法，其中基于稀疏特征向量激活編碼器RNN的相應(yīng)步驟包括：基于稀疏特征向量，激活相應(yīng)的非遞歸神經(jīng)網(wǎng)絡(luò)，該非遞歸神經(jīng)網(wǎng)絡(luò)激活編碼器RNN的相應(yīng)步驟。

5.如權(quán)利要求4所述的方法，其中：

相應(yīng)的非遞歸神經(jīng)網(wǎng)絡(luò)至少包括第一神經(jīng)層和第二神經(jīng)層；

第一神經(jīng)層的每個(gè)神經(jīng)元連接到第二神經(jīng)層的每個(gè)神經(jīng)元。

6.如權(quán)利要求1所述的方法，其中編碼器RNN包括長(zhǎng)短期記憶(LSTM)。

7.如權(quán)利要求1所述的方法，其中所述確定所述預(yù)測(cè)的下一個(gè)相關(guān)日志消息包括預(yù)測(cè)表示所述預(yù)測(cè)的下一個(gè)相關(guān)日志消息的特征的嵌入式特征向量。

8.如權(quán)利要求1所述的方法，其中處理由編碼器RNN生成的所述一個(gè)或多個(gè)嵌入式特征向量包括基于所述一個(gè)或多個(gè)嵌入式特征向量來(lái)激活預(yù)測(cè)器RNN以預(yù)測(cè)所述預(yù)測(cè)的下一個(gè)相關(guān)日志消息。

9.如權(quán)利要求8所述的方法，其中預(yù)測(cè)器RNN包括編碼器RNN。

10.如權(quán)利要求1所述的方法，還包括將實(shí)際相關(guān)日志消息與預(yù)測(cè)的相關(guān)日志消息進(jìn)行比較以計(jì)算預(yù)測(cè)誤差。

11.如權(quán)利要求1所述的方法，還包括對(duì)相關(guān)日志消息的序列中的每個(gè)日志消息的預(yù)測(cè)誤差求平均，以計(jì)算異常分?jǐn)?shù)。

12.如權(quán)利要求11所述的方法，還包括指示異常分?jǐn)?shù)超過(guò)閾值。

13.如權(quán)利要求12所述的方法，其中指示異常分?jǐn)?shù)超過(guò)閾值包括指示以下中的至少一項(xiàng)：在線(xiàn)安全入侵或物聯(lián)網(wǎng)(IoT)故障。

14.如權(quán)利要求1所述的方法，其中由編碼器RNN生成基于所述一個(gè)或多個(gè)特征的所述相應(yīng)的嵌入式特征向量包括：基于所述相應(yīng)的嵌入式特征向量，激活解碼器RNN，以將所述相應(yīng)的嵌入式特征向量解碼成重構(gòu)的稀疏特征向量，該重構(gòu)的稀疏特征向量近似于表示所述一個(gè)或多個(gè)特征的所述稀疏特征向量。

15.如權(quán)利要求14所述的方法，還包括將所述稀疏特征向量與所述重構(gòu)的稀疏特征向量進(jìn)行比較，以計(jì)算重構(gòu)誤差。