[發(fā)明專利]一種基于改進學習率的深度學習網絡入侵檢測方法

在審

• 申請?zhí)枺?/td>: 201910392003.7
• 申請日: 2019-05-13
• 公開（公告）號: CN110300095A
• 公開（公告）日: 2019-10-01
• 發(fā)明（設計）人: 宋雪樺;汪盼;解暉;鄧壯來;王昌達;金華
• 申請（專利權）人: 江蘇大學
• 主分類號: H04L29/06
• 分類號: H04L29/06;H04L12/24
• 代理公司: 暫無信息
• 代理人: 暫無信息

1.一種基于改進學習率的深度學習網絡入侵檢測方法，其特征在于，包括如下步驟：

步驟1：改進深度信念網絡(DBN)模型在訓練中的學習率及迭代次數的確定方法；

步驟2：利用改進的深度信念網絡模型和softmax回歸函數建立網絡入侵檢測用的深度信念網絡-softmax多分類組合模型；

步驟3：使用公開的網絡入侵檢測數據集的訓練數據對步驟2的多分類組合模型進行訓練；

步驟4：使用訓練完成的多分類組合模型對網絡入侵檢測數據集的測試數據進行識別分類。

2.如權利要求1所述的一種基于改進學習率的深度學習網絡入侵檢測方法，其特征在于：所述步驟1包括以下步驟：

步驟1.1：令ε_ij為每個連接權重W_ij對應的學習速率，ε_ij(t)＝ψ(ε_i，j(t-1))，其中ψ為ε_ij對應的變換映射規(guī)則，t為訓練次數；

步驟1.2：若當前更新梯度grad(t)_ij和上一次更新梯度grad(t-1)_ij具有相同方向，進行步驟1.3；若當前更新梯度grad(t)_ij和上一次更新梯度grad(t-1)_ij具有相反方向，進行步驟1.4，若當前更新梯度grad(t)_ij或上一次更新梯度grad(t-1)_ij存在零值，則ε_ij(t)＝ε_ij(t--1)；

步驟1.3：ε_ij(t)＝με_ij(t-1)，其中，μ表示學習率的增量系數(μ＞1)；

步驟1.4：ε_ij(t)＝dε_ij(t-1)，其中，d表示學習速率的衰減系數(d＜1)；

步驟1.5：取當前重構誤差err(t)和上一次的重構誤差err(t-1)的差值的絕對值∈，當∈無限趨近于0，停止迭代，確定訓練次數t。

3.如權利要求2所述的一種基于改進學習率的深度學習網絡入侵檢測方法，其特征在于：所述步驟1.2中，其中，v_i表示初始化受限玻爾茲曼機(RBM)可視層單元，表示v_i經過CD快速學習算法后重構的可視層單元。

4.如權利要求1所述的一種基于改進學習率的深度學習網絡入侵檢測方法，其特征在于：所述步驟2包括以下步驟：

步驟2.1：以改進后的深度信念網絡模型與softmax回歸函數建立深度信念網絡-softmax多分類組合模型，利用深度信念網絡進行特征降維，采用softmax分類器對網絡入侵數據進行識別；

步驟2.2：輸入網絡數據x＝{x₁，x₂，...，x_n}，其中，任意一條網絡數據包含n個屬性；

步驟2.3：利用深度信念網絡對輸入網絡數據x進行特征提取，其中，Θ表示抽象出更高層特征的函數，函數f用于提取出所述網絡數據中每個屬性對應的特征；

步驟2.4：輸入Q至softmax分類器，最終獲得輸出預測值out＝arg max(Φ(Q))，其中，Φ表示softmax回歸函數。

5.如權利要求4所述的一種基于改進學習率的深度學習網絡入侵檢測方法，其特征在于：所述步驟2.4中，假設網絡數據類別數量為k，對于m個給定的Q，softmax回歸的代價函數：其中，λ是權重衰減項，1{·}是示性函數，取值規(guī)則：1{值為真的表達式}＝1，1{值為假的表達式}＝0，θ為softmax模型參數，n為輸入特征數。