[發(fā)明專利]物聯(lián)網(wǎng)環(huán)境下基于多層極限學(xué)習(xí)機(jī)的分布式入侵檢測方法

有效

• 申請?zhí)枺?/td>: 202011503520.6
• 申請日: 2020-12-18
• 公開（公告）號: CN112653751B
• 公開（公告）日: 2022-05-13
• 發(fā)明（設(shè)計(jì)）人: 付興兵;吳炳金;焦利彬;索宏澤;章堅(jiān)武;唐向宏
• 申請（專利權(quán)）人: 杭州電子科技大學(xué);中國電子科技集團(tuán)公司第五十四研究所
• 主分類號: H04L67/12
• 分類號: H04L67/12;H04L9/40;H04L41/14;G06N3/04;G06N3/08
• 代理公司: 杭州君度專利代理事務(wù)所(特殊普通合伙) 33240
• 代理人: 楊舟濤

1.物聯(lián)網(wǎng)環(huán)境下基于多層極限學(xué)習(xí)機(jī)的分布式入侵檢測方法，其特征在于，包括如下步驟：

步驟1：對網(wǎng)絡(luò)流量數(shù)據(jù)進(jìn)行預(yù)處理；

步驟2：搭建單隱藏層極限學(xué)習(xí)機(jī)分類模型；

步驟2.1，單隱藏層極限學(xué)習(xí)機(jī)一共有三層，第一層是輸入層，第二層是隱藏層，第三層是輸出層；其中輸入層和隱藏層的連接權(quán)值w和偏置b是隨機(jī)設(shè)定的，特征列數(shù)量為隱藏層隱藏節(jié)點(diǎn)數(shù)；偏置b通過給輸入特征矩陣加入一列全1的值實(shí)現(xiàn)；

步驟2.2，對于任意的輸入樣本，首先經(jīng)過任意的權(quán)重w和偏置b進(jìn)行線性運(yùn)算得到特征矩陣，再利用Sigmoid激活函數(shù)對特征矩陣進(jìn)行非線性運(yùn)算，得到非線性特征矩陣H；其中，Sigmoid激活函數(shù)將特征值映射到[0，1]，其公式如下：

非線性特征矩陣H公式為H_ij＝S(w_i·X_j+b_i)；其中X是輸入樣本數(shù)據(jù)，w_i表示第i個(gè)隱藏節(jié)點(diǎn)的權(quán)重，b_i表示第i個(gè)隱藏節(jié)點(diǎn)的偏置，和X_j表示第j列輸入數(shù)據(jù)的特征列；

步驟2.3，在步驟2.2基礎(chǔ)上，對于一個(gè)有L個(gè)隱藏節(jié)點(diǎn)的單隱藏層神經(jīng)網(wǎng)絡(luò)表示為：

其中，S為Sigmoid激活函數(shù)，N為輸入特征數(shù)據(jù)矩陣的列數(shù)，b_i為隱藏層第i個(gè)的偏置，β_i為第i個(gè)隱藏節(jié)點(diǎn)的輸出權(quán)重，o_j為極限學(xué)習(xí)機(jī)的第j列特征值輸出；

步驟2.4，讓單隱藏層神經(jīng)網(wǎng)絡(luò)的輸出與目標(biāo)值相差最小，因此表示為

其中t_j為目標(biāo)值，因此存在β_i，w_i和b_i，使得

即Hβ＝T，其中，H是隱藏節(jié)點(diǎn)的輸出，β為輸出權(quán)重，T為期望輸出；

步驟2.5，訓(xùn)練單隱藏層極限學(xué)習(xí)機(jī)模型，等價(jià)于得到使得

即最小化損失函數(shù)為

步驟2.6，一旦隨機(jī)確定輸入權(quán)值w和隱藏層偏置b，那么輸出矩陣H也將會(huì)被唯一確定；因此求解單隱藏層神經(jīng)網(wǎng)絡(luò)即為Hβ＝T；輸出權(quán)重可以被確認(rèn)為：

其中是Moore-Penrose廣義逆，

步驟3：搭建多隱藏層極限學(xué)習(xí)機(jī)分類模型；

步驟3.1，多隱藏層極限學(xué)習(xí)機(jī)含有多個(gè)隱藏層，具體層數(shù)由用戶給定的隱藏節(jié)點(diǎn)數(shù)量列表L的長度n決定；

步驟3.2，假設(shè)列表L＝[a₁，a₂，a₃，...a_n]，a_i對應(yīng)了第i個(gè)隱藏層的隱藏節(jié)點(diǎn)數(shù)量；

步驟3.3，對于a₁，其求解輸出權(quán)重β₁的步驟與步驟2中的單隱藏層模型求解步驟一致，將其輸出β₁存入輸出權(quán)重列表M；

步驟3.4，對于a₂，...，a_n-1，每層隱藏層的輸入特征矩陣是該層前面隱藏層的輸出權(quán)重依次與原始輸入特征矩陣做內(nèi)積的結(jié)果，公式表示如下：

X₂＝β₁·X

X₃＝β₂·(β₁·X)＝β₂·X₂

……

X_n-1＝β_n-2·X_n-2

步驟3.5，對于a_n，即最后一層隱藏層，其輸入矩陣為

X_n＝β_n-1·X_n-1

之后代入單隱藏層極限學(xué)習(xí)機(jī)，得到最終的β_n；

步驟4：分別將訓(xùn)練集輸入單隱藏層極限學(xué)習(xí)機(jī)和多隱藏層極限學(xué)習(xí)機(jī)，得到輸出權(quán)重β；

步驟5：利用訓(xùn)練好的多隱藏層極限學(xué)習(xí)機(jī)對測試集進(jìn)行分類。