[發(fā)明專利]基于自監(jiān)督學(xué)習(xí)和自知識蒸餾的物聯(lián)網(wǎng)入侵檢測方法

在審

• 申請?zhí)枺?/td>: 202210446932.3
• 申請日: 2022-04-26
• 公開（公告）號: CN114861875A
• 公開（公告）日: 2022-08-05
• 發(fā)明（設(shè)計(jì)）人: 王振東;李澤煜;王俊嶺;楊書新;李大海;陳瀟瀟
• 申請（專利權(quán)）人: 江西理工大學(xué)
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08;H04L9/40
• 代理公司: 北京知呱呱知識產(chǎn)權(quán)代理有限公司 11577
• 代理人: 朱芳

基于自監(jiān)督學(xué)習(xí)和自知識蒸餾的物聯(lián)網(wǎng)入侵檢測方法，輕量級入侵檢測模型第一階段訓(xùn)練：確定在線網(wǎng)絡(luò)和目標(biāo)網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)，并使用在線網(wǎng)絡(luò)的權(quán)重初始化目標(biāo)網(wǎng)絡(luò)參數(shù)；將增強(qiáng)數(shù)據(jù)分別輸入到在線網(wǎng)絡(luò)和目標(biāo)網(wǎng)絡(luò)進(jìn)行訓(xùn)練；根據(jù)自監(jiān)督對比學(xué)習(xí)的損失函數(shù)所得的損失值調(diào)整訓(xùn)練過程的誤差，直到在線網(wǎng)絡(luò)達(dá)到收斂；保存在線網(wǎng)絡(luò)的權(quán)重到本地以用于第二階段訓(xùn)練；第二階段訓(xùn)練：確定學(xué)生網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)，加載在線網(wǎng)絡(luò)權(quán)重到教師網(wǎng)絡(luò)；將增強(qiáng)數(shù)據(jù)輸入學(xué)生網(wǎng)絡(luò)和教師網(wǎng)絡(luò)進(jìn)行訓(xùn)練；根據(jù)自知識蒸餾的損失函數(shù)所得損失值調(diào)整訓(xùn)練過程的誤差，直到學(xué)生網(wǎng)絡(luò)達(dá)到收斂；保存學(xué)生網(wǎng)絡(luò)權(quán)重到本地以用于輕量級入侵檢測模型測試。本發(fā)明提升入侵檢測速度，復(fù)雜度低。

技術(shù)領(lǐng)域

本發(fā)明屬于物聯(lián)網(wǎng)技術(shù)領(lǐng)域，具體涉及一種基于自監(jiān)督學(xué)習(xí)和自知識蒸餾的物聯(lián)網(wǎng)入侵檢測方法。

背景技術(shù)

物聯(lián)網(wǎng)是互聯(lián)網(wǎng)的一個延伸，是萬物相連的互聯(lián)網(wǎng)，其核心和基礎(chǔ)仍然是互聯(lián)網(wǎng)，是在互聯(lián)網(wǎng)基礎(chǔ)上的延伸和擴(kuò)展的網(wǎng)絡(luò)。物聯(lián)網(wǎng)是通過傳感設(shè)備，按約定的協(xié)議把任何物品與互聯(lián)網(wǎng)相連接，進(jìn)行信息交換和通信，以實(shí)現(xiàn)對物品的智能化識別、定位、跟蹤、監(jiān)控和管理的一種網(wǎng)絡(luò)。物聯(lián)網(wǎng)技術(shù)的興起，改變了信息世界新的走向，被認(rèn)為是繼計(jì)算機(jī)和互聯(lián)網(wǎng)之后的第三次信息發(fā)展浪潮。如今，物聯(lián)網(wǎng)技術(shù)正在悄悄地改變我們的生活方式，為我們的生活提供各種便利，例如智慧城市、醫(yī)療保健、智能家居智能可穿戴設(shè)備等等。然而，由于物聯(lián)網(wǎng)設(shè)備擁有者們?nèi)狈ο嚓P(guān)的網(wǎng)絡(luò)安全知識，黑客對網(wǎng)絡(luò)物理設(shè)備的攻擊，例如可穿戴設(shè)備，醫(yī)療起搏器，汽車自動駕駛或者是由連接設(shè)備控制的昂貴工業(yè)流程等，個人或者公司的隱私數(shù)據(jù)被竊取從而造成巨大的財(cái)產(chǎn)損失，有時甚至可能會造成嚴(yán)重的生命安全事故。

盡管網(wǎng)絡(luò)安全專家在提高物聯(lián)網(wǎng)安全上已經(jīng)采取了許多的努力，包括對網(wǎng)絡(luò)傳輸?shù)臄?shù)據(jù)加密處理、定期更新固件、使用強(qiáng)密碼以及安全密鑰等等。然而，即使有了上述應(yīng)對措施，物聯(lián)網(wǎng)設(shè)備仍然由于其多樣性容易受到各種網(wǎng)絡(luò)攻擊。如何減輕物聯(lián)網(wǎng)設(shè)備入侵的危害成為了業(yè)界密切關(guān)注的焦點(diǎn)，入侵檢測系統(tǒng)作為網(wǎng)絡(luò)安全的重要組成部分，已經(jīng)成為網(wǎng)絡(luò)攻擊檢測的一種重要手段。根據(jù)檢測技術(shù)的不同，入侵檢測系統(tǒng)可分為基于誤用的入侵檢測和基于異常的入侵檢測。然而，基于誤用的入侵檢測系統(tǒng)高度依賴已有的簽名知識庫，難以檢測零日攻擊，無法適用于未知攻擊的檢測。基于異常的入侵檢測對系統(tǒng)異常的行為進(jìn)行檢測,當(dāng)檢測行為與正常行為偏離較大時，發(fā)出告警信息，同時它能夠依靠已有入侵檢測數(shù)據(jù)集訓(xùn)練機(jī)器學(xué)習(xí)和深度學(xué)習(xí)算法來識別具體的網(wǎng)絡(luò)攻擊類別。

近年來，大量基于機(jī)器學(xué)習(xí)和深度學(xué)習(xí)的入侵檢測系統(tǒng)被廣泛地應(yīng)用在物聯(lián)網(wǎng)設(shè)備的攻擊檢測中，然而在物聯(lián)網(wǎng)中檢測異常流量仍然存在許多挑戰(zhàn)。首先，物聯(lián)網(wǎng)中網(wǎng)絡(luò)節(jié)點(diǎn)通常被部署在資源受限(例如功率有限、計(jì)算、通信和存儲能力有限等等)的設(shè)備中；其次，獲取攻擊標(biāo)記數(shù)據(jù)的代價是昂貴且耗時的，它需要網(wǎng)絡(luò)安全專家的協(xié)助才能認(rèn)定網(wǎng)絡(luò)流量是否為新的攻擊方式；此外，物聯(lián)網(wǎng)網(wǎng)絡(luò)使用不同的協(xié)議棧和標(biāo)準(zhǔn)，這些需求使入侵檢測系統(tǒng)需要設(shè)計(jì)出相應(yīng)的安全機(jī)制。因此，一個良好的物聯(lián)網(wǎng)入侵檢測系統(tǒng)需要符合輕量級、實(shí)時性和無監(jiān)督等特性，然而現(xiàn)有的入侵檢測系統(tǒng)大部分只是滿足三個特性的其中之一，很少有滿足三個特性的物聯(lián)網(wǎng)入侵檢測系統(tǒng)。

因此，如何在不降低入侵檢測模型效率的同時壓縮模型的大小、提升模型的泛化能力以及避免過度依賴標(biāo)簽數(shù)據(jù)的入侵檢測技術(shù)是值得研究的。

發(fā)明內(nèi)容

為此，本發(fā)明提供一種基于自監(jiān)督學(xué)習(xí)和自知識蒸餾的物聯(lián)網(wǎng)入侵檢測方法，實(shí)現(xiàn)輕量級、實(shí)時性和無監(jiān)督等特性的物聯(lián)網(wǎng)入侵檢測，降低對標(biāo)簽的過度依賴，提示泛化能力。

為了實(shí)現(xiàn)上述目的，本發(fā)明提供如下技術(shù)方案：基于自監(jiān)督學(xué)習(xí)和自知識蒸餾的物聯(lián)網(wǎng)入侵檢測方法，包括：

(1)對入侵檢測數(shù)據(jù)集進(jìn)行數(shù)據(jù)預(yù)處理，所述數(shù)據(jù)預(yù)處理包括字符型數(shù)據(jù)熱獨(dú)編碼和數(shù)據(jù)歸一化處理；

(2)輕量級入侵檢測模型第一階段訓(xùn)練：

(21)確定在線網(wǎng)絡(luò)和目標(biāo)網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)，并使用在線網(wǎng)絡(luò)的權(quán)重初始化目標(biāo)網(wǎng)絡(luò)參數(shù)；