[發(fā)明專利]一種面向電力系統(tǒng)智能模型后門攻擊的安全防御系統(tǒng)及方法

在審

• 申請(qǐng)?zhí)枺?/td>: 202211417348.1
• 申請(qǐng)日: 2022-11-11
• 公開（公告）號(hào): CN116108434A
• 公開（公告）日: 2023-05-12
• 發(fā)明（設(shè)計(jì)）人: 胡威;王嬋;黃星杰;程杰;趙金夢(mèng);董子?jì)?/a>;尚智婕;張靜;李曉勐;李勁松
• 申請(qǐng)（專利權(quán)）人: 國家電網(wǎng)有限公司信息通信分公司
• 主分類號(hào): G06F21/56
• 分類號(hào): G06F21/56;G06N3/082;G06Q50/06
• 代理公司: 鄭州歐凱專利代理事務(wù)所(普通合伙) 41166
• 代理人: 程書強(qiáng)

1.一種面向電力系統(tǒng)智能模型后門攻擊的安全防御系統(tǒng)，其特征在于，包括：

后門檢測(cè)模塊：所述后門檢測(cè)模塊用于篩選出電力系統(tǒng)智能模型中具有執(zhí)行后門攻擊可能性的候選毒化神經(jīng)元，該電力系統(tǒng)智能模型是入侵檢測(cè)模型；然后基于篩選出的候選毒化神經(jīng)元，通過逆向工程構(gòu)造后門觸發(fā)器，如果所述后門觸發(fā)器能夠用于激活對(duì)應(yīng)的候選毒化神經(jīng)元，則該候選毒化神經(jīng)元被確定為毒化神經(jīng)元；

后門消除模塊，所述后門消除模塊用于對(duì)毒化神經(jīng)元進(jìn)行剪枝，或/和對(duì)毒化神經(jīng)元的輸入數(shù)據(jù)進(jìn)行限制，防止毒化神經(jīng)元被輸入數(shù)據(jù)激活。

2.根據(jù)權(quán)利要求1所述的面向電力系統(tǒng)智能模型后門攻擊的安全防御系統(tǒng)，其特征在于：所述后門檢測(cè)模塊包括毒化神經(jīng)元篩選單元、后門觸發(fā)器構(gòu)造單元和后門觸發(fā)器驗(yàn)證單元，其中，所述毒化神經(jīng)元篩選單元用于激活電力系統(tǒng)智能模型中的神經(jīng)元，并篩選出候選毒化神經(jīng)元；后門觸發(fā)器構(gòu)造單元用于基于各候選毒化神經(jīng)元，構(gòu)造相應(yīng)的后門觸發(fā)器；所述后門觸發(fā)器驗(yàn)證單元用于驗(yàn)證構(gòu)造出的后門觸發(fā)器的有效性，使得基于后門觸發(fā)器的有效性來判斷候選毒化神經(jīng)元是否確定為毒化神經(jīng)元。

3.根據(jù)權(quán)利要求2所述的面向電力系統(tǒng)智能模型后門攻擊的安全防御系統(tǒng)，其特征在于：所述毒化神經(jīng)元篩選單元在篩選候選毒化神經(jīng)元過程中，給定輸入數(shù)據(jù)得到電力系統(tǒng)智能模型每一層神經(jīng)元的激活信息，對(duì)于不同的輸入數(shù)據(jù)，當(dāng)選定神經(jīng)元的激活信息改變時(shí)，檢查該神經(jīng)元輸出信息的變化情況，若該神經(jīng)元的輸出信息穩(wěn)定于固定的錯(cuò)誤標(biāo)簽，可以判斷該神經(jīng)元為候選毒化神經(jīng)元。

4.根據(jù)權(quán)利要求1所述的面向電力系統(tǒng)智能模型后門攻擊的安全防御系統(tǒng)，其特征在于：所述后門消除模塊包括毒化神經(jīng)元剪枝單元和毒化神經(jīng)元輸入數(shù)據(jù)過濾單元，所述毒化神經(jīng)元剪枝單元用于對(duì)電力系統(tǒng)智能模型的入侵檢測(cè)性能影響比較小的毒化神經(jīng)元進(jìn)行剪枝；所述毒化神經(jīng)元輸入數(shù)據(jù)過濾單元用于對(duì)電力系統(tǒng)智能模型的入侵檢測(cè)性能影響比較大的毒化神經(jīng)元植入輸入數(shù)據(jù)過濾器，所述輸入數(shù)據(jù)過濾器用于對(duì)輸入數(shù)據(jù)進(jìn)行過濾，防止輸入數(shù)據(jù)激活該毒化神經(jīng)元。

5.根據(jù)權(quán)利要求2所述的面向電力系統(tǒng)智能模型后門攻擊的安全防御系統(tǒng)，其特征在于：所述毒化神經(jīng)元篩選單元篩選候選毒化神經(jīng)元的方式如下：

首先，對(duì)于電力系統(tǒng)智能模型M中第i層網(wǎng)絡(luò)的第j個(gè)神經(jīng)元n_ij，i＝1,2,…,h；j＝k₁,k₂,…k_h，將其神經(jīng)元激活值定義為N_ij，輸入一部分干凈樣本x∈D_clean到電力系統(tǒng)智能模型M，獲取第i層網(wǎng)絡(luò)的最大激活值：

其中M(·)表示入侵檢測(cè)模型分類結(jié)果；

然后，將N_ij設(shè)為該層最大激活值重新輸入干凈樣本計(jì)算標(biāo)簽定向更改的概率：

s.t.y_p≠M(fèi)(x)

其中y_p表示入侵檢測(cè)模型Y個(gè)標(biāo)簽中的第p個(gè)，p＝1,2,…,Y；若存在某個(gè)使得大于一個(gè)閾值τ，則認(rèn)為該神經(jīng)元n_ij可能是毒化神經(jīng)元；

從電力系統(tǒng)智能模型M中第一層神經(jīng)元開始，對(duì)每一個(gè)神經(jīng)元重復(fù)上述步驟，篩選出候選毒化神經(jīng)元。