[發明專利]基于圖像特征分析的抵御神經網絡后門攻擊方法及系統

有效

• 申請號: 202110398727.X
• 申請日: 2021-04-12
• 公開（公告）號: CN113205115B
• 公開（公告）日: 2022-03-04
• 發明（設計）人: 王騫;龔雪鸞;周峻韜;張云駐
• 申請（專利權）人: 武漢大學
• 主分類號: G06V10/764
• 分類號: G06V10/764;G06V10/774;G06V10/82;G06K9/62;G06N3/08
• 代理公司: 武漢科皓知識產權代理事務所(特殊普通合伙) 42222
• 代理人: 嚴彥

1.一種抵御神經網絡后門攻擊的圖像特征分析方法，其特征在于，包括以下步驟：

步驟1，數據處理與模型初始化，包括在需要訓練新模型且良性數據過少時進行數據增強，得到干凈數據集D_c；

步驟2，基于初始深度神經網絡模型，進行良性數據特征共性分析，包括特征選擇和特征提取；

在特征選擇階段，將特征選擇的過程融入到全連接層，選擇出與標簽關聯性較強的特征；

在特征提取階段，將干凈數據集D_c送入深度神經網絡進行正向傳播，提取倒數第二層輸出作為特征向量，并根據標簽整合成特征向量集Fc_i；計算每個Fc_i的特征空間質心μ并確定該類別特征向量能夠接受的半徑r，使得以μ為中心以r為半徑的特征空間中至少包含λ的該類特征向量，所得特征空間域為對應類別可接受的特征范圍；其中，λ為預設的百分比；

步驟3，特征差異分析，基于質心防御策略初步篩選惡意數據，實現方式如下，

將待查數據集D_u輸入深度神經網絡進行正向傳播，并根據標簽將深度神經網絡倒數第二層的輸出整合成特征向量集Fu_i；計算Fu_i中的每一個特征向量與對應標簽的質心μ_i的距離du_i，判斷du_i與該類別特征向量能夠接受的半徑r_i的大小關系，

如果du_i＞r_i，說明該特征向量在可接受半徑之外，將其定義為可疑特征向量x⁽ⁱ⁾，并進行步驟4細篩相應可疑數據；

如果du_i≤r_i，說明該特征向量在可接受半徑之內，判定為干凈數據，加入到對應標簽的Fc_i中，并將相應數據送入深度神經網絡模型進行訓練，之后更新對應類別的質心μ_i和特征向量可接受半徑r_i；

步驟4，基于深度KNN防御策略二次篩查可疑數據。

2.根據權利要求1所述抵御神經網絡后門攻擊的圖像特征分析方法，其特征在于：步驟4的實現方式如下，

根據步驟3所選出的可疑數據中各類別數據的大小選定K值，并計算出該可疑數據對應特征向量的K個最鄰近特征向量，如果該鄰近特征向量與可疑數據的標簽相同，則投肯定票反之，投否定票比較兩種票的數目總合t_p，t_c的大小關系：

如果t_p＞t_c，則該可疑樣本x⁽ⁱ⁾為干凈樣本，并進行后續操作；

如果t_p＜t_c，則該可疑樣本x⁽ⁱ⁾為有毒樣本，則徹底舍棄該數據；

重復進行上述操作，直到所有的可疑數據均操作完畢，有毒數據被過濾掉。

3.根據權利要求1或2所述抵御神經網絡后門攻擊的圖像特征分析方法，其特征在于：λ＝70％。

4.一種抵御神經網絡后門攻擊的圖像特征分析系統，其特征在于：用于實現如權利要求1-3任一項所述的一種抵御神經網絡后門攻擊的圖像特征分析方法。