[發明專利]深度網絡防御能力的預測方法及裝置

有效

• 申請號: 201910584728.6
• 申請日: 2019-07-01
• 公開（公告）號: CN110390354B
• 公開（公告）日: 2021-08-27
• 發明（設計）人: 徐小天;孫躍;高冉馨;李敏
• 申請（專利權）人: 華北電力科學研究院有限責任公司;國家電網有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08
• 代理公司: 北京三友知識產權代理有限公司 11127
• 代理人: 王濤;任默聞

1.一種深度網絡防御能力的預測方法，其特征在于，包括：

確定深度網絡輸出的攻擊向量的分類與目標分類的交叉熵；其中，所述深度網絡模型用于對輸入的向量進行分類；

根據深度網絡輸出的分類與目標分類的距離確定該深度網絡對應的損失函數；

基于所述損失函數并采用梯度下降法對所述攻擊向量進行訓練，得到所述損失函數的損失函數值以及訓練后的攻擊向量；

計算訓練后的攻擊向量和訓練之前的攻擊向量之間差值的平滑度，并基于該平滑度與所述損失函數值之間的乘積得到所述深度網絡的評價指標，以根據該評價指標對所述深度網絡的防御能力進行預測；

其中，所述確定深度網絡輸出的攻擊向量的分類與目標分類的交叉熵，包括：

確定深度網絡輸出的攻擊向量的分類與正確分類的第一交叉熵以及確定深度網絡輸出的攻擊向量的分類與指定分類的第二交叉熵；

其中，正確分類是訓練生成攻擊向量的訓練向量所對應的分類，指定分類是預設的攻擊向量對應的分類。

2.根據權利要求1所述的深度網絡防御能力的預測方法，其特征在于，所述根據深度網絡輸出的分類與目標分類的距離確定該深度網絡對應的損失函數，包括：

確定所述第二交叉熵與所述第一交叉熵的差值為該深度網絡對應的損失函數。

3.根據權利要求2所述的深度網絡防御能力的預測方法，其特征在于，在基于所述損失函數并采用梯度下降法對所述攻擊向量進行訓練時，若梯度下降循環中的攻擊向量與訓練之前的攻擊向量之間差值的各個分量中最大模值大于預設值，則采用與所述梯度下降循環中的攻擊向量歐式距離最小的攻擊向量代替該所述梯度下降循環中的攻擊向量，繼續進行梯度下降；

其中，所述歐式距離最小的攻擊向量與訓練之前的攻擊向量之間差值的各個分量中最大模值需要小于預設值。

4.一種深度網絡防御能力的預測裝置，其特征在于，包括：

交叉熵單元，用于確定深度網絡輸出的攻擊向量的分類與目標分類的交叉熵；其中，所述深度網絡模型用于對輸入的向量進行分類；

損失函數單元，用于根據深度網絡輸出的分類與目標分類的距離確定該深度網絡對應的損失函數；

訓練單元，用于基于所述損失函數并采用梯度下降法對所述攻擊向量進行訓練，得到所述損失函數的損失函數值以及訓練后的攻擊向量；

確定單元，用于計算訓練后的攻擊向量和訓練之前的攻擊向量之間差值的平滑度，并基于該平滑度與所述損失函數值之間的乘積得到所述深度網絡的評價指標，以根據該評價指標對所述深度網絡的防御能力進行預測；

其中，所述交叉熵單元包括：

計算子單元，用于確定深度網絡輸出的攻擊向量的分類與正確分類的第一交叉熵以及確定深度網絡輸出的攻擊向量的分類與指定分類的第二交叉熵；

其中，正確分類是訓練生成攻擊向量的訓練向量所對應的分類，指定分類是預設的攻擊向量對應的分類。

5.根據權利要求4所述的深度網絡防御能力的預測裝置，其特征在于，所述損失函數單元包括：

函數子單元，用于確定所述第二交叉熵與所述第一交叉熵的差值為該深度網絡對應的損失函數。

6.根據權利要求5所述的深度網絡防御能力的預測裝置，其特征在于，在基于所述損失函數并采用梯度下降法對所述攻擊向量進行訓練時，若梯度下降循環中的攻擊向量與訓練之前的攻擊向量之間差值的各個分量中最大模值大于預設值，則采用與所述梯度下降循環中的攻擊向量歐式距離最小的攻擊向量代替該所述梯度下降循環中的攻擊向量，繼續進行梯度下降；

其中，所述歐式距離最小的攻擊向量與訓練之前的攻擊向量之間差值的各個分量中最大模值需要小于預設值。

7.一種電子設備，包括存儲器、處理器及存儲在存儲器上并可在處理器上運行的計算機程序，其特征在于，所述處理器執行所述程序時實現權利要求1至3任一項所述的深度網絡防御能力的預測方法的步驟。

8.一種計算機可讀存儲介質，其上存儲有計算機程序，其特征在于，該計算機程序被處理器執行時實現權利要求1至3任一項所述的深度網絡防御能力的預測方法的步驟。