[發明專利]針對深度學習算法的側信道攻擊的防護方法

在審

• 申請號: 202010428998.0
• 申請日: 2020-05-20
• 公開（公告）號: CN111597551A
• 公開（公告）日: 2020-08-28
• 發明（設計）人: 董高峰;胡紅鋼
• 申請（專利權）人: 中國科學技術大學
• 主分類號: G06F21/55
• 分類號: G06F21/55;G06N3/04
• 代理公司: 北京凱特來知識產權代理有限公司 11260
• 代理人: 鄭立明;韓珂

1.一種針對深度學習算法的側信道攻擊的防護方法，其特征在于，包括：

深度神經網絡對于網絡參數與輸入數據進行運算處理之前，對網絡參數與輸入數據同時進行隨機置換，并按照隨機置換后的編號進行運算；隨機置換后的編號相對于初始的順序編號而言是隨機的；

按照隨機置換后的編號進行運算獲得運算結果O′，該運算O′與按照順序編號運算獲得的運算結果O相同。

2.根據權利要求1所述的一種針對深度學習算法的側信道攻擊的防護方法，其特征在于，深度神經網絡包含多個層次，每一層都包含多個神經元；對于每個神經元單獨進行一次隨機置換，或者一次推斷中多個神經元共用一次隨機置換，或者多次推斷中多個神經元共用一次隨機置換。

3.根據權利要求1所述的一種針對深度學習算法的側信道攻擊的防護方法，其特征在于，

深度神經網絡中單個神經元按照順序編號運算表示為：

其中，f為單個神經元的運算函數，N為輸入的個數，x₁，x₂，…，x_N為輸入數據，θ₁，θ₂，…，θ_N為與輸入數據直接運算的網絡參數，θ′表示其他參數；

通過隨機置換模塊對網絡參數與輸入數據同時進行隨機置換后，單個神經元運算表示為：

O′＝f(θ_π(1)，x_π(1)；θ_π(2)，x_π(2)；…；θ_π(N)，x_π(N)；θ′)

其中，π表示隨機置換函數，π(1)，π(2)，...，π(N)表示隨機置換后的編號。

4.根據權利要求1或3所述的一種針對深度學習算法的側信道攻擊的防護方法，其特征在于，深度神經網絡運算處理中，網絡參數與輸入數據為敏感值；

深度神經網絡按照順序編號運算時，成功恢復所有敏感值的概率為：

通過隨機置換后成功恢復原順序的概率為：

其中，N為輸入數據總數，p_i表示成功恢復第i個敏感值的概率。