[發明專利]基于魯棒水印的深度學習模型保護方法

有效

• 申請號: 202210215226.8
• 申請日: 2022-03-07
• 公開（公告）號: CN114329365B
• 公開（公告）日: 2022-06-10
• 發明（設計）人: 練智超;李騰飛;李千目
• 申請（專利權）人: 南京理工大學
• 主分類號: G06F21/16
• 分類號: G06F21/16;G06N3/04;G06N3/08
• 代理公司: 南京申云知識產權代理事務所(普通合伙) 32274
• 代理人: 邱興天

1.一種基于魯棒水印的深度學習模型保護方法，其特征在于，采用不同的剪枝方法分別選擇重要濾子，然后對不同剪枝方法取得的濾子進行求交集選擇具有普遍性和重要性的濾子；然后對選擇的濾子進行處理后作為水印嵌入模型中，包括以下步驟：

步驟1：選擇要向模型中嵌入的水??；

將要嵌入的水印轉化為二進制并且進行映射，獲得水印為A={A_i|A_i∈{-1，1}，i∈[0，f-1]}，f表示水印的位數；

步驟2：通過偽隨機數生成器生成噪聲序列；

步驟3：使用生成的噪聲序列對水印進行加噪；

方法為：噪聲序列為PR={PR_i|PR_i∈{-1，1},i∈[0，f-1]}，PR_i表示噪聲序列在第i位的值，通過噪聲序列對水印進行加噪，獲得水印為FA={FA_i|FA_i=PR_i×A_i，i∈[0，f-1]}，噪聲序列和水印的位數相同；

步驟4：使用基于熵的剪枝方法選擇重要濾子，方法如下：

步驟4.1：將第i層的濾子產生的激活張量表示為，同時也是第i+1層的輸入，c、h、w分別代表激活張量在不同維度下的大小，采用全局池化層映射為1×c的向量；

步驟4.2：輸入g張圖片，可以獲得矩陣，將每一個通道分成b個塊，通過求熵公式獲得每個通道的熵，其中p_i表示為第i個塊的概率；

步驟4.3：對求得的通道的熵進行降序排序，選取前m個，獲得在此方法下的重要濾子序列T={T₁,T₂,?,T_m}；

步驟5：使用基于L1范式的剪枝方法選擇重要濾子；

對每一個濾子求絕對值之和，對不同濾子的絕對值進行降序排列并進行選擇，獲取此方法下的重要濾子序列；

步驟6：使用基于BN的縮放因子選擇重要濾子；

對模型訓練之前在模型卷積層之后加入BN層，且在訓練之后對不同濾子的比例因子進行降序排列并進行選擇，獲取此方法下的重要濾子序列；

步驟7：對步驟4-步驟6中采用不同剪枝方法求得的重要濾子求交集選擇更加具有普遍性和重要性的濾子，得到重要濾子序列，并從重要濾子序列中選取多個濾子作為最后的水印載體；

步驟8：對于已經選擇的重要濾子的每一層選擇絕對值最大的參數，并且作為載體嵌入1bit的水印，并通過對絕對值最大的參數與要嵌入水印的參數進行映射來完成水印的嵌入；

步驟9：對嵌入水印之后的模型進行微調，直到模型的性能恢復到未嵌入水印的水平，得到水印模型。