[發明專利]一種低誤比特率的對抗式神經網絡加密訓練方法

有效

• 申請號: 201910828211.7
• 申請日: 2019-09-03
• 公開（公告）號: CN110598861B
• 公開（公告）日: 2021-02-05
• 發明（設計）人: 劉洋;劉一禮;錢堃;胡紹剛;于奇
• 申請（專利權）人: 電子科技大學
• 主分類號: G06N3/08
• 分類號: G06N3/08;G06F21/60
• 代理公司: 電子科技大學專利中心 51203
• 代理人: 閆樹平

本發明涉及人工智能領域，尤其涉及一種低誤比特率的對抗式神經網絡加密訓練方法。本發明通過加入超參數η調整多項式損失函數比例以實現低誤比特率的對抗性神經網絡加密訓練方法。在對抗性神經網絡加密訓練過程中，加入超參數η調整生成器多項式損失函數每一項所占的比例，通過反復訓練和測試擇優選擇以得到一個低誤比特率的訓練結果，這種方法簡潔易懂，易于實施且效果好。

技術領域

本發明涉及人工智能領域，尤其涉及一種低誤比特率的對抗式神經網絡加密訓練方法。

背景技術

對抗性神經網絡是一種深度學習模型，是近年來復雜分布上無監督學習最具前景的方法之一。該神經網絡通過兩個模塊，即生成器和判別器的互相博弈學習來訓練一個很好的生成器。

2016年，Google Brain團隊的Abadi和Andersen提出了利用對抗性神經網絡自主學習加密算法，其中對抗性神經網絡由三個神經網絡構成，即Alice、Bob和Eve，Eve試圖竊聽Alice和Bob的通信內容，Alice和Bob試圖學習如何保護他們的通信不受Eve的竊聽，在不斷的對抗學習中，Alice和Bob自主學會了正確的安全加解密方法，同時Eve由竊聽的內容破解正確出的明文的正確率為50％。這種做法與傳統神經網絡加密的做法有所不同，傳統神經網絡加密是利用神經網絡的隨機性與傳統加密算法相結合，神經網絡并沒有學習到新的加密算法，而對抗性神經網絡可以自主學習加密算法，這種做法為神經網絡加密提供了一種全新的思路。

但這種做法也有所不足，首先是訓練得到的Alice和Bob加解密網絡系統對外顯示為黑盒，我們無法得知神經網絡自主學到的加密算法是什么形式，然后是Abadi和Andersen給出的神經網絡訓練完成的考量標準是Alice和Bob加解密網絡損失函數的大小以及Eve竊聽網絡每組恢復的明文與原始明文的差距，沒有對最后訓練完成的神經網絡加密的具體加密效果進行測試，例如神經網絡加密的統計特性或者是加解密的誤比特率，按照Abadi和Andersen提出的訓練方法，訓練出的神經網絡加解密誤比特率較高，這會導致加密過程中加解密雙方信息傳遞的誤差較大，從而實用性低。

現有技術在實現低誤比特率的對抗性神經網絡加密訓練方法方面還略顯欠缺。

發明內容

針對上述存在問題或不足，為了解決現有對抗性神經網絡加密訓練方法誤比特率較高的問題，本發明提供了一種低誤比特率的對抗式神經網絡加密訓練方法。

技術方案具體如下：

步驟1、首先初始化生成器和判別器的神經網絡參數。

步驟2、生成器中的加密網絡和解密網絡學習安全的加密通信，構建生成器損失函數以使解密網絡解密的明文與輸入加密網絡的原始明文差異為零，同時使得判別器通過加密攻擊竊聽內容恢復的明文與原始明文相比差異為隨機猜測(50％)，然后通過優化算法更新生成器的權值和偏置。

步驟3、判別器根據加密攻擊類型竊聽加密內容來恢復明文，構建判別器損失函數以使該判別器恢復的明文與原始明文差異為零，然后通過優化算法更新判別器的權值和偏置。

步驟4、在整個神經網絡訓練過程中步驟2和步驟3為一步訓練，生成器和判別器在每一步訓練中依次進行，重復訓練至少15000次。

步驟5、隨機輸入至少500000組用于測試的明文密鑰對進行加解密，測試解密網絡解密的明文與輸入加密網絡的原始明文的誤比特率，同時測試判別器通過加密攻擊竊聽的內容與原始內容的誤比特率。

步驟6、在生成器中加入超參數η調節其多項式損失函數，用超參數η分別乘以多項式損失函數的每一項得到對應項數個的多項式損失函數，然后在得到的調節后的每個多項式損失函數中，超參數η從0至1逐步取值，逐一訓練，然后采用步驟5的方法逐一測試誤比特率。