[發明專利]一種基于原始生成對抗網絡模型的分組卷積方法

在審

• 申請號: 201810101710.1
• 申請日: 2018-02-01
• 公開（公告）號: CN108470208A
• 公開（公告）日: 2018-08-31
• 發明（設計）人: 周智恒;李立軍
• 申請（專利權）人: 華南理工大學
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/063;G06N3/08;G06K9/62
• 代理公司: 廣州市華學知識產權代理有限公司 44245
• 代理人: 李斌

本發明公開了一種基于原始生成對抗網絡模型的分組卷積方法，屬于深度學習神經網絡領域，包括以下步驟：S1、構造原始生成對抗網絡模型；S2、構造神經網絡充當生成器與判別器的功能；S3、初始化隨機噪聲，輸入生成器中；S4、設定分組數量N，使神經網絡的卷積在N個GPU上進行；S5、將N個特征圖進行融合，更新損失函數，進行后續訓練。本方法構建的基于分組卷積的深度卷積對抗網絡模型，對卷積進行了分組，使其在多個GPU中同時進行，最后將卷積的結果進行融合，從而大大地減少了參數量，提高了整個網絡訓練的效率。

技術領域

本發明涉及深度學習神經網絡技術領域，具體涉及一種基于原始生成對抗網絡模型的分組卷積方法。

背景技術

生成式對抗網絡(Generative Adversarial Network,簡稱GAN)是由Goodfellow在2014年提出的深度學習框架，它基于“博奕論”的思想，構造生成器(generator)和判別器(discriminator)兩種模型，前者通過輸入(0，1)的均勻噪聲或高斯隨機噪聲生成圖像，后者對輸入的圖像進行判別，確定是來自數據集的圖像還是由生成器產生的圖像。

在傳統的對抗網絡模型中，所有的卷積操作都只在單個GPU中進行，在這種情況下，整個網絡訓練的參數量十分巨大，每次訓練之后都需要對龐大的參數量進行更新，訓練的效率較為低下。

發明內容

本發明的目的是為了解決現有技術中的上述缺陷，提供一種基于原始生成對抗網絡模型的分組卷積方法。

本發明的目的可以通過采取如下技術方案達到：

一種基于原始生成對抗網絡模型的分組卷積方法，所述的分組卷積方法包括下列步驟：

S1、構造原始生成對抗網絡模型，通過生成器生成圖像并輸入至判別器進行網絡訓練；

S2、構造包含N個卷積核的神經網絡充當生成器與判別器的功能；

S3、初始化隨機噪聲，輸入生成器中；

S4、設定分組數量N，使神經網絡的卷積在N個GPU上進行；

S5、將N個特征圖進行融合，更新損失函數，進行后續訓練。

進一步地，所述的卷積核和所述的GPU的數量N是根據數據集圖像特征的復雜程度進行設置。

進一步地，所述的步驟S4過程如下：

S41、設定分組數量N；

S42、將卷積分配到N個GPU上同時進行。

進一步地，所述的步驟S5過程如下：

S51、收集各個分組GPU卷積之后的特征圖；

S52、將N個特征圖進行融合，更新損失函數，進行后續訓練。

進一步地，所述的損失函數的表達式為：

其中，D(x)表示判別器對圖像的判別，pr表示數據集圖像的分布，pg表示生成圖像的分布，λ為超參數，為梯度。

本發明相對于現有技術具有如下的優點及效果：

本發明公開的基于原始生成對抗網絡模型的分組卷積方法，對卷積進行了分組，使其在多個GPU中同時進行，最后將卷積的結果進行融合，從而大大地減少了參數量，提高了整個網絡訓練的效率，相比傳統的對抗網絡模型具有高效性。

附圖說明

圖1是本發明中原始生成對抗網絡通過空洞卷積進行訓練的整體流程圖；

圖2是將卷積層分組進行卷積的示意圖。