[發明專利]一種多目標深度卷積生成式對抗網絡模型的學習方法

在審

• 申請號: 201711442778.8
• 申請日: 2017-12-25
• 公開（公告）號: CN108171266A
• 公開（公告）日: 2018-06-15
• 發明（設計）人: 趙佳琦;夏士雄;周勇;牛強;姚睿;袁冠;孟凡榮
• 申請（專利權）人: 中國礦業大學
• 主分類號: G06K9/62
• 分類號: G06K9/62
• 代理公司: 南京經緯專利商標代理有限公司 32200
• 代理人: 王美章

本發明公開了一種多目標深度卷積生成式對抗網絡模型及其學習方法，主要解決目前深度卷積生成式對抗網絡訓練難以收斂和訓練不穩定問題，其實現方案是：提出了多目標深度卷積生成式對抗網絡模型；采用群搜索策略同時訓練多組深度卷積生成式對抗網絡實現多個個體協同進化保證了模型訓練的穩定性；采用Pareto占優機制每次迭代中選擇潛在最優的生成網絡和對抗網絡的組合進行后期的訓練保證了模型訓練的收斂性；針對深度卷積網絡特性設計了交叉算子實現不同網絡之間參數信息的交互；結合演化算法的全局搜索能力和梯度下降算法的快速局部搜索能力可以有效地保證新提出的學習框架的準確性和有效性。

技術領域

本發明屬于深度學習技術領域，具體涉及一種多目標深度卷積生成式對抗網絡模型及其學習方法，可用于圖片的生成和圖片分類任務。

背景技術

生成式對抗網絡(Generative Adversarial Networks)是一種生成式深度學習模型，關于生成式對抗網絡的研究已經成為深度學習領域的熱點。生成式對抗網絡的主要思想是學習訓練樣本的概率分布，并且根據學習到的分布實現數據的表示和擴充。

生成式對抗網絡在結構上受博弈論中二人零和博弈的啟發，即博弈雙方的收益之和為零，雙方不存在合作關系，一方收益必然會導致另一方的損失。

生成式對抗網由兩個重要部分組成：

一個是生成器(Generator)用于學習數據的分布并根據分布生成新的樣本；

另一個是判別器(Discriminator)用于判斷輸入的樣本是真實數據還是生成器生成的數據。

判別器是一個二值分類器，它的目的是準確地判斷出輸入的樣本是真實的還是生成器生成的。生成器的目的是生成盡可能像真實樣本的數據，讓判別器誤認為生成的數據是真實的樣本。

生成式對抗網絡的學習過程可以看成是判別器和生成器兩者間的極小極大博弈，最終達到納什均衡的狀態。

生成式對抗網絡模型訓練一直以來都是個難點問題，因為訓練生成器和訓練判別器是兩個相互沖突的任務。如果判別器性能太好會把所有的通過生成器生成的數據識別出來，則不利于生成器的學習。如果學習過程中生成器的性能特別好，即生成器可以很好的捕獲真實數據的分布，則不利于判別器性能的提升。所以生成式對抗網絡訓練過程中經常會出現訓練過程不穩定和崩潰模式現象。

所以在訓練過程中兩個網絡的性能需要保證平衡，即生成網絡生成圖像的能力和判別網絡識別圖像的能力要同步提升。

發明內容

針對上述技術問題，本發明提出一種多目標深度卷積生成式對抗網絡模型的學習方法，該方法采用多目標優化技術分別考慮生成器和判別器的損失，同時利用進化算法中群智能搜索的優勢，通過種群之間的競爭與合作機制增強算法的搜索性能，可以更加準確地找到納什均衡點。

為實現上述技術目的，本發明采用如下具體的技術方案：

一種多目標深度卷積生成式對抗網絡模型的學習方法，包括以下幾個步驟：

(1)種群初始化：

采用隨機生成方式初始化n個生成器G和n個判別器D的參數，并且按照順序組合成n組生成式對抗網絡；

(2)局部搜索階段：

單獨訓練n組生成式對抗網絡，更新n組生成式對抗網絡中的生成器和判別器的參數；

(3)種群產生和種群評估：

不同的生成器和判別器通過相互兩兩組合，可以得到n×n組深度卷積生成式對抗網絡模型，可以得到每個生成式對抗網絡組合的目標函數的評估值；

(4)基于Pareto占優的選擇策略：