[發(fā)明專利]一種針對高維數(shù)據(jù)的生成對抗網(wǎng)絡(luò)訓(xùn)練方法、系統(tǒng)及電子設(shè)備

在審

• 申請?zhí)枺?/td>: 201911343340.3
• 申請日: 2019-12-24
• 公開（公告）號: CN111340173A
• 公開（公告）日: 2020-06-26
• 發(fā)明（設(shè)計(jì)）人: 周陽;張涌;寧立;王書強(qiáng);許宜誠;文森特·周
• 申請（專利權(quán)）人: 中國科學(xué)院深圳先進(jìn)技術(shù)研究院
• 主分類號: G06N3/00
• 分類號: G06N3/00
• 代理公司: 深圳市科進(jìn)知識產(chǎn)權(quán)代理事務(wù)所(普通合伙) 44316
• 代理人: 曹衛(wèi)良

本申請涉及一種針對高維數(shù)據(jù)的生成對抗網(wǎng)絡(luò)訓(xùn)練方法、系統(tǒng)及電子設(shè)備。包括：步驟a：搭建生成對抗網(wǎng)絡(luò)骨干結(jié)構(gòu)；步驟b：使用張量火車分解算法對所述生成對抗網(wǎng)絡(luò)骨干結(jié)構(gòu)進(jìn)行張量火車分解；步驟c：使用真實(shí)高維數(shù)據(jù)訓(xùn)練一個(gè)基于張量火車分解的張量自編碼器，通過所述張量自編碼器輸出真實(shí)高維數(shù)據(jù)的空間結(jié)構(gòu)特征；步驟d：將所述張量自編碼器的輸出和判別器生成的最后一層特征相結(jié)合作為最后一層的輸入，對生成對抗網(wǎng)絡(luò)進(jìn)行訓(xùn)練。本申請使生成對抗網(wǎng)絡(luò)具備直接生成高維數(shù)據(jù)的能力，同時(shí)減少網(wǎng)絡(luò)的參數(shù)量，使網(wǎng)絡(luò)的訓(xùn)練更加穩(wěn)定，并提高生成數(shù)據(jù)的質(zhì)量和多樣性。

技術(shù)領(lǐng)域

本申請屬于生成對抗網(wǎng)絡(luò)訓(xùn)練技術(shù)領(lǐng)域，特別涉及一種針對高維數(shù)據(jù)的生成對抗網(wǎng)絡(luò)訓(xùn)練方法、系統(tǒng)及電子設(shè)備。

背景技術(shù)

生成對抗網(wǎng)絡(luò)的主要作用是用一個(gè)假的分布通過不斷地學(xué)習(xí)去擬合真實(shí)分布，隨著深度學(xué)習(xí)的發(fā)展，生成對抗網(wǎng)絡(luò)可以用于生成類似于真實(shí)世界的東西，例如：圖片、音樂、文章等。目前，生成對抗網(wǎng)絡(luò)廣泛應(yīng)用于數(shù)據(jù)集增強(qiáng)、生成人臉照片、醫(yī)學(xué)圖像轉(zhuǎn)換、超分辨率等領(lǐng)域，它的發(fā)展?jié)摿κ志薮蟆?/p>

申請?zhí)枴?01910287274.6”的發(fā)明專利中提供了一種生成對抗網(wǎng)絡(luò)的穩(wěn)定訓(xùn)練方法，包括：將訓(xùn)練圖像輸入自編碼器中進(jìn)行處理，得到第一生成圖像；基于訓(xùn)練圖像與第一生成圖像之間的損失值，訓(xùn)練得到預(yù)訓(xùn)練的生成器；基于訓(xùn)練圖像和經(jīng)預(yù)訓(xùn)練的生成器生成的第二生成圖像，對預(yù)訓(xùn)練的生成器和判別器進(jìn)行訓(xùn)練，并基于訓(xùn)練結(jié)束時(shí)對應(yīng)的生成器和判別器，得到生成對抗網(wǎng)絡(luò)。

另一申請?zhí)枴?01811461559.9”的發(fā)明專利中提供了一種生成式對抗網(wǎng)絡(luò)裝置及其訓(xùn)練方法。該生成式對抗網(wǎng)絡(luò)裝置包括生成網(wǎng)絡(luò)和判別網(wǎng)絡(luò)。生成網(wǎng)絡(luò)配置為根據(jù)輸入數(shù)據(jù)生成第一樣本；判別網(wǎng)絡(luò)與生成網(wǎng)絡(luò)耦接，且配置為接收第一樣本，并基于第一樣本進(jìn)行訓(xùn)練；生成網(wǎng)絡(luò)包括第一憶阻器陣列作為第一權(quán)重值陣列。該生成式對抗網(wǎng)絡(luò)裝置可以省略對生成網(wǎng)絡(luò)生成的假樣本添加噪聲的過程，從而節(jié)省訓(xùn)練時(shí)間，降低資源消耗，提高生成式對抗網(wǎng)絡(luò)的訓(xùn)練速度。

綜上所述，現(xiàn)有的生成對抗網(wǎng)絡(luò)仍存在以下缺陷：

1、難以訓(xùn)練、很不穩(wěn)定。生成器和判別器之間很難達(dá)到一個(gè)良好的相互促進(jìn)的狀態(tài)，實(shí)際訓(xùn)練中，判別器很容易收斂，但生成器很難訓(xùn)練。

2、模式崩塌。生成對抗網(wǎng)絡(luò)在學(xué)習(xí)中很容易陷入模式崩塌的狀態(tài)，即生成器總是生成類似的樣本，無法繼續(xù)學(xué)習(xí)。

3、目前的生成對抗網(wǎng)絡(luò)難以直接生成復(fù)雜的高維數(shù)據(jù)。目前的生成對抗網(wǎng)絡(luò)較多的是應(yīng)用于生成圖片等維度較低的數(shù)據(jù)，但應(yīng)用于生成復(fù)雜的高維數(shù)據(jù)時(shí)，以醫(yī)學(xué)影像數(shù)據(jù)為例，由于醫(yī)學(xué)影像數(shù)據(jù)轉(zhuǎn)換算法在使用生成對抗網(wǎng)絡(luò)時(shí)往往是以單張切片生成的方式，這樣的方式會(huì)損失原始數(shù)據(jù)的結(jié)構(gòu)信息，使生成的數(shù)據(jù)完整性大打折扣。

發(fā)明內(nèi)容

本申請?zhí)峁┝艘环N針對高維數(shù)據(jù)的生成對抗網(wǎng)絡(luò)訓(xùn)練方法、系統(tǒng)及電子設(shè)備，旨在至少在一定程度上解決現(xiàn)有技術(shù)中的上述技術(shù)問題之一。

為了解決上述問題，本申請?zhí)峁┝巳缦录夹g(shù)方案：

一種針對高維數(shù)據(jù)的生成對抗網(wǎng)絡(luò)訓(xùn)練方法，包括以下步驟：

步驟a：搭建生成對抗網(wǎng)絡(luò)骨干結(jié)構(gòu)；

步驟b：使用張量火車分解算法對所述生成對抗網(wǎng)絡(luò)骨干結(jié)構(gòu)進(jìn)行張量火車分解；

步驟c：使用真實(shí)高維數(shù)據(jù)訓(xùn)練一個(gè)基于張量火車分解的張量自編碼器，通過所述張量自編碼器輸出真實(shí)高維數(shù)據(jù)的空間結(jié)構(gòu)特征；

步驟d：將所述張量自編碼器的輸出和判別器生成的最后一層特征相結(jié)合作為最后一層的輸入，對生成對抗網(wǎng)絡(luò)進(jìn)行訓(xùn)練。

本申請實(shí)施例采取的技術(shù)方案還包括：在所述步驟a中，所述生成對抗網(wǎng)絡(luò)骨干結(jié)構(gòu)為基于3D卷積和3D反卷積的生成對抗網(wǎng)絡(luò)骨干結(jié)構(gòu)。