[發明專利]一種針對高維數據的生成對抗網絡訓練方法、系統及電子設備

在審

• 申請號: 201911343340.3
• 申請日: 2019-12-24
• 公開（公告）號: CN111340173A
• 公開（公告）日: 2020-06-26
• 發明（設計）人: 周陽;張涌;寧立;王書強;許宜誠;文森特·周
• 申請（專利權）人: 中國科學院深圳先進技術研究院
• 主分類號: G06N3/00
• 分類號: G06N3/00
• 代理公司: 深圳市科進知識產權代理事務所(普通合伙) 44316
• 代理人: 曹衛良

1.一種針對高維數據的生成對抗網絡訓練方法，其特征在于，包括以下步驟：

步驟a：搭建生成對抗網絡骨干結構；

步驟b：使用張量火車分解算法對所述生成對抗網絡骨干結構進行張量火車分解；

步驟c：使用真實高維數據訓練一個基于張量火車分解的張量自編碼器，通過所述張量自編碼器輸出真實高維數據的空間結構特征；

步驟d：將所述張量自編碼器的輸出和判別器生成的最后一層特征相結合作為最后一層的輸入，對生成對抗網絡進行訓練。

2.根據權利要求1所述的針對高維數據的生成對抗網絡訓練方法，其特征在于，在所述步驟a中，所述生成對抗網絡骨干結構為基于3D卷積和3D反卷積的生成對抗網絡骨干結構。

3.根據權利要求2所述的針對高維數據的生成對抗網絡訓練方法，其特征在于，在所述步驟b中，所述使用張量火車分解算法對所述生成對抗網絡骨干結構進行張量火車分解具體為：將張量火車分解算法引入所述生成對抗網絡骨干結構中所有的3D卷積和3D反卷積層，對所述3D卷積和3D反卷積層進行張量火車分解，得到3D-TT-Conv層、3D-TT-deConv層。

4.根據權利要求3所述的針對高維數據的生成對抗網絡訓練方法，其特征在于，所述對3D卷積進行張量火車分解具體包括：

假設輸入三維數據維度為W×H×D，通道數為C，即輸入張量：卷積核為：卷積后輸出張量：

將輸出張量的每個元素寫為：3D卷積的公式為：

將輸出張量每個通道的維度表示為：

將輸入張量轉化為大小的矩陣，對應元素變換為：

將卷積核張量轉換為大小為的矩陣，對應元素變換為：

將輸入矩陣X和卷積核矩陣K進行矩陣乘法，得到大小為W′H′D′×S的輸出矩陣Y，將輸出矩陣Y還原為輸出張量

將張量火車分解應用到卷積核矩陣K：將輸入輸出維度進行分解：將矩陣K張量化為張量對其進行張量火車分解：

上述公式中：

將輸入張量轉化為大小為W×H×D×C₁×...×C_d的張量將該張量與卷積核的Tensor-Train矩陣進行運算，得到大小為輸出張量：

5.根據權利要求1至4任一項所述的針對高維數據的生成對抗網絡訓練方法，其特征在于，在所述步驟c中，所述使用真實高維數據訓練一個基于張量火車分解的張量自編碼器具體為：將張量運算中的n-mode product運算引入自編碼器中，使用張量運算中的n-modeproduct運算代替全連接層中輸入向量和參數矩陣的matrix multiplication，直接對張量數據的維度進行放大和縮小，提取真實高維數據的空間結構特征。

6.一種針對高維數據的生成對抗網絡訓練系統，其特征在于，包括：

網絡骨干搭建模塊：用于搭建生成對抗網絡骨干結構；

張量火車分解模塊：用于使用張量火車分解算法對所述生成對抗網絡骨干結構進行張量火車分解；

張量自編碼器訓練模塊：用于使用真實高維數據訓練一個基于張量火車分解的張量自編碼器，通過所述張量自編碼器輸出真實高維數據的空間結構特征；

網絡訓練模塊：用于將所述張量自編碼器的輸出和判別器生成的最后一層特征相結合作為最后一層的輸入，對生成對抗網絡進行訓練。

7.根據權利要求6所述的針對高維數據的生成對抗網絡訓練系統，其特征在于，所述生成對抗網絡骨干結構為基于3D卷積和3D反卷積的生成對抗網絡骨干結構。

8.根據權利要求7所述的針對高維數據的生成對抗網絡訓練系統，其特征在于，所述張量火車分解模塊使用張量火車分解算法對所述生成對抗網絡骨干結構進行張量火車分解具體為：將張量火車分解算法引入所述生成對抗網絡骨干結構中所有的3D卷積和3D反卷積層，對所述3D卷積和3D反卷積層進行張量火車分解，得到3D-TT-Conv層、3D-TT-deConv層。