[發(fā)明專利]基于小樣本的數(shù)據(jù)增強(qiáng)及神經(jīng)網(wǎng)絡(luò)對抗訓(xùn)練方法

在審

• 申請?zhí)枺?/td>: 201911240414.0
• 申請日: 2019-12-06
• 公開（公告）號(hào): CN111126458A
• 公開（公告）日: 2020-05-08
• 發(fā)明（設(shè)計(jì)）人: 王礎(chǔ);范國超;郝創(chuàng)博;王佳佳;王東豪;劉玉蓉
• 申請（專利權(quán)）人: 北京京航計(jì)算通訊研究所
• 主分類號(hào): G06K9/62
• 分類號(hào): G06K9/62;G06N3/04;G06N3/08
• 代理公司: 中國兵器工業(yè)集團(tuán)公司專利中心 11011
• 代理人: 周恒

1.一種基于小樣本的數(shù)據(jù)增強(qiáng)及神經(jīng)網(wǎng)絡(luò)對抗訓(xùn)練方法，其特征在于，所述方法包括：

步驟1：將數(shù)據(jù)集平均分解成t份，具體形式如下：

步驟2：隨機(jī)選取整數(shù)k∈[1...n_t]，訓(xùn)練第一生成器G₁(x,φ₁)、第二生成器G₂(x,φ₂)和第三生成器G₃(x,φ₃)中的參數(shù){φ₁,φ₂,φ₃}，所述步驟2包括：步驟21、步驟22和步驟23；

步驟21：通過求解下面關(guān)于參數(shù)φ₁的優(yōu)化問題來得到第一生成器G₁(x,φ₁)的最優(yōu)參數(shù)φ₁：

步驟22：通過求解下面關(guān)于參數(shù)φ₂的優(yōu)化問題來得到第二生成器G₂(x,φ₂)的最優(yōu)參數(shù)φ₂：

步驟23：通過求解下面關(guān)于參數(shù)φ₃的優(yōu)化問題來得到生成器G₃(x,φ₃)的最優(yōu)參數(shù)φ₃：

步驟3：對i＝n_k-1...n_k，計(jì)算第一生成器G₁(x_i,φ₁)、第二生成器G₂(x_i,φ₂)和第三生成器G₃(x_i,φ₃)的重要性權(quán)值W_1i、W_2i、W_3i：

其中，Jl(f(x,θ),y)為交叉熵?fù)p失函數(shù)l(f(x,θ),y)關(guān)于θ的Jacobian矩陣；

Jl(f(G₁(x_i,φ₁),θ),y_i)表示Jl(f(x,θ),y)在x＝G₁(x_i,φ₁),y＝y(tǒng)_i處的取值；

Jl(f(G₂(x_i,φ₂),θ),y_i)表示Jl(f(x,θ),y)在x＝G₂(x_i,φ₂),y＝y(tǒng)_i處的取值；

Jl(f(G₂(x_i,φ₂),θ),y_i)表示Jl(f(x,θ),y)在x＝G₂(x_i,φ₂),y＝y(tǒng)_i處的取值；

步驟4：通過求解下面關(guān)于參數(shù)θ的優(yōu)化問題，得到評(píng)估模型f(x,θ)的最優(yōu)參數(shù)θ：

步驟5：如果迭代次數(shù)超過給定閾值ε，則終止；否則回到步驟2。

2.如權(quán)利要求1所述的基于小樣本的數(shù)據(jù)增強(qiáng)及神經(jīng)網(wǎng)絡(luò)對抗訓(xùn)練方法，其特征在于，所述α₁為給定的權(quán)值參數(shù)。

3.如權(quán)利要求1所述的基于小樣本的數(shù)據(jù)增強(qiáng)及神經(jīng)網(wǎng)絡(luò)對抗訓(xùn)練方法，其特征在于，所述Jl(f(x,θ),y)為交叉熵?fù)p失函數(shù)l(f(x,θ),y)關(guān)于θ的Jacobian矩陣。

4.如權(quán)利要求1所述的基于小樣本的數(shù)據(jù)增強(qiáng)及神經(jīng)網(wǎng)絡(luò)對抗訓(xùn)練方法，其特征在于，所述Jl(f(G₂(x_i,φ₂),θ),y_i)表示Jl(f(x,θ),y)在x＝G₂(x_i,φ₂),y＝y(tǒng)_i處的取值。