[發明專利]基于特征泛化層的雙通道自適應矯正網絡優化系統

在審

• 申請號: 201810071855.1
• 申請日: 2018-01-25
• 公開（公告）號: CN108537324A
• 公開（公告）日: 2018-09-14
• 發明（設計）人: 郭春生;李睿哲
• 申請（專利權）人: 杭州電子科技大學
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06K9/62
• 代理公司: 杭州千克知識產權代理有限公司 33246
• 代理人: 周希良

1.基于特征泛化層的雙通道自適應矯正網絡優化系統，其特征是包括泛化通道、矯正通道、誤差計算單元以及自適應矯正單元；

所述泛化通道對原始特征圖進行泛化以及對加權矯正后的特征圖進行特征的逐層提取；

所述矯正通道依據特征圖之間的誤差對泛化通道內的數據進行矯正；

所述誤差計算單元計算泛化通道與矯正通道內某個特征提取層輸出特征圖之間的差異度；

所述自適應矯正單元將矯正通道中某個特征提取層輸出的特征圖與泛化通道中對應位置輸出的特征圖進行加權。

2.如權利要求1所述基于特征泛化層的雙通道自適應矯正網絡優化系統，其特征是：所述泛化通道的具體結構：

設原始特征圖為X、生成特征圖為X_new，使用函數f_k()表示第k個特征提取層對輸入特征圖的操作，G_k表示泛化通道中第k個特征提取層的輸出，泛化通道中第一個特征提取層的輸出為：

G₁＝f₁(αX_new+βX) (6)

當k≥2時，泛化通道中第k個特征提取層的遞推公式如下：

G_k＝fk(λ_k-1G_k-1+ω_k-1R_k-1) (7)

通過遞推公式(7)，將泛化通道中第n個特征提取層Conv_n的輸出展開,n≥3：

G_n＝f_n(λ_n-1f_n-1(λ_n-2(…f₂(λ₁G₁+ω₁R₁)…)+ω_n-2R_n-2)+ω_n-1R_n-1)

＝f_n(λ_n-1f_n-1(λ_n-2(∑f₂(λ₁f₁(αX_new+βX)+ω₁R₁)…)+ω_n-2R_n-2)+ω_n-1R_n-1) (8)。

3.如權利要求2所述基于特征泛化層的雙通道自適應矯正網絡優化系統，其特征是：所述矯正通道的結構具體如下：

函數f_k()表示第k個特征提取層對輸入特征圖的操作，R_k表示矯正通道中第k個特征提取層的輸出，則矯正通道中第一個特征提取層的輸出為：

R₁＝f₁(X) (9)

當k≥2時，矯正通道中第k個特征提取層的遞推公式表示為：

R_k＝f_k(R_k-1) (10)

通過遞推公式(10)，將矯正通道中第n個特征提取層Conv_n的輸出展開(n≥2)：

R_n＝f_n(f_n-1(…f₂(f₁(X)))) (11)

則特征提取網絡最終輸出的特征圖：

Output＝λ_nG_n+ω_nR_n (12)。

4.如權利要求3所述基于特征泛化層的雙通道自適應矯正網絡優化系統，其特征是：所述誤差計算單元的具體結構如下：

由特征提取層輸出的初始值(6)、(9)以及遞推公式(8)、(11)，MSE_1計算式如下，其中N代表矩陣中元素總數:

當k≥2時，均方誤差的遞推公式，即MSE_k可表示為：

5.如權利要求4所述基于特征泛化層的雙通道自適應矯正網絡優化系統，其特征是：所述雙通道自適應矯正網絡系統的優化目標：

雙通道自適應矯正系統對生成誤差目標函數進行調整，將兩通道內每個特征提取層輸出節點計算得到的均方誤差累加到生成誤差目標函數中；網絡模型訓練階段，經由梯度下降迭代優化，特征泛化層的誤差與后續網絡中各個特征提取層輸出節點的誤差均被極小化；由此，新的生成誤差目標函數由以下三項組成：

Loss＝Gen_loss+KL_loss+∑MSE_loss (15)

其中，∑MSE_loss為泛化通道與矯正通道中所有特征提取層輸出節點均方誤差的累加和；式(15)中均方誤差累加項表示為：

至此，式(15)中三項均已求得，新的生成誤差目標函數表達式如下：

模型訓練階段，利用式(17)中生成誤差目標函數Loss更新特征泛化層中的參數。