[發明專利]一種深度神經網絡的通用小型化方法

在審

• 申請號: 201711097406.6
• 申請日: 2017-11-09
• 公開（公告）號: CN107748913A
• 公開（公告）日: 2018-03-02
• 發明（設計）人: 董健;張明;黃龍;王禹
• 申請（專利權）人: 睿魔智能科技（東莞）有限公司;杭州靈凡科技有限公司
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08
• 代理公司: 廣州粵高專利商標代理有限公司44102
• 代理人: 羅曉林,楊桂洋

1.一種深度神經網絡的通用小型化方法，包括以下步驟：

對初始的深度神經網絡進行特征重構，形成一個新的小型網絡；

對深度神經網絡的特征通道數和組卷積數進行壓縮處理，減少輸出的特征通道數和組卷積的個數。

2.根據權利要求1所述的深度神經網絡的通用小型化方法，其特征在于，所述特征重構時，采用特征分層方式進行重構，設定一個預定壓縮比，分別對深度神經網絡的底層特征和高層特征進行重構。

3.根據權利要求2所述的深度神經網絡的通用小型化方法，其特征在于，所述重構時，先對深度神經網絡的底層特征進行重構，完成底層特征的重構后，再對深度神經網絡的高層特征進行重構。

4.根據權利要求3所述的深度神經網絡的通用小型化方法，其特征在于，所述對底層特征和高層特征進行重構時，均采用回歸的方法分別使重構前后深度神經網絡的輸出結果的歐氏距離最小。

5.根據權利要求4所述的深度神經網絡的通用小型化方法，其特征在于，所述對深度神經網絡的特征通道數和組卷積數進行壓縮處理時，采用帶因子的分離通道的方式，卷積構造N/a1個b*b*a2的組卷積進行卷積操作，a1≤a2。