[發明專利]一種基于深度卷積神經網絡模型-重生網絡的視覺識別方法

在審

• 申請號: 202011185864.7
• 申請日: 2020-10-30
• 公開（公告）號: CN112257800A
• 公開（公告）日: 2021-01-22
• 發明（設計）人: 蔡志成;莊建軍;彭成磊
• 申請（專利權）人: 南京大學
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08
• 代理公司: 南京瑞弘專利商標事務所(普通合伙) 32249
• 代理人: 陳建和

1.一種基于深度卷積神經網絡模型-重生網絡(RebornNet)的視覺識別方法，其特征是，使用實現“重生機制”的“重生模塊”搭建一種新型深度卷積神經網絡模型，引入的重生機制對被ReLU函數截斷死亡的神經元進行重生再造，“重生機制”的實現流程：在重生網絡中，引入并實現重生機制的模塊稱為重生模塊；首先，重生模塊的輸入x為上層卷積層得到的特征映射，先將x輸入傳統的ReLU函數，得到激活后的特征映射x₁，這樣就篩選出取值為正的神經元，并截斷負值的神經元；同時，將輸入x取反，并行地將-x輸入ReLU函數，得到激活后的特征映射x₂*，這樣就篩選出取值為負的神經元，并截斷正值的神經元；為了保證梯度不變，再將激活后的特征映射x₂*取反；接著對-x₂*進行逆卷積操作，得到特征映射x₂，最后把x₁和x₂這兩個特征映射通道級聯，得到最終的輸出；對取值為負的神經元進行篩選后，對它們進行逆卷積操作，然后與正值進行通道級聯，就是負神經元的重生過程。

2.根據權利要求1所述的深度卷積神經網絡模型-重生網絡(RebornNet)的視覺識別方法，其特征是，將重生機制公式化，令y為輸出，X為輸入，Deconv(x)為逆卷積操作函數，ReLU(x)為上文所述的ReLU非線性激活函數，Concat(x₁,x₂)為通道級聯函數，則公式為：

y＝Concat(ReLU(X)，Deconv(-ReLU(-X)))

負值神經元沒有達到一定的閾值條件，就沒有能力將所攜帶的值保留并向前傳遞；再給它們一次機會，讓它們回到截斷丟棄之前的狀態，進行再一次卷積的鍛造，讓部分神經元在這一輪回里面有能力將自身攜帶的信息保留下來，重生后的神經元一定要弱于那些原本就達到條件的神經元。