[發明專利]基于參數高效的深度殘差網絡模型的圖像分類方法

有效

• 申請號: 201710628311.6
• 申請日: 2017-07-28
• 公開（公告）號: CN107437096B
• 公開（公告）日: 2020-06-26
• 發明（設計）人: 林通;朱富勇
• 申請（專利權）人: 北京大學
• 主分類號: G06K9/62
• 分類號: G06K9/62
• 代理公司: 北京萬象新悅知識產權代理有限公司 11360
• 代理人: 黃鳳茹

1.一種基于參數高效的深度殘差網絡模型的圖像分類方法，根據網絡的深度、寬度、多樣性和基數，建立具有參數高效性的改進的網絡模型，用于高效地進行圖像分類識別；包括如下步驟：

1)將圖像數據分為訓練樣本和測試樣本；

2)對訓練樣本圖像進行預處理；

3)構建具有參數高效性的深度殘差網絡模型，并進行模型訓練：構建得到的網絡模型包括深度金字塔殘差網絡模型、嵌套網絡模型、三角形網絡模型；將經過預處理的訓練樣本對上述網絡模型分別進行訓練，得到訓練好的網絡模型；

3A)構造密集連接的深度金字塔殘差網絡DensePyramids：具體在深度金字塔殘差網絡PyramidNet中引入密集連接，每個殘差模塊內使用密集連接，殘差模塊與殘差模塊之間由過渡層連接；或在密集連接的深度殘差網絡DenseNet中逐漸增加每一層的輸出特征圖維度；

3B)構造嵌套網絡NestNet并訓練；構造嵌套網絡包括如下步驟：

3B1)基于多層感知機MLP結構，在宿主網絡的每一個節點中嵌入多個相同或者不同的小網絡，稱為嵌入網絡；或堆疊多個網絡模塊；

3B2)在不同的宿主網絡節點中嵌套不同的嵌入網絡，形成嵌套網絡，生成高性能的網絡結構；

3B3)嵌套網絡中每一個節點的輸出為特征圖，節點變換操作由卷積模塊完成，每一層節點的輸出的特征圖都作為下一層節點的輸入；

3C)構造三角形網絡TriangleNet并訓練：

在構造嵌套網絡過程中，當在宿主網絡的節點里嵌入不同深度的嵌入網絡即可生成三角形網絡；通過嵌入不同深度的嵌入網絡，從輸入到輸出之間的每一層都是三角形的形狀，并且三角形的大小逐層減小，整個網絡看上去也是一個三角形的形狀，形成三角形網絡；

4)利用步驟3)構建并訓練好的具有參數高效性的深度殘差網絡模型，對測試樣本進行識別，分別得到預測的分類標簽；由此實現圖像分類識別。

2.如權利要求1所述基于參數高效的深度殘差網絡模型的圖像分類方法，其特征是，步驟2)對訓練樣本圖像進行預處理，具體采用標準圖像增強方法進行預處理。

3.如權利要求1所述基于參數高效的深度殘差網絡模型的圖像分類方法，其特征是，步驟3A)在密集連接的深度金字塔殘差網絡中，輸入數據通過卷積層提升維度，送入多個殘差模塊，最后經池化層和全連接層得到輸出標簽。

4.如權利要求3所述基于參數高效的深度殘差網絡模型的圖像分類方法，其特征是，所述密集連接的深度金字塔殘差網絡包括相同拓撲結構的三塊；過渡層起到下采樣和壓縮特征圖維度的作用；壓縮比率采用0.5或1；密集連接的深度金字塔殘差網絡層數為40層或100層；增長速率k初始值設為12；增長速率k的增長速率p的值取2、4、6或12。

5.如權利要求1所述基于參數高效的深度殘差網絡模型的圖像分類方法，其特征是，步驟3B)嵌套網絡中的宿主網絡為淺層網絡，具體使用三個隱層的多層感知機做框架，每個隱層具有相同的節點數，嵌入節點中的嵌入網絡形式為PyramidNet或DenseNet，深度從2層到20層不等；隱層之間由過渡層連接，過渡層起到下采樣和壓縮特征圖維度的作用，壓縮比率采用0.5。

6.如權利要求1所述基于參數高效的深度殘差網絡模型的圖像分類方法，其特征是，步驟3C)構造的三角形網絡TriangleNet中，具體地，通過在同一層中不同的節點嵌入不同深度的網絡來捕捉圖像不同層次的信息，將不同層次的信息組合連接起來作為當前層的輸出傳遞給下一層，由此提高分類性能；連接后的特征圖維度對于之前的每一個節點急劇增大，后續層的節點嵌套的網絡具有寬結構；在相鄰的兩層之間插入過渡層，通過1×1的卷積操作降低特征圖維度；在整體網絡的1/3和2/3深度處，過渡層通過池化做下采樣。

7.如權利要求6所述基于參數高效的深度殘差網絡模型的圖像分類方法，其特征是，三角形網絡中的殘差模塊采用PyramidNet中的殘差模塊，隱層數分別為5、7、8。