[發(fā)明專利]基于Resnext殘差網(wǎng)絡的皮膚病變分類

在審

• 申請?zhí)枺?/td>: 202010615963.8
• 申請日: 2020-06-30
• 公開（公告）號: CN111767955A
• 公開（公告）日: 2020-10-13
• 發(fā)明（設計）人: 帥仁俊;趙宸;張廟林
• 申請（專利權）人: 南京工業(yè)大學
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08
• 代理公司: 暫無信息
• 代理人: 暫無信息

本發(fā)明設計一種基于Resnext殘差網(wǎng)絡的皮膚病變分類的方法。用于解決在皮膚病變分類中有梯度消失/爆炸和隨著網(wǎng)絡深度的增加，正確率開始飽和甚至下降的網(wǎng)絡退化的問題，為了達到該目的，所述的處理方法是采用使用殘差網(wǎng)絡Resnext用于解決模型訓練時產(chǎn)生的網(wǎng)絡分類準確率下降的問題，解決了分類時由于網(wǎng)絡層數(shù)加深而導致的反向傳播梯度消失和過擬合的問題。

所屬技術領域：

本發(fā)明涉及深度學習，殘差網(wǎng)絡，具體設計了一種機器學習中基于Resnext殘差網(wǎng)絡的數(shù)據(jù)分類技術。

背景技術：

深度神經(jīng)網(wǎng)絡通常都比較難訓練。我們提出殘差學習的框架來減輕深層網(wǎng)絡訓練的難度。我們重新構建了網(wǎng)絡以便學習包含推理的殘差函數(shù)，而不是學習未經(jīng)過推理的函數(shù)。實驗結果顯示，殘差網(wǎng)絡更容易優(yōu)化，并且加深網(wǎng)絡層數(shù)有助于提高正確率。深度卷積網(wǎng)絡在圖像分類任務上取得了一系列突破。隨著網(wǎng)絡層數(shù)的增加，訓練的問題隨之凸顯。比較顯著的問題有梯度消失/爆炸，這會在一開始就影響收斂。收斂的問題可以通過正則化來得到部分的解決，在深層網(wǎng)絡能夠收斂的前提下，隨著網(wǎng)絡深度的增加，正確率開始飽和甚至下降，稱之為網(wǎng)絡的退化(degradation)問題

由于皮膚損傷外觀的細微變化，使用圖像對皮膚損傷進行自動分類是一項艱巨的任務。自從采用深度神經(jīng)網(wǎng)絡(DNN)之后，皮膚病變分類的技術水平迅速提高.但是單純的加深神經(jīng)網(wǎng)絡的層數(shù)會在訓練的反向傳播中產(chǎn)生梯度消失的問題，導致模型的分類效果不佳，為了解決此問題，我們提出了Resnext的殘差神經(jīng)網(wǎng)絡來對皮膚病變圖像來進行分類。

Resnext的作用主要是通過Skip Connection來減少。為了解決優(yōu)化的難題，提出了殘差網(wǎng)絡。在殘差網(wǎng)絡中，不是讓網(wǎng)絡直接擬合原先的映射，而是擬合殘差映射。其中，identity mapping為恒等映射。殘差網(wǎng)絡可以理解為在前向網(wǎng)絡中增加了一些快捷連接(shortcut connections)。這些連接會跳過某些層，將原始數(shù)據(jù)直接傳到之后的層。新增的快捷連接不會增加模型的參數(shù)和復雜度。內容：

本發(fā)明設計一種基于Resnext殘差網(wǎng)絡的皮膚病變分類的方法。用于解決在皮膚病變分類中有梯度消失/爆炸和隨著網(wǎng)絡深度的增加，正確率開始飽和甚至下降的網(wǎng)絡退化的問題，為了達到該目的，所述的處理方法是采用使用殘差網(wǎng)絡 Resnext用于解決模型訓練時產(chǎn)生的網(wǎng)絡分類準確率下降的問題，解決了分類時由于網(wǎng)絡層數(shù)加深而導致的反向傳播梯度消失和過擬合的問題。

本發(fā)明所述的方法首先給將皮膚病變圖像進行樣本劃分，70％用于訓練，20％用于驗證，20％用于測試，之后為Resnext網(wǎng)絡提供訓練集的皮膚病變圖片，之后網(wǎng)絡會逐漸開始學習圖片的特征，之后圖像會分為幾個通道進入網(wǎng)絡使網(wǎng)絡開始學習，在模型達到了一定的精度之后，使用測試集進行測試，之后采用驗證集進行驗證已經(jīng)訓練好的模型的分類結果。

區(qū)別于現(xiàn)有的處理方法，本發(fā)明的有益效果是：

相比于其他的CNN、DNN網(wǎng)絡來說，Resnext：

提出了(Skip-Connection)即跳躍連接的方法有效防止了網(wǎng)絡性能退化。

對比Resnet提出了一種新的堆疊的殘差塊的方法，豐富了神經(jīng)網(wǎng)絡的內部結構，便于模型在分類時提取識別圖像的特征。

網(wǎng)絡中需要手動調節(jié)的超參數(shù)比較少，對于操作者來說容錯率較高。

與ResNet相比，相同的參數(shù)個數(shù)，結果更好：一個101層的ResNeXt網(wǎng)絡，和200層的ResNet準確度差不多，但是計算量只有后者的一半

模塊化的神經(jīng)網(wǎng)絡結構十分簡明，便于研究者針對自己不同的項目進行開發(fā)。本設計的處理方法可以很好的解決其他神經(jīng)網(wǎng)絡在圖像分類時加深網(wǎng)絡層數(shù)時產(chǎn)生的梯度消失和網(wǎng)絡性能退化的問題，有效的減少了過擬合的情況，提高了模型的精確度和訓練效率，實用性較高。

附圖說明：