[發明專利]一種基于知識蒸餾網絡檢測眼底圖像類型的方法及裝置

有效

• 申請號: 202110700727.0
• 申請日: 2021-06-23
• 公開（公告）號: CN113421243B
• 公開（公告）日: 2023-06-02
• 發明（設計）人: 謝海;雷柏英;張國明;汪天富;陳懿;田汝銀
• 申請（專利權）人: 深圳大學
• 主分類號: G06T7/00
• 分類號: G06T7/00;G06V10/764;G06N3/042;G06N3/045;G06N3/094
• 代理公司: 深圳市君勝知識產權代理事務所(普通合伙) 44268
• 代理人: 陳小強;徐凱凱

本發明公開了一種基于知識蒸餾網絡檢測眼底圖像類型的方法及裝置，方法包括步驟：在教師網絡和學生網絡之間設置若干個教師輔助網絡，得到基礎網絡架構；在所述基礎網絡架構中的每一個網絡的最后特征輸出層中增設稠密傳輸模塊，在所述基礎網絡構架中的任意兩個相鄰網絡之間設置對抗學習網絡的判別器，構建知識蒸餾網絡模型模型；將已標記眼底圖像輸入到所述知識蒸餾網絡模型中進行訓練，得到訓練后知識蒸餾網絡模型；將待測眼底圖像輸入到所述訓練后知識蒸餾網絡模型，輸出待測眼底圖像的類型。本發明方法能夠有效地避免蒸餾過程中的特征信息損失，使得學生網絡能以較小的尺寸實現對眼底圖像類型較高的預測精度。

技術領域

本發明涉及深度學習算法應用領域，特別涉及一種基于知識蒸餾網絡檢測眼底圖像類型的方法及裝置。

背景技術

早產兒視網膜病變(ROP)是低出生體重兒常見的視網膜疾病，也是兒童失明的主要原因。AP-ROP是一種特殊的ROP，其特征是視網膜血管發育中的血管增生性疾病，如果干預不及時，可能會導致不可逆轉的視覺損害。因此，AP-ROP也被視為最嚴重的ROP類型之一，對其進行準確、客觀、高效的鑒別已成為學術界、醫療界共同關注的課題。

準確的鑒別有助于臨床醫生做出相應的科學判斷，選擇合適的診斷和治療方法。特別地，AP-ROP的發病率相對較低，許多眼科醫生在區分常規ROP和AP-ROP方面經驗不足。常規ROP、AP-ROP和正常眼底圖像的示意圖如圖1所示?？梢杂^察到，常規ROP與AP-ROP在外觀和特征上極為相似，這是眼科醫師準確、快速鑒別的一大障礙。因此，計算機輔助診斷對于幫助臨床醫生對常規ROP和AP-ROP進行客觀評估顯得尤為重要。

因卷積神經網絡能夠利用其強大的特征提取能力表征圖像所具的顯著特征，已被廣泛應用于醫學圖像處理。然而，由于卷積神經網絡一般具有較多的網絡參數，使得網絡模型的復雜度較高，對于嵌入式設備的算法移植造成很大的挑戰，導致對ROP和AP-ROP的圖像識別效率較低。

因此，現有技術還有待于改進和發展。

發明內容

本發明要解決的技術問題在于，針對現有技術的不足，提供一種基于知識蒸餾網絡檢測眼底圖像類型的方法及裝置，旨在解決現有深度學習方法對眼底圖像的類別識別準確率較低的問題。

為了解決上述技術問題，本發明所采用的技術方案如下：

一種基于知識蒸餾網絡檢測眼底圖像類型的方法，其中，包括步驟：

在教師網絡和學生網絡之間設置若干個教師輔助網絡，得到基礎網絡架構；

在所述基礎網絡架構中的每一個網絡的最后特征輸出層中增設稠密傳輸模塊，在所述基礎網絡構架中的任意兩個相鄰網絡之間設置對抗學習網絡的判別器，構建知識蒸餾網絡模型模型；

將已標記眼底圖像輸入到所述知識蒸餾網絡模型中進行訓練，得到訓練后知識蒸餾網絡模型，所述已標記眼底圖像包括正常眼底圖像、ROP眼底圖像以及AP-ROP眼底圖像；

將待測眼底圖像輸入到所述訓練后知識蒸餾網絡模型，輸出待測眼底圖像的類型。

所述基于知識蒸餾網絡檢測眼底圖像類型的方法，其中，所述教師網絡為ResNet-34網絡、ResNet-50網絡或ResNet-101中的一種，所述學生網絡為具有6個殘差層的網絡結構，所述教師輔助網絡為具有18、14、10、8個殘差層的網絡結構中的一種或多種。

所述基于知識蒸餾網絡檢測眼底圖像類型的方法，其中，所述稠密傳輸模塊用于將教師網絡和學生網絡的最后輸出以KL散度作為損失函數，約束學生網絡的輸出并蒸餾教師網絡學習到的特征。

所述基于知識蒸餾網絡檢測眼底圖像類型的方法，其中，定義教師網絡和學生網絡的最后輸出為T_o和S_o，則利用KL散度計算KD損失可表達為：其中，是一個超參數，控制教師網絡和學生網絡的軟信號輸出。