[發明專利]基于知識蒸餾的肺部疾病病灶無監督分割方法

在審

• 申請號: 202111285920.9
• 申請日: 2021-11-02
• 公開（公告）號: CN113902761A
• 公開（公告）日: 2022-01-07
• 發明（設計）人: 徐睿;王宇鳳;葉昕辰
• 申請（專利權）人: 大連理工大學
• 主分類號: G06T7/11
• 分類號: G06T7/11;G06N5/02
• 代理公司: 遼寧鴻文知識產權代理有限公司 21102
• 代理人: 苗青

1.基于知識蒸餾的肺部疾病病灶無監督分割方法，其特征在于，包括如下步驟：

1)收集初始數據：初始數據包括用來訓練的正常三維CT圖像和用來測試的含病灶的三維CT圖像；

2)預處理：將步驟1)得到的初始三維CT數據處理成只有肺內區域的二維CT數據，以便后續網絡的訓練和測試；

3)教師網絡預訓練：

3-1)構建一個用于重建正常CT圖像的自編碼器來學習正常CT圖像的語義知識；自編碼器包括編碼器和解碼器，通過堆疊一系列卷積層、批標準化、修正線性單元、最大池化、上采樣和雙曲正切激活函數來構建，并使解碼器的輸出和編碼器的輸入大小保持一致；

3-2)通過最小化均方誤差損失函數來訓練自編碼器，經過訓練的編碼器部分是一個包含肺部語義信息的特征提取器，作為進行知識蒸餾的教師網絡，此時教師網絡學習到正常CT圖像的語義知識，后續將有效知識一次傳給學生網絡；

4)像素級和親和力級知識蒸餾：

4-1)將步驟2)獲得的一正常的二維CT圖像，同時送入步驟3-2)預訓練好的教師網絡和隨機初始化的學生網絡中，以便后續通過知識蒸餾的方式來訓練學生網絡；

4-2)通過最小化像素級損失函數和親和力級損失函數來進行知識蒸餾，像素級損失函數保證學生網絡與教師網絡所提取特征在每個像素點上越來越相似，親和力級損失函數保證學生網絡與教師網絡所提特征在每個像素點和所有像素點的關系上越來越相似，優化方法為隨機梯度下降，同時把不同級別的特征對齊，學生網絡在知識蒸餾中不斷接受到來自教師網絡的豐富正常圖像語義信息，最終學習到正常圖像的分布，得到訓練好的學生網絡；

5)異常分割：

將步驟2)獲得的含病灶的二維CT圖像，同時送入步驟3-3)預訓練好的教師網絡和步驟4-2)訓練好的學生網絡中，由于學生網絡只學習到正常圖像的知識，那么利用教師網絡與學生網絡提取的特征在病灶位置的差異可以得到病灶定位圖，閾值二值化后可得分割結果。

2.根據權利要求1所述的基于知識蒸餾的肺部疾病病灶無監督分割方法，其特征在于，

所述的步驟3-2)中，均方誤差損失函數如下：

式中，X_N表示經過步驟2)得到的正常二維CT圖像的訓練數據集，x_n表示輸入的一張正常二維CT圖像，表示x_n經過自編碼器得到的重建圖像，||·||₂表示二范數；

所述的步驟4-2)中，像素級蒸餾損失函數如下：

設有一張正常二維CT圖像和分別代表教師網絡和學生網絡在不同級別的特征圖，w_l和h_l代表特征圖的寬和高；表示圖像x_n經過網絡得到的第l級特征圖的像素級蒸餾損失函數，如下：

式中，(i，j)表示特征圖的一個具體像素點，||·||₂表示二范數；

總像素級蒸餾損失是通過求和訓練數據集X_N中所有圖像在所有不同級特征圖的像素級蒸餾損失來定義的，即：

親和力級蒸餾損失函數如下：

通過計算像素之間的成對相似度把非局部知識轉移到了親和力級；假設特征維度f^l是w_l×h_l×c，函數將f^l變成維度為w_lh_l×c的親和力矩陣A由下式給出：

式中，σ(·)代表sigmoid操作，代表矩陣乘法，T代表轉置操作；

總親和力級蒸餾損失是通過求和訓練數據集X_N中所有圖像在所有不同級特征圖的親和力級蒸餾損失來定義的，即：

式中，||·||₁表示一范數；

總損失函數如下：

式中，α是一個用于調整損失權重的超參數；只作用于學生網絡的訓練，教師網絡在訓練學生網絡期間是固定的。

3.根據權利要求1或2所述的基于知識蒸餾的肺部疾病病灶無監督分割方法，其特征在于，所述的步驟5)具體如下：

5-1)將步驟2)獲得的含病灶的二維CT圖像，同時送入步驟3-2)預訓練好的教師網絡和步驟4-2)訓練好的學生網絡中；通過融合教師網絡和學生網絡在不同級別的特征差異，得到病灶的定位圖，融合公式如下：

式中，d^l(s_c)代表圖像x_c經過網絡得到的第l級特征圖的差異，其計算方式與像素級蒸餾損失函數一樣，即U(·)代表使用雙線性差值進行上采樣的操作，Π(·)代表連乘積；

5-2)為進一步得到二值化分割結果y(x_c)，也為了更好的與醫生標注比較，選取最佳閾值對異常定位圖d(x_c)進行二值化；二值化公式如下：

式中，y(x_c)二值化分割結果，d(s_c)為異常定位圖，y(s_c)_ij為二值化分割結果y(x_c)的(i，j)像素點，d(s_c)_ij為異常定位圖d(x_c)的(i，j)像素點，T為設定的閾值。