[發(fā)明專利]一種胸片疾病多分類網(wǎng)絡(luò)的多標(biāo)簽局部至全局學(xué)習(xí)方法

有效

• 申請?zhí)枺?/td>: 202110685083.2
• 申請日: 2021-06-21
• 公開（公告）號: CN113327666B
• 公開（公告）日: 2022-08-12
• 發(fā)明（設(shè)計）人: 程遠(yuǎn)志;史操;王燁楠;許燦輝;葛全序;劉健;袁永鋒;王進(jìn)科
• 申請（專利權(quán)）人: 青島科技大學(xué);威海市立醫(yī)院
• 主分類號: G16H30/20
• 分類號: G16H30/20;G16H30/40;G16H50/50;G06V10/774;G06V10/764;G06V10/82;G06K9/62;G06N3/04;G06N3/08
• 代理公司: 青島匯智海納知識產(chǎn)權(quán)代理有限公司 37335
• 代理人: 王丹丹

本發(fā)明提出了一種胸片疾病多分類網(wǎng)絡(luò)的多標(biāo)簽局部至全局學(xué)習(xí)方法，包括以下步驟：首先，對胸片樣本進(jìn)行向量化建模，獲取胸片樣本的多標(biāo)簽局部至全局表征；然后為胸片疾病多分類網(wǎng)絡(luò)選型；對胸片數(shù)據(jù)集預(yù)處理；訓(xùn)練胸片疾病多分類網(wǎng)絡(luò)，實施多標(biāo)簽局部到全局學(xué)習(xí)算法；然后對深度神經(jīng)網(wǎng)絡(luò)訓(xùn)練參數(shù)進(jìn)行優(yōu)化；最終，針對訓(xùn)練后的深度神經(jīng)網(wǎng)絡(luò)，進(jìn)行胸片疾病分類及性能分析。本發(fā)明提出的多標(biāo)簽局部到全局學(xué)習(xí)算法，用以指導(dǎo)深度神經(jīng)網(wǎng)絡(luò)訓(xùn)練過程；同時提出多標(biāo)簽條件熵，用以衡量網(wǎng)絡(luò)訓(xùn)練過程中的穩(wěn)定性；最后給出三種優(yōu)化策略指導(dǎo)網(wǎng)絡(luò)學(xué)習(xí)優(yōu)化過程，其網(wǎng)絡(luò)結(jié)構(gòu)簡單，魯棒性高，能夠得到更好的分類效果，具有較高的實用及推廣價值。

技術(shù)領(lǐng)域

本發(fā)明涉及一種深度神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)方法，屬于胸片疾病多分類網(wǎng)絡(luò)訓(xùn)練領(lǐng)域，具體涉及一種胸片疾病多分類網(wǎng)絡(luò)的多標(biāo)簽局部至全局學(xué)習(xí)方法。

背景技術(shù)

胸腔是人體內(nèi)最容易發(fā)生疾病的地方，早期篩查和診斷是治療的關(guān)鍵。當(dāng)前胸部X線因成本低、操作方便等原因成為目前臨床應(yīng)用最廣的影像學(xué)檢查方法，然而，這些胸片需要放射科醫(yī)師對其進(jìn)行分析，就使得它是一項耗時，耗力且容易出錯的任務(wù)。因此，發(fā)展自動準(zhǔn)確的CXR圖像分類算法是近年來醫(yī)學(xué)圖像界的高度需求。

目前，在自動學(xué)習(xí)方法中，基于深度學(xué)習(xí)的方法在公共數(shù)據(jù)集和大規(guī)模數(shù)據(jù)集上取得了最好的性能，目前也存在大量關(guān)于它的研究。比如，將CNN引入到分類任務(wù)中；引入分類和定位的框架，使用預(yù)訓(xùn)練模型，多標(biāo)簽丟失和不同池化策略進(jìn)行訓(xùn)練，并采用CAM對病變進(jìn)行定位；采用密集連接和批處理歸一化來提高精度等等。但上述基于深度學(xué)習(xí)的方法在異常自動分類中仍然存在一些挑戰(zhàn)，例如，在低對比度病變，存在多類型病變，病變大小及位置變化較大，圖像不對齊或模糊等情況下無法取得滿意的分類結(jié)果。另外，現(xiàn)存的大多數(shù)方法都專注于解決病變的變異和錯位問題，針對該問題多分支方法應(yīng)用的比較廣泛，在基于多分支的方法中，第一個分支被用于聚焦于局部疾病特異性病變區(qū)域，第二個分支被用于分類。與上述針對病變變異和錯位的方法相比，目前關(guān)于多標(biāo)記的問題的研究還較少。

這些現(xiàn)有的技術(shù)都關(guān)注于特定深度神經(jīng)網(wǎng)絡(luò)(DNN)模型的設(shè)計。雖然分類的準(zhǔn)確率在不斷提高，但網(wǎng)絡(luò)結(jié)構(gòu)變得越來越復(fù)雜，需要的訓(xùn)練數(shù)據(jù)也更多，訓(xùn)練不可避免的變得更加困難。對于深度學(xué)習(xí)方法，如果從神經(jīng)網(wǎng)絡(luò)優(yōu)化的角度考慮胸腔疾病分類問題，上述挑戰(zhàn)明顯增加了優(yōu)化的復(fù)雜性。具體來說，首先是多標(biāo)簽問題，增加了輸出標(biāo)簽空間的多樣性，甚至使輸出空間不堪負(fù)荷，導(dǎo)致增加了優(yōu)化難度。如果通過標(biāo)簽冪集技術(shù)LP把多標(biāo)簽分類任務(wù)轉(zhuǎn)換成多類別分類任務(wù)，新標(biāo)簽集的大小隨著類別數(shù)量的增加呈指數(shù)級增長。其次，CXR圖像上病變大小和位置差異大的問題增加了輸入空間的多樣性，這也給優(yōu)化帶來了重大挑戰(zhàn)。最后，模糊導(dǎo)致病變邊界不清晰，錯位導(dǎo)致圖像邊界不規(guī)則。兩者都使決策邊界更難找到，并增加了優(yōu)化的不可忽視的難度。

發(fā)明內(nèi)容

本發(fā)明針對現(xiàn)有技術(shù)中訓(xùn)練網(wǎng)絡(luò)復(fù)雜，訓(xùn)練困難等缺陷，提出一種胸片疾病多分類網(wǎng)絡(luò)的多標(biāo)簽局部至全局學(xué)習(xí)方法，該方法作為一種全局?jǐn)?shù)據(jù)集內(nèi)的深度神經(jīng)網(wǎng)絡(luò)權(quán)重轉(zhuǎn)移方法，權(quán)重從單個標(biāo)簽的樣本類別轉(zhuǎn)移至多個標(biāo)簽的樣本類別，最終完成深度神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程，能夠有效提高訓(xùn)練魯棒性，提高分類精度。

本發(fā)明是采用以下的技術(shù)方案實現(xiàn)的：一種胸片疾病多分類網(wǎng)絡(luò)的多標(biāo)簽局部至全局學(xué)習(xí)方法，包括以下步驟：

步驟A、對胸片樣本及標(biāo)簽進(jìn)行向量化建模，獲取樣本的多標(biāo)簽局部至全局表征；

步驟B、胸片疾病多分類網(wǎng)絡(luò)選型；

步驟C、胸片數(shù)據(jù)集預(yù)處理，包括患者總數(shù)統(tǒng)計，胸片樣本總數(shù)統(tǒng)計，胸片文件格式解析和胸片圖像大小歸一化操作；

步驟D、基于多標(biāo)簽局部到全局學(xué)習(xí)算法訓(xùn)練胸片疾病多分類網(wǎng)絡(luò)；

多標(biāo)簽局部到全局算法定義為：對于K類多標(biāo)簽分類問題，多標(biāo)簽局部到全局學(xué)習(xí)算法表征一個網(wǎng)絡(luò)訓(xùn)練過程，其在數(shù)據(jù)集上按照順序逐步訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)模型M，該過程生成一個收斂的網(wǎng)絡(luò)模型序列其中M_K是最終的訓(xùn)練結(jié)果；具體包括以下步驟：