[發明專利]基于雙重一致性自集成學習的半監督評估方法及評估系統

在審

• 申請號: 202011568233.3
• 申請日: 2020-12-25
• 公開（公告）號: CN112669330A
• 公開（公告）日: 2021-04-16
• 發明（設計）人: 張立箎;霍加宇;薛忠;沈定剛;王乾
• 申請（專利權）人: 上海交通大學
• 主分類號: G06T7/11
• 分類號: G06T7/11;G06T7/00;G06N20/20;G06N7/00
• 代理公司: 上海世圓知識產權代理有限公司 31320
• 代理人: 陳穎潔;王佳妮

1.一種基于雙重一致性自集成學習的半監督評估系統，其特征在于，包括：雙重一致性平均教師框架模塊，包含具有相同網絡結構的學生模型和教師模型；所述學生模型和所述教師模型用于輸入一患者圖像并輸出對應的分類結果和相應的注意力掩模；通過監督損失和非監督損失對學生網絡進行優化，并通過指數移動平均更新教師模型；

注意力損失函數模塊，與所述雙重一致性平均教師框架模塊連接，用于識別并定位病變通常所在區域，以約束所述注意力掩模的生成；以及

注意力一致性損失函數模塊，與所述學生模型和所述教師模型連接，用于控制所述學生模型和所述教師模型同時輸出所述分類結果和相應的所述注意力掩模。

2.如權利要求1所述的基于雙重一致性自集成學習的半監督評估系統，其特征在于，所述患者圖像包括膝關節圖像。

3.如權利要求1所述的基于雙重一致性自集成學習的半監督評估系統，其特征在于，所述學生模型和所述教師模型輸出的分類結果為對應所述患者圖像的病變嚴重程度的概率分布。

4.如權利要求1所述的基于雙重一致性自集成學習的半監督評估系統，其特征在于，所述監督損失的方式包括采用交叉熵損失函數和均方誤差損失函數的方式進行計算。

5.如權利要求1所述的基于雙重一致性自集成學習的半監督評估系統，其特征在于，所述非監督損失的方式包括采用分類一致性損失函數和注意力一致性損失函數的方式進行計算。

6.如權利要求1所述的基于雙重一致性自集成學習的半監督評估系統，其特征在于，所述注意力損失函數模塊中包括注意力損失函數，所述注意力損失函數中具有正則化項；所述注意力損失函數為

其中，f_θ(x_i)_k表示由學生模型的輸入x_i生成的注意力掩模在第i處時k個像素，S(x_i)_k表示相應的分割結果，λ_α和λ_r是注意力損失和正則化項的權重因子，注意力損失和正則化項之和為1。

7.如權利要求1所述的基于雙重一致性自集成學習的半監督評估系統，其特征在于，所述注意力一致性損失函數模塊包括注意力一致性損失函數，所述注意力一致性損失函數為所述學生模型和所述教師模型的分類結果輸出的均方誤差，或者為所述注意力掩模輸出的均方誤差。

8.如權利要求1所述的基于雙重一致性自集成學習的半監督評估系統，其特征在于，所述注意力一致性損失函數為所述學生模型和所述教師模型的分類結果輸出的均方誤差時，所述注意力一致性損失函數為其中，p_θ(x_i)和p_θ′(x_i)是所述教師模型和所述學生模型相對于輸入的分類結果的概率；θ和θ’分別表示所述教師模型和所述學生模型的參數；n表示分類類別的數量。

9.如權利要求1所述的基于雙重一致性自集成學習的半監督評估系統，其特征在于，所述注意力一致性損失函數為所述注意力掩模輸出的均方誤差時，所述注意力一致性損失函數為其中，f_θ(x_i)_k表示由學生模型的輸入x_i生成的注意力掩模在第i處時k個像素，θ和θ’分別表示所述教師模型和所述學生模型的參數。

10.一種基于雙重一致性自集成學習的半監督評估方法，其特征在于，包括以下步驟：

構建雙重一致性平均教師框架模塊步驟，構建一雙重一致性平均教師框架模塊，所述雙重一致性平均教師框架模塊包含具有相同網絡結構的學生模型和教師模型；所述學生模型和所述教師模型用于輸入一患者圖像并輸出對應的分類結果和相應的注意力掩模；通過監督損失和非監督損失對學生網絡進行優化，并通過指數移動平均更新教師模型；

設置注意力損失函數模塊步驟，設置一注意力損失函數模塊，與所述雙重一致性平均教師框架模塊連接，用于識別并定位病變通常所在區域，以約束所述注意力掩模的生成；

設置注意力一致性損失函數模塊步驟，設置一注意力一致性損失函數模塊，與所述學生模型和所述教師模型連接，所述注意力一致性損失函數模塊包括注意力一致性損失函數，用于控制所述學生模型和所述教師模型同時輸出所述分類結果和相應的所述注意力掩模；以及

病變評估步驟，向所述雙重一致性平均教師框架模塊輸入一患者圖像，所述患者圖像包括膝關節圖像；所述學生模型和所述教師模型同時輸出所述分類結果和相應的所述注意力掩模；所述學生模型和所述教師模型輸出的分類結果為對應所述患者圖像的病變嚴重程度的概率分布。