[發明專利]一種基于聯邦學習和對比學習的醫學圖像分類方法

在審

• 申請號: 202310505919.5
• 申請日: 2023-05-06
• 公開（公告）號: CN116563625A
• 公開（公告）日: 2023-08-08
• 發明（設計）人: 劉振丙;吳峰峰;路皓翔;王文顥;范濤;李威醒
• 申請（專利權）人: 桂林電子科技大學
• 主分類號: G06V10/764
• 分類號: G06V10/764;G06V10/774;G06T7/00;G06N20/20;G06N3/0895
• 代理公司: 桂林市華杰專利商標事務所有限責任公司 45112
• 代理人: 王儉

1.一種基于聯邦學習和對比學習的醫學圖像分類方法，其特征在于，在聯邦學習的訓練中，將當前訓練輪次的本地模型和上一輪次的全局模型與本地模型結合起來進行訓練，減少本輪模型與上一輪全局模型特征表示之間的距離，增加本輪模型與上一輪本地模型特征表示之間的距離，運用模型之間的監督對比損失，讓客戶端的本地模型在訓練過程中逐漸靠近全局模型。

2.根據權利要求1所述的基于聯邦學習和對比學習的醫學圖像分類方法，其特征在于，訓練的模型框架由一個用于分類的主干網絡密集連接卷積網絡(DenselyConnectedConvolutional?Networks，簡稱DenseNet)、一個線性映射層和一個全連接層組成，DenseNet用于提取圖像的特征，線性映射層用于將特征向量映射到指定的維度，全連接層用來產生每一個類別的預測值；針對第t輪的通信訓練，包括如下步驟：

步驟1，服務器端將當前輪的全局模型發送給各個客戶端，由客戶端來對當前的全局模型進行處理，訓練當前輪的本地模型；

步驟2，客戶端保存著當前需要進行訓練的本地模型、服務端分發的全局模型和上一輪訓練出的本地模型，使用基于監督對比損失和交叉熵損失的混合損失函數進行訓練，監督對比損失函數如公式(6)所示：

其中，sim()表示余弦相似度函數，τ為溫度參數用于控制損失值，保證損失的收斂，代表當第t輪的本地模型學習的特征表示，代表第t-1輪的本地模型學習的特征表示，代表第t-1輪的全局模型學習的特征表示；

訓練使用的混合損失函數公式如(7)所示：

其中，s為當前訓練的本地數據集樣本，為當前第t輪待訓練的本地模型，為第t-1輪的本地模型，為第t-1輪的全局模型，μ為用于控制監督對比損失權重的超參數；

步驟3，每個客戶端在本地訓練結束之后，將訓練好的本地模型發送給服務端，以供服務端進行模型聚合；

步驟4，服務端在收集完所有客戶端的本地模型后，使用加權平均的方式進行模型聚合，得到第t輪的全局模型，至此，第t輪通信訓練完成；開始重回步驟1進行下一輪通信訓練；總體的優化目標如公式(8)所示：

其中，n代表所有客戶端總體數據的數量，n_k代表來自第k個客戶端的數據集數量，為第k個客戶端的混合損失，w_glob為當前待訓練的全局模型，因此，模型總體優化目標即為每一個客戶端使用混合損失訓練完成后，然后再進行加權平均的方式進行聚合，最終得到最優的全局模型w_glob。