[發明專利]一種基于聯邦遷移學習的檢測方法、系統、設備及介質在審
| 申請號: | 202211128866.1 | 申請日: | 2022-09-16 |
| 公開(公告)號: | CN115470703A | 公開(公告)日: | 2022-12-13 |
| 發明(設計)人: | 丁香;楊樹森;王藝蒙;趙鵬;趙聰;李科學;郭思言;李亞男;韓青 | 申請(專利權)人: | 西安交通大學 |
| 主分類號: | G06F30/27 | 分類號: | G06F30/27;G06F119/02 |
| 代理公司: | 西安通大專利代理有限責任公司 61200 | 代理人: | 李鵬威 |
| 地址: | 710049 陜*** | 國省代碼: | 陜西;61 |
| 權利要求書: | 查看更多 | 說明書: | 查看更多 |
| 摘要: | |||
| 搜索關鍵詞: | 一種 基于 聯邦 遷移 學習 檢測 方法 系統 設備 介質 | ||
1.一種基于聯邦遷移學習的檢測方法,其特征在于,包括以下步驟:
根據源域的本地標簽數據,訓練輕量級的CNN檢測模型,利用聯邦聚合方法聚合CNN檢測模型的參數,得到本地模型;
采用聯邦遷移學習的個性化模型訓練方法,對本地模型進行處理,得到源域的個性化檢測模型;
對源域的個性化檢測模型的參數進行平均聚合,得到源域全局模型,將源域全局模型作為目標域的初始模型;
利用聯邦對抗網絡為目標域訓練偽標簽預測器;
利用多個源域的個性化檢測模型進行投票,得到偽標簽預測器的預測結果;初始模型利用預測結果和目標域不帶標簽的數據進行自訓練,得到目標域最終檢測模型;
采用固定的關鍵幀間隔方法從源域和目標域的實時視頻幀序列中選擇關鍵幀;將關鍵幀輸入源域的個性化檢測模型和目標域的最終檢測模型得到檢測結果,并將檢測結果發送至追蹤模塊作為追蹤模板;
將非關鍵幀輸入已完成關鍵幀檢測結果更新的輕量化的追蹤模塊,利用追蹤模板對非關鍵幀中的目標進行追蹤檢測,得到當前非關鍵幀中檢測對象的坐標,并繼承關鍵幀的分類結果。
2.根據權利要求1所述的基于聯邦遷移學習的檢測方法,其特征在于,所述輕量級的CNN檢測模型采用Mobilenetv2-SSD。
3.根據權利要求1所述的基于聯邦遷移學習的檢測方法,其特征在于,所述采用聯邦遷移學習的個性化模型訓練方法,對本地模型進行處理,得到源域的個性化檢測模型,包括:
每次全局級聯邦通信,全局服務器采用FedBN算法,凍結批歸一化層參數,其他參數進行平均聚合,得到源域的個性化檢測模型。
4.根據權利要求1所述的基于聯邦遷移學習的檢測方法,其特征在于,所述利用聯邦對抗網絡為目標域訓練偽標簽預測器F2,包括:
在聯邦對抗網絡中加入目標域樣本加權DCBR聯邦域對抗網絡模塊和類別感知目標模式匹配COPM聯邦域對抗網絡模塊,在源域和目標域的每個公司隨機選擇1個作業現場進行訓練,用于減少訓練時間;
DCBR聯邦域對抗網絡模塊能夠動態地重新加權每個目標樣本,每個目標域樣本的權重為:
其中,t為目標域標志,t1為第一個目標域樣本權重標志、t2第二個目標域樣本權重標志,z為目標域選定作業現場視頻數據中圖像幀數,θ為權重參數,為易于適應的樣本分配更大的權重,為樣本稀少的類別分配更大的權重;
易于適應的樣本分配更大的權重如下:
其中,K為源域模型檢測總類別數,τ為閾值參數,M為源域公司總個數,i表示第i個源域公司,表示目標域選定作業現場的第z幀圖像利用第i個源域公司的檢測模型在第k類的預測值,且k={1,2,…,K},s為源域公司標志,表示目標域選定作業現場第z幀圖像樣本;l(a)是一個指示函數,如果為真則為1,否則為0;表示多個源域檢測模型的投票結果;K′為歸一化系數,且表示在M個源域公司檢測模型中第k類預測值的均值,且
樣本稀少的類別分配更大的權重如下:
其中,e表示自然常數,其值約為2.71828,表示目標域中該樣本所屬類別的樣本個數,樣本所屬類別也由多個源域檢測器投票得到,nt表示目標域中總樣本數;
DCBR聯邦域對抗網絡模塊的總損失Ldcbr為:
其中,是源域第i個電力公司的對抗損失,是目標域的對抗損失;
源域第i個電力公司的對抗損失為:
其中,ns,i是源域第i個電力公司選定作業現場的視頻數據圖像總幀數,Ddcbr是images-wise的域判別器;代表源域樣本的image-wise特征;
目標域的對抗損失為:
其中,是目標域樣本的image-wise特征;
COPM聯邦域對抗網絡模塊能夠降低源域與目標域之間低級別特征的差異;COPM聯邦域對抗網絡模塊的總體損失Lcopm為:
Lcopm=Lla+Ladv
其中,Lla是對象模式匹配損失,Ladv為pixel-wise的域判別器損失;
對象模式匹配損失Lla為:
其中,H和W分別表示源域樣本pixel-wise特征層的高和寬,fs,i和ft分別代表源域和目標域樣本的注意力圖;Φ(x,x′)=‖x-x′‖2為歐幾里得距離;
pixel-wise的域判別器損失Ladv為:
其中,是源域i的對抗損失,是目標域的對抗損失;
源域i的對抗損失為:
其中,Dadv表示pixel-wise的域判別器,代表源域樣本的pixel-wise特征;
目標域的對抗損失為:
其中,表示目標域樣本的pixel-wise特征;
通過集成每個源域的安全作業檢測和源域與目標域間的域自適應損失,聯邦偽標簽預測的整體損失L為:
L=Lod+λ1Ldcbr+λ2Lcopm
其中,Lod為源域目標檢測損失,Ldcbr為DCBR聯邦域對抗網絡模塊總損失,Lcopm為COPM聯邦域對抗網絡模塊總體損失,λ1和λ2為模塊權重參數;
基于域對抗網絡原理,采用優化隨機梯度下降法進行源域及目標域各模型參數更新訓練,得到目標域偽標簽預測器F2。
該專利技術資料僅供研究查看技術是否侵權等信息,商用須獲得專利權人授權。該專利全部權利屬于西安交通大學,未經西安交通大學許可,擅自商用是侵權行為。如果您想購買此專利、獲得商業授權和技術合作,請聯系【客服】
本文鏈接:http://www.szxzyx.cn/pat/books/202211128866.1/1.html,轉載請聲明來源鉆瓜專利網。
- 上一篇:一種頭戴設備、方法、存儲介質及VR虛擬現實設備
- 下一篇:一種高效的溶混工藝





