[發(fā)明專利]一種基于位置敏感圖的知識(shí)蒸餾指導(dǎo)方法

有效

• 申請(qǐng)?zhí)枺?/td>: 201910517256.2
• 申請(qǐng)日: 2019-06-14
• 公開（公告）號(hào): CN110245754B
• 公開（公告）日: 2021-04-06
• 發(fā)明（設(shè)計(jì)）人: 常立博;盧通;杜慧敏;張霞;張麗果;王一鳴;徐一丁
• 申請(qǐng)（專利權(quán)）人: 西安郵電大學(xué)
• 主分類號(hào): G06N5/02
• 分類號(hào): G06N5/02;G06N3/04
• 代理公司: 西安智邦專利商標(biāo)代理有限公司 61211
• 代理人: 汪海艷

1.一種基于位置敏感圖的知識(shí)蒸餾指導(dǎo)方法，其特征在于，包括基于位置敏感圖的指導(dǎo)和基于網(wǎng)絡(luò)輸出與標(biāo)注信息的指導(dǎo)；

通過基于位置敏感圖的指導(dǎo)獲得基于位置敏感圖的指導(dǎo)損失函數(shù)，通過基于網(wǎng)絡(luò)輸出與標(biāo)注信息的指導(dǎo)，獲得基于網(wǎng)絡(luò)輸出的指導(dǎo)損失函數(shù)及基于標(biāo)注信息的指導(dǎo)損失函數(shù)；

利用基于位置敏感圖的指導(dǎo)損失函數(shù)、基于網(wǎng)絡(luò)輸出的指導(dǎo)損失函數(shù)及基于標(biāo)注信息的指導(dǎo)損失函數(shù)加權(quán)相加后獲得總體指導(dǎo)損失函數(shù)，利用總體指導(dǎo)損失函數(shù)指導(dǎo)學(xué)生網(wǎng)絡(luò)的參數(shù)更新；

其中基于位置敏感圖的指導(dǎo)包括以下步驟：

S1、選取教師網(wǎng)絡(luò)中的至少一個(gè)網(wǎng)絡(luò)層作為指導(dǎo)層；選取學(xué)生網(wǎng)絡(luò)中的至少一個(gè)網(wǎng)絡(luò)層作為被指導(dǎo)層；指導(dǎo)層與被指導(dǎo)層一一對(duì)應(yīng)；

S2、獲得教師網(wǎng)絡(luò)與學(xué)生網(wǎng)絡(luò)的多通道位置敏感圖；

S21、根據(jù)希望獲得的位置敏感圖的通道數(shù)分別將指導(dǎo)層與被指導(dǎo)層輸出特征圖均分為C組，其中組數(shù)與位置敏感圖的通道數(shù)相同；

S22、分別對(duì)指導(dǎo)層與被指導(dǎo)層中每組輸出特征圖進(jìn)行3D最大值池化，得到至少一組教師網(wǎng)絡(luò)多通道位置敏感圖及至少一組學(xué)生網(wǎng)絡(luò)多通道位置敏感圖，其中C為大于等于1的正整數(shù)；

S3、對(duì)獲得的教師網(wǎng)絡(luò)多通道位置敏感圖及對(duì)應(yīng)的學(xué)生網(wǎng)絡(luò)多通道位置敏感圖作損失，得到基于位置敏感圖的指導(dǎo)損失函數(shù)；

所述學(xué)生網(wǎng)絡(luò)為輕量化目標(biāo)檢測(cè)網(wǎng)絡(luò)；所述輕量化目標(biāo)檢測(cè)網(wǎng)絡(luò)包括輕量化基礎(chǔ)卷積神經(jīng)網(wǎng)絡(luò)和輕量化分支預(yù)測(cè)網(wǎng)絡(luò)；

所述輕量化基礎(chǔ)卷積神經(jīng)網(wǎng)絡(luò)包括卷積層、第一網(wǎng)絡(luò)層、第二網(wǎng)絡(luò)層及第三網(wǎng)絡(luò)層；

所述第一網(wǎng)絡(luò)層包括至少一個(gè)第一類卷積模塊與至少一個(gè)第二類卷積模塊；

所述第二網(wǎng)絡(luò)層包括至少一個(gè)第二類卷積模塊，或至少一個(gè)第二類卷積模塊與至少一個(gè)第一類卷積模塊；

所述第三網(wǎng)絡(luò)層包括至少一個(gè)第二類卷積模塊，或至少一個(gè)第二類卷積模塊與至少一個(gè)第一類卷積模塊；

所述第一類卷積模塊輸出通道數(shù)與輸入通道數(shù)相同，由一個(gè)卷積核尺寸為t×t、步長(zhǎng)為1的深度卷積層與一個(gè)卷積核尺寸為1×1、步長(zhǎng)為1的卷積層及旁路組成；其中t為正整數(shù)；

所述第二類卷積模塊輸出通道數(shù)是輸入通道數(shù)的2倍，由一個(gè)卷積核尺寸為l×l，步長(zhǎng)為2的深度卷積層與一個(gè)卷積核尺寸為1×1，步長(zhǎng)為1的卷積層組成；其中l(wèi)為正整數(shù)；

所述卷積層的輸入為待測(cè)圖像，用于獲取待測(cè)圖像的特征；

卷積層輸出的圖像經(jīng)過由第一網(wǎng)絡(luò)層卷積運(yùn)算后輸出a特征圖像；

a特征圖像輸入至第二網(wǎng)絡(luò)層卷積運(yùn)算后輸出b特征圖像；

b特征圖像輸入至第三網(wǎng)絡(luò)層卷積運(yùn)算后輸出c特征圖像；

所述輕量化分支預(yù)測(cè)網(wǎng)絡(luò)包括至少一個(gè)第四類卷積模塊與一個(gè)卷積層c′；

所述第四類卷積模塊輸出通道數(shù)與輸入通道數(shù)相同，由一個(gè)卷積核尺寸為t×t、步長(zhǎng)為1的深度卷積層與一個(gè)卷積核尺寸為1×1、步長(zhǎng)為1的卷積層組成；

其中第四類卷積模塊Ⅰ(14)接收輕量化基礎(chǔ)卷積神經(jīng)網(wǎng)絡(luò)輸出的c特征圖像；

c特征圖像經(jīng)第四類卷積模塊Ⅰ(14)卷積運(yùn)算后輸出至卷積層c′運(yùn)算后輸出第一組預(yù)測(cè)張量。

2.根據(jù)權(quán)利要求1所述的基于位置敏感圖的知識(shí)蒸餾指導(dǎo)方法，其特征在于：基于位置敏感圖的指導(dǎo)損失函數(shù)為：

其中，gps是Generate position sensitive map的縮寫，表示生成位置敏感圖；u(x；w_l')表示教師網(wǎng)絡(luò)指導(dǎo)層的輸出特征圖，v(x；w_j)表示學(xué)生網(wǎng)絡(luò)被指導(dǎo)層的輸出特征圖；l′為教師網(wǎng)絡(luò)中的第l′層，j為學(xué)生網(wǎng)絡(luò)中的第j層。

3.根據(jù)權(quán)利要求1所述的基于位置敏感圖的知識(shí)蒸餾指導(dǎo)方法，其特征在于：所述教師網(wǎng)絡(luò)為YOLOv3目標(biāo)檢測(cè)網(wǎng)絡(luò)。