[發(fā)明專(zhuān)利]基于知識(shí)蒸餾的無(wú)監(jiān)督圖像缺陷檢測(cè)方法、裝置及介質(zhì)

在審

• 申請(qǐng)?zhí)枺?/td>: 202210718773.8
• 申請(qǐng)日: 2022-06-23
• 公開(kāi)（公告）號(hào): CN115187525A
• 公開(kāi)（公告）日: 2022-10-14
• 發(fā)明（設(shè)計(jì)）人: 伍強(qiáng);展華益;劉明華
• 申請(qǐng)（專(zhuān)利權(quán)）人: 四川啟睿克科技有限公司
• 主分類(lèi)號(hào): G06T7/00
• 分類(lèi)號(hào): G06T7/00;G06N3/08;G06V10/74;G06V10/774;G06V10/82
• 代理公司: 四川省成都市天策商標(biāo)專(zhuān)利事務(wù)所(有限合伙) 51213
• 代理人: 劉堋

1.一種基于知識(shí)蒸餾的無(wú)監(jiān)督圖像缺陷檢測(cè)方法，其特征在于，包括：

構(gòu)建教師模型，所述教師模型是利用與待檢測(cè)缺陷領(lǐng)域無(wú)關(guān)的數(shù)據(jù)集進(jìn)行訓(xùn)練得到，然后對(duì)學(xué)生模型提供有益于缺陷檢測(cè)的知識(shí)指導(dǎo)；

構(gòu)建學(xué)生模型，所述學(xué)生模型用于提取圖像的多尺度特征圖；

利用學(xué)生模型構(gòu)建無(wú)缺陷圖像的多尺度特征集合，得到學(xué)生特征圖集合；

利用所述學(xué)生特征圖集合建立像素級(jí)缺陷檢測(cè)模型集合；

接收用戶(hù)終端發(fā)送的圖像、像素級(jí)缺陷閾值和圖像級(jí)缺陷閾值；

利用所述學(xué)生模型建立所述圖像的多尺度特征圖，計(jì)算所述多尺度特征圖與所述像素級(jí)缺陷檢測(cè)模型集合的距離，得到距離矩陣，通過(guò)距離矩陣與像素級(jí)缺陷閾值和圖像級(jí)缺陷閾值之間的關(guān)系，判斷用戶(hù)終端發(fā)送的圖像是否存在缺陷。

2.根據(jù)權(quán)利要求1所述的基于知識(shí)蒸餾的無(wú)監(jiān)督圖像缺陷檢測(cè)方法，其特征在于，所述構(gòu)建教師模型的方法包括：

構(gòu)建一個(gè)神經(jīng)網(wǎng)絡(luò)模型作為初始教師模型和一個(gè)與待檢測(cè)缺陷領(lǐng)域無(wú)關(guān)的數(shù)據(jù)集；

設(shè)定損失函數(shù)為交叉熵；

在所述待檢測(cè)缺陷領(lǐng)域無(wú)關(guān)的數(shù)據(jù)集上采用反向傳播的方法訓(xùn)練所述初始教師模型，得到所述教師模型。

3.根據(jù)權(quán)利要求2所述的基于知識(shí)蒸餾的無(wú)監(jiān)督圖像缺陷檢測(cè)方法，其特征在于，所述構(gòu)建學(xué)生模型的方法包括：

構(gòu)建初始學(xué)生模型和一個(gè)待檢測(cè)缺陷領(lǐng)域的無(wú)缺陷數(shù)據(jù)集；

設(shè)定損失函數(shù)為公式中L表示中間網(wǎng)絡(luò)的層數(shù)，其中l(wèi)∈[1，L]，w_l為第l層網(wǎng)絡(luò)的權(quán)重，表示教師網(wǎng)絡(luò)和學(xué)生網(wǎng)絡(luò)的第l層的局部誤差，表示教師網(wǎng)絡(luò)和學(xué)生網(wǎng)絡(luò)的第l層的全局誤差，α∈[0，1]為平衡全局誤差和局部誤差，loss_total代表的是教師網(wǎng)絡(luò)與學(xué)生網(wǎng)絡(luò)之間的總的知識(shí)偏差，通過(guò)這一項(xiàng)學(xué)生網(wǎng)絡(luò)和老師網(wǎng)絡(luò)被連接起來(lái)，并且通過(guò)最小化目標(biāo)函數(shù)把教師網(wǎng)絡(luò)的知識(shí)傳遞到學(xué)生網(wǎng)絡(luò)，所述的和通過(guò)如下方式得到，教師網(wǎng)絡(luò)的特征圖為教師網(wǎng)絡(luò)的池化特征為學(xué)生網(wǎng)絡(luò)的特征圖為學(xué)生網(wǎng)絡(luò)的池化特征為定義局部誤差全局誤差其中，Dist(.)表示距離度量至少包括歐式距離或者余弦距離；

在待檢測(cè)缺陷領(lǐng)域的無(wú)缺陷數(shù)據(jù)集上采用反向傳播的方法訓(xùn)練所述的初始學(xué)生模型，并且在訓(xùn)練過(guò)程中，教師模型的參數(shù)保持不變，只更新初始學(xué)生模型的參數(shù)，得到所述學(xué)生模型。

4.根據(jù)權(quán)利要求3所述的基于知識(shí)蒸餾的無(wú)監(jiān)督圖像缺陷檢測(cè)方法，其特征在于，所述構(gòu)建學(xué)生特征圖集合的方法包括：

將無(wú)缺陷圖像輸入學(xué)生模型，提取至少一個(gè)中間層的輸出特征圖；

將小分辨率特征圖上采樣到與輸出特征圖中最大分辨率的尺寸一致；

然后將所有的特征圖沿通道方向按照像素位置拼接起來(lái)；

將拼接后的特征圖沿特征通道方向?qū)⒚總€(gè)像素點(diǎn)對(duì)應(yīng)的特征向量做二范數(shù)歸一化處理。

5.根據(jù)權(quán)利要求4所述的基于知識(shí)蒸餾的無(wú)監(jiān)督圖像缺陷檢測(cè)方法，其特征在于，所述建立像素級(jí)缺陷檢測(cè)模型集合的方法包括：

將學(xué)生特征圖集合中所有特征圖譜的相同像素點(diǎn)對(duì)應(yīng)的特征向量作為當(dāng)前像素點(diǎn)的特征集合；

分別對(duì)每個(gè)像素點(diǎn)的特征集合采用混合高斯模型建立特征分布模型；

將所有像素點(diǎn)的特征分布模型作為像素級(jí)缺陷檢測(cè)模型集合。

6.根據(jù)權(quán)利要求5所述的基于知識(shí)蒸餾的無(wú)監(jiān)督圖像缺陷檢測(cè)方法，其特征在于，所述利用所述學(xué)生模型建立所述圖像的多尺度特征圖的方法包括：

利用學(xué)生模型提取用戶(hù)終端發(fā)送的圖像的多尺度特征圖；

將所述多尺度特征圖中的小分辨率特征圖上采樣到與最大分辨率的尺寸一致；

將所有的特征圖沿特征通道方向按照像素位置拼接起來(lái)；

將拼接后的特征圖沿特征通道方向?qū)⒚總€(gè)像素點(diǎn)對(duì)應(yīng)的特征向量做二范數(shù)歸一化處理，得到圖像的多尺度特征圖。