[發(fā)明專利]一種圖像持續(xù)學(xué)習(xí)識別方法、裝置及設(shè)備

在審

• 申請?zhí)枺?/td>: 202211287865.1
• 申請日: 2022-10-20
• 公開（公告）號: CN115630694A
• 公開（公告）日: 2023-01-20
• 發(fā)明（設(shè)計(jì)）人: 廖海斌;袁理;吳謀
• 申請（專利權(quán)）人: 武漢紡織大學(xué)
• 主分類號: G06N3/084
• 分類號: G06N3/084;G06N3/088;G06N3/096;G06N3/048;G06V10/774;G06V10/778;G06V10/82;G06N5/025
• 代理公司: 武漢科皓知識產(chǎn)權(quán)代理事務(wù)所(特殊普通合伙) 42222
• 代理人: 王琪

本發(fā)明提出一種圖像持續(xù)學(xué)習(xí)識別方法、裝置及設(shè)備，利用該持續(xù)學(xué)習(xí)方法可以實(shí)現(xiàn)無限種圖像識別學(xué)習(xí)任務(wù)，主要包括特征提取共享和知識遷移學(xué)習(xí)兩大步驟，其中，特征提取共享由無監(jiān)督預(yù)訓(xùn)練和有監(jiān)督調(diào)優(yōu)組成，知識遷移學(xué)習(xí)由知識倉庫構(gòu)建、知識遷移、更新知識庫、模型學(xué)習(xí)和接受反饋組成。本發(fā)明利用知識遷移技術(shù)可以做到利用一個(gè)模型進(jìn)行圖像識別持續(xù)訓(xùn)練學(xué)習(xí)，最終可做到使用一個(gè)模型實(shí)現(xiàn)任意種類圖像的識別任務(wù)，并通過實(shí)驗(yàn)驗(yàn)證了本發(fā)明的效果。

技術(shù)領(lǐng)域

本發(fā)明屬于機(jī)器學(xué)習(xí)領(lǐng)域，具體涉及圖像處理與模式識別領(lǐng)域。

背景技術(shù)

在進(jìn)行圖像識別任務(wù)時(shí)，傳統(tǒng)的做法是為每一個(gè)任務(wù)訓(xùn)練一個(gè)深度神經(jīng)網(wǎng)絡(luò)模型進(jìn)行逐個(gè)擊破。此做法的缺陷是：①把每個(gè)任務(wù)割裂開，不能做到觸類旁通(協(xié)同學(xué)習(xí)和遷移學(xué)習(xí))。②會(huì)造成計(jì)算和存儲(chǔ)資源緊張問題，假如有1000個(gè)任務(wù)，則需要訓(xùn)練和存儲(chǔ)1000個(gè)模型。針對上述問題，有人提出了多任務(wù)深度學(xué)習(xí)模型利用一個(gè)模型同時(shí)進(jìn)行多任務(wù)協(xié)同學(xué)習(xí)。但由于不同任務(wù)識別的難易程度不一樣，一旦訓(xùn)練樣本不足或損失函數(shù)設(shè)計(jì)不合理，容易發(fā)生較難分類的任務(wù)會(huì)拖累較容易分類的任務(wù)。另外，由于收集單任務(wù)訓(xùn)練樣本比多任務(wù)訓(xùn)練樣本容易，阻礙了多任務(wù)深度學(xué)習(xí)的應(yīng)用。另外一方面，多任務(wù)學(xué)習(xí)并沒有模仿人類持續(xù)學(xué)習(xí)的方式(學(xué)習(xí)新任務(wù)時(shí)利用舊任務(wù)知識進(jìn)行遷移學(xué)習(xí))，導(dǎo)致其學(xué)習(xí)能力和應(yīng)用場景受阻。

為了將某個(gè)領(lǐng)域或任務(wù)上學(xué)習(xí)到的知識或模式應(yīng)用到不同但相關(guān)的領(lǐng)域或問題中，學(xué)者們研究出了遷移學(xué)習(xí)技術(shù)。即，從相關(guān)領(lǐng)域中遷移標(biāo)注數(shù)據(jù)或者知識結(jié)構(gòu)、完成或改進(jìn)目標(biāo)領(lǐng)域或任務(wù)的學(xué)習(xí)效果。隨著對新任務(wù)學(xué)習(xí)不斷地積累知識，傳統(tǒng)的遷移學(xué)習(xí)將舊任務(wù)的知識遷移到新任務(wù)只是為了更好識別新任務(wù)而不關(guān)心舊任務(wù)。因此，傳統(tǒng)的遷移學(xué)習(xí)會(huì)導(dǎo)致“災(zāi)難性遺忘”問題，即學(xué)習(xí)了新任務(wù)，忘記了舊任務(wù)。

發(fā)明內(nèi)容

為了解決上述問題，本發(fā)明提出一種圖像持續(xù)學(xué)習(xí)識別方法、裝置及設(shè)備，利用該持續(xù)學(xué)習(xí)方法可以實(shí)現(xiàn)無限種圖像識別學(xué)習(xí)任務(wù)，如圖1所示，主要包括特征提取共享和知識遷移學(xué)習(xí)兩大步驟，其中，特征提取共享由無監(jiān)督預(yù)訓(xùn)練和有監(jiān)督調(diào)優(yōu)組成，知識遷移學(xué)習(xí)由知識倉庫構(gòu)建、知識遷移、更新知識庫、模型學(xué)習(xí)和接受反饋組成。

為了達(dá)到上述目的，本發(fā)明提供的技術(shù)方案是：一種圖像持續(xù)學(xué)習(xí)識別方法，括特征提取共享和知識遷移學(xué)習(xí)兩大步驟，其中特征提取共享包括如下子步驟：

S11，無監(jiān)督預(yù)訓(xùn)練，采用自編碼網(wǎng)絡(luò)中的無監(jiān)督重構(gòu)預(yù)訓(xùn)練方法訓(xùn)練得到特征提取共享模型；

S12，維護(hù)更新特征提取共享模型，使用BP反向傳播算法對S11步驟生成的特征提取共享模型進(jìn)行微調(diào)更新；

S13，使用更新后的特征提取共享模型對待識別圖像X^(t)進(jìn)行逐層特征提取得到圖像特征H^(t)，t表示第t個(gè)識別任務(wù)；

S14，對當(dāng)前任務(wù)的特征H^(t)進(jìn)行分解求解模型參數(shù)θ^(t)以及知識庫矩陣L；

知識遷移學(xué)習(xí)包括知識倉庫構(gòu)建、知識遷移、模型學(xué)習(xí)、更新知識庫和接受反饋；

其中知識遷移中使用特征提取共享模塊提取得到的特征H^(t)構(gòu)建新任務(wù)Z^(t)＝(H^(t),y^(t))，y^(t)為標(biāo)簽，隨后對這組訓(xùn)練數(shù)據(jù)使用終身機(jī)器學(xué)習(xí)算法進(jìn)行遷移學(xué)習(xí)，獲得每個(gè)任務(wù)最終的圖像識別學(xué)習(xí)模型f^(t)(θ)，并利用學(xué)習(xí)模型進(jìn)行圖像識別。