[發(fā)明專利]基于遷移學(xué)習(xí)與知識(shí)蒸餾的珍稀瀕危植物葉片識(shí)別方法

在審

• 申請(qǐng)?zhí)枺?/td>: 202110618280.2
• 申請(qǐng)日: 2021-06-01
• 公開(kāi)（公告）號(hào): CN113361589A
• 公開(kāi)（公告）日: 2021-09-07
• 發(fā)明（設(shè)計(jì)）人: 楊晶晶;吳琳
• 申請(qǐng)（專利權(quán)）人: 楊晶晶;吳琳
• 主分類號(hào): G06K9/62
• 分類號(hào): G06K9/62;G06N3/04;G06N5/02
• 代理公司: 石家莊新世紀(jì)專利商標(biāo)事務(wù)所有限公司 13100
• 代理人: 董金國(guó);黃敬霞

本發(fā)明提出了基于遷移學(xué)習(xí)與知識(shí)蒸餾的珍稀瀕危植物葉片識(shí)別方法。首先對(duì)珍稀瀕危植物葉片數(shù)據(jù)集進(jìn)行擴(kuò)充，然后替換已訓(xùn)練好的AlexNet和VGG16模型的最后一層全連接層進(jìn)行遷移學(xué)習(xí)，達(dá)到了較高珍稀瀕危植物葉片圖像的識(shí)別準(zhǔn)確率，最后，使用知識(shí)蒸餾，將AlexNet和VGG16模型的知識(shí)遷移到輕量級(jí)模型中。實(shí)施結(jié)果表明，相比其他方法，本文方法訓(xùn)練的輕量級(jí)珍稀瀕危植物葉片識(shí)別模型，不但具有珍稀瀕危植物葉片識(shí)別的高準(zhǔn)確度，同時(shí)減少了識(shí)別模型的復(fù)雜度。

技術(shù)領(lǐng)域

本發(fā)明涉及農(nóng)業(yè)科技及人工智能技術(shù)領(lǐng)域，尤其涉及一種使用遷移學(xué)習(xí)與知識(shí)蒸餾，訓(xùn)練珍稀瀕危植物葉片識(shí)別模型的方法。

背景技術(shù)

植物是生態(tài)系統(tǒng)中的重要組成部分，是生物多樣性的重要一環(huán)。每一種植物的滅絕，會(huì)導(dǎo)致10至30種伴生物種的消失，將給生態(tài)系統(tǒng)帶來(lái)嚴(yán)重的不良影響。而珍稀瀕危植物由于各種原因?qū)е聰?shù)量稀少，若種群滅絕則有可能導(dǎo)致整個(gè)生態(tài)系統(tǒng)的破壞，人類自身的生存與發(fā)展將受到嚴(yán)重威脅。保護(hù)植物的多樣性，可促進(jìn)人類社會(huì)的可持續(xù)發(fā)展。由于珍稀瀕危植物涉及的知識(shí)面廣，相關(guān)工作人員識(shí)別珍稀瀕危植物困難，加大了保護(hù)管理珍稀瀕危植物的難度，大量的工作急需開(kāi)展和完善。

保護(hù)和管理珍稀瀕危植物工作中，涉及珍稀瀕危植物的物種識(shí)別問(wèn)題。植物物種識(shí)別方法包括遺傳學(xué)識(shí)別、形態(tài)學(xué)識(shí)別等，形態(tài)學(xué)識(shí)別領(lǐng)域中，植物葉片因?yàn)榫哂薪Y(jié)構(gòu)穩(wěn)定、易采集、生存周期長(zhǎng)等特點(diǎn)，通過(guò)植物葉片進(jìn)行植物物種識(shí)別是識(shí)別植物物種的手段之一。人工鑒定珍稀瀕危植物葉片類別，工作量大、效率較低，主觀性較強(qiáng)，且要求較高的理論知識(shí)儲(chǔ)備。使用計(jì)算機(jī)、人工智能等技術(shù)自動(dòng)識(shí)別珍稀瀕危植物物種，減少工作人員因?yàn)樽R(shí)別珍稀瀕危植物困難而造成的種質(zhì)資源損失，已成為迫切需要解決的問(wèn)題。

發(fā)明內(nèi)容

本發(fā)明目的在于提供一種珍稀瀕危植物物種識(shí)別方法，減少工作人員因?yàn)橐巴庾R(shí)別珍稀瀕危植物困難而造成的種質(zhì)資源損失。

本發(fā)明的一個(gè)方面在于提出了一種基于遷移學(xué)習(xí)與知識(shí)蒸餾的珍稀瀕危植物葉片識(shí)別方法，在保證珍稀瀕危植物葉片識(shí)別結(jié)果高精度的情況下，減少卷積神經(jīng)網(wǎng)絡(luò)的參數(shù)量，使用輕量型珍稀瀕危植物葉片識(shí)別模型，可應(yīng)用于包括低算力移動(dòng)終端等更廣泛的使用場(chǎng)景。其包括步驟：在可離線運(yùn)行的終端上部署學(xué)生模型，以便，所述終端在離線狀態(tài)下調(diào)用所述學(xué)生模型獲得一葉片圖片的識(shí)別結(jié)果；所述學(xué)生模型的網(wǎng)絡(luò)結(jié)構(gòu)由逐次刪減一教師模型的卷積層獲得；所述學(xué)生模型的模型參數(shù)根據(jù)所述教師模型基于軟標(biāo)簽的珍稀瀕危植物葉片樣本集通過(guò)知識(shí)蒸餾獲得；所述教師模型的模型參數(shù)使用基于所述珍稀瀕危植物葉片樣本集的訓(xùn)練獲得。

在多個(gè)使用程序指令實(shí)現(xiàn)的該方案實(shí)施例中，包括步驟：

步驟10，配置第一神經(jīng)網(wǎng)絡(luò)，使用第一數(shù)據(jù)集對(duì)其預(yù)訓(xùn)練，以獲得其第一模型參數(shù)；

步驟20，根據(jù)第二數(shù)據(jù)集中葉片圖片尺寸和分類調(diào)整第一神經(jīng)網(wǎng)絡(luò)的輸入層和全連接層尺寸，以將第一神經(jīng)網(wǎng)絡(luò)修改為第二神經(jīng)網(wǎng)絡(luò)；使用第二數(shù)據(jù)集，基于所述第一模型參數(shù)對(duì)第二神經(jīng)網(wǎng)絡(luò)進(jìn)行遷移學(xué)習(xí)訓(xùn)練，以獲得其第二模型參數(shù)；

步驟30，迭代配置多個(gè)第三神經(jīng)網(wǎng)絡(luò)，以所述第二神經(jīng)網(wǎng)絡(luò)為教師模型，以各第三神經(jīng)網(wǎng)絡(luò)為學(xué)生模型，使用第三數(shù)據(jù)集通過(guò)知識(shí)蒸餾提取所述教師模型的知識(shí)信息以獲得學(xué)生模型的模型參數(shù)；

步驟40，在所述終端上部署步驟30所獲得的學(xué)生模型，以便所述終端讀取葉片圖片，并調(diào)用學(xué)生模型根據(jù)該葉片圖片輸出珍稀瀕危植物識(shí)別結(jié)果；

其中，所述第二數(shù)據(jù)集和第三數(shù)據(jù)集由所述珍稀瀕危植物葉片樣本集的至少一個(gè)子集獲得。

進(jìn)一步的改進(jìn)在于，所述步驟30包括以下步驟：

步驟31，對(duì)所述第二神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行剪枝調(diào)整操作后，去掉其中一個(gè)卷積層后，獲得一個(gè)第三神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)；