[發(fā)明專利]一種基于脈沖遷移學(xué)習(xí)的辦公設(shè)備識別方法

有效

• 申請?zhí)枺?/td>: 202110741347.1
• 申請日: 2021-06-30
• 公開（公告）號: CN113553917B
• 公開（公告）日: 2023-04-28
• 發(fā)明（設(shè)計）人: 解修蕊;劉貴松;占求港;黃鸝;謝卓凱;鄧文杰
• 申請（專利權(quán)）人: 電子科技大學(xué)
• 主分類號: G06V20/52
• 分類號: G06V20/52;G06T7/13;G06T5/50;G06V10/44;G06V10/764;G06V10/82;G06N3/0464;G06N3/049;G06N3/096;G06N3/084
• 代理公司: 成都弘毅天承知識產(chǎn)權(quán)代理有限公司 51230
• 代理人: 朱丹

本發(fā)明公開了一種基于脈沖遷移學(xué)習(xí)的辦公設(shè)備識別方法，根據(jù)遷移學(xué)習(xí)任務(wù)，將干凈背景、高分辨率、無噪音的有標(biāo)注的辦公設(shè)備圖像作為源域，實(shí)際場景下采集的不同噪聲及分辨率的圖像作為目標(biāo)域；初始化脈沖神經(jīng)網(wǎng)絡(luò)參數(shù)，得到初始狀態(tài)的遷移學(xué)習(xí)網(wǎng)絡(luò)模型；將源域和目標(biāo)域轉(zhuǎn)換為脈沖形式的圖片，輸入至初始狀態(tài)的遷移學(xué)習(xí)網(wǎng)絡(luò)模型中，并正向傳播；根據(jù)域遷移損失以及分類損失，使用Adamax優(yōu)化器進(jìn)行整個網(wǎng)絡(luò)的訓(xùn)練，直到模型收斂或達(dá)到最大迭代次數(shù)，得到訓(xùn)練好的遷移學(xué)習(xí)網(wǎng)絡(luò)模型；保存訓(xùn)練好的遷移學(xué)習(xí)網(wǎng)絡(luò)模型，將目標(biāo)域的全部樣本輸入導(dǎo)訓(xùn)練好的遷移學(xué)習(xí)網(wǎng)絡(luò)模型中，預(yù)測得到最終的分類結(jié)果。

技術(shù)領(lǐng)域

本發(fā)明屬于計算機(jī)科學(xué)、神經(jīng)網(wǎng)絡(luò)技術(shù)的領(lǐng)域，涉及一種基于脈沖遷移學(xué)習(xí)的辦公設(shè)備識別方法。

背景技術(shù)

隨著生活水平的提高，較為貴重的辦公設(shè)備(如：個人電腦、打印機(jī)等)也逐漸普及，因此，對辦公設(shè)備進(jìn)行安防監(jiān)管的需求也日益增加。常用的方法是利用攝像頭采集圖像，并識別和監(jiān)管辦公設(shè)備。然而，不同辦公場所采集的圖像分辨率差異較大，且噪聲分布明顯，使得同一個分類神經(jīng)網(wǎng)絡(luò)無法在所有不同場景下都能準(zhǔn)確識別設(shè)備，需要針對不同場景下采集的圖像進(jìn)行人工標(biāo)注和重新訓(xùn)練，造成大量的資源消耗。

現(xiàn)有技術(shù)方案包括一種基于深度神經(jīng)網(wǎng)絡(luò)的預(yù)訓(xùn)練方案：首先利用已有的干凈背景、高分辨率、無噪音的有標(biāo)注的辦公設(shè)備圖像，并對神經(jīng)網(wǎng)絡(luò)模型進(jìn)行預(yù)訓(xùn)練；之后根據(jù)少量的實(shí)際噪聲圖像進(jìn)行數(shù)據(jù)標(biāo)注，在預(yù)訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)模型上進(jìn)行參數(shù)微調(diào)，直到收斂。以及一種技術(shù)方案為深度神經(jīng)網(wǎng)絡(luò)遷移學(xué)習(xí)方案：將干凈背景、高分辨率、無噪音的有標(biāo)注的辦公設(shè)備圖像作為源域，將所采集的不同噪聲及分辨率的圖像作為目標(biāo)域。神經(jīng)網(wǎng)絡(luò)同時接收有標(biāo)注的源域數(shù)據(jù)和無標(biāo)注的目標(biāo)域數(shù)據(jù)，訓(xùn)練目標(biāo)包括提高分類模型在噪聲和多分辨率場景下的識別準(zhǔn)確率，以及縮小源域和目標(biāo)域的特征分布差別。訓(xùn)練收斂后的神經(jīng)網(wǎng)絡(luò)可以直接對具體應(yīng)用場景下的圖像進(jìn)行分類。

現(xiàn)有技術(shù)方案存在以下缺陷：

對于深度神經(jīng)網(wǎng)絡(luò)預(yù)訓(xùn)練方案：仍然需要對部分實(shí)際采集的帶噪聲的圖像進(jìn)行數(shù)據(jù)標(biāo)注，且效果對噪聲魯棒性較差。對于深度神經(jīng)網(wǎng)絡(luò)遷移學(xué)習(xí)方案：基于傳統(tǒng)深度神經(jīng)網(wǎng)絡(luò)的方法功耗高且訓(xùn)練收斂難度較大。

傳統(tǒng)人工神經(jīng)網(wǎng)絡(luò)使用連續(xù)值作為神經(jīng)元的輸入和輸出。脈沖神經(jīng)網(wǎng)絡(luò)作為第三代神經(jīng)網(wǎng)絡(luò)，真實(shí)模擬生物神經(jīng)元的特性。神經(jīng)元具有膜電位，膜電位達(dá)到閾值后進(jìn)行點(diǎn)火，輸入輸出信號即為二值的脈沖時序信號。脈沖神經(jīng)網(wǎng)絡(luò)的稀疏性離散脈沖，可以大量減少功耗以及緩解深度學(xué)習(xí)中過擬合現(xiàn)象。關(guān)于脈沖神經(jīng)網(wǎng)絡(luò)的應(yīng)用和方法研究也越來越多。專利CN201910087183.8和專利CN201810430121.8也分別進(jìn)行了脈沖神經(jīng)網(wǎng)絡(luò)上卷積神經(jīng)網(wǎng)絡(luò)的應(yīng)用和脈沖神經(jīng)網(wǎng)絡(luò)的手寫數(shù)字識別方法的改進(jìn)。專利CN201910088572.2提出了一種基于脈沖神經(jīng)網(wǎng)絡(luò)人體摔倒動作的視頻識別方法，將脈沖神經(jīng)網(wǎng)絡(luò)應(yīng)用在了現(xiàn)實(shí)任務(wù)中。

但是針對不同場景下具有不同噪聲以及不同分辨率的辦公設(shè)備圖像，深度脈沖神經(jīng)網(wǎng)絡(luò)中，仍然沒有一種有效的遷移學(xué)習(xí)方法。

發(fā)明內(nèi)容

本發(fā)明的目的在于：提供了一種基于脈沖遷移學(xué)習(xí)的辦公設(shè)備識別方法，解決了現(xiàn)有技術(shù)的不足。

本發(fā)明采用的技術(shù)方案如下：

一種基于脈沖遷移學(xué)習(xí)的辦公設(shè)備識別方法，包括以下步驟：

步驟1、根據(jù)遷移學(xué)習(xí)任務(wù)，將干凈背景、高分辨率、無噪音的有標(biāo)注的辦公設(shè)備圖像作為源域，實(shí)際應(yīng)用場景圖像作為目標(biāo)域；

步驟2、初始化脈沖神經(jīng)網(wǎng)絡(luò)參數(shù)，包括突觸連接權(quán)重、脈沖點(diǎn)火閾值、延遲常數(shù)、學(xué)習(xí)率和時間窗口長度，得到初始狀態(tài)的遷移學(xué)習(xí)網(wǎng)絡(luò)模型；

步驟3、將源域和目標(biāo)域轉(zhuǎn)換為脈沖形式的圖片，并輸入至步驟2中的初始狀態(tài)的遷移學(xué)習(xí)網(wǎng)絡(luò)模型中，并正向傳播；根據(jù)域遷移損失以及分類損失，使用Adamax優(yōu)化器進(jìn)行整個網(wǎng)絡(luò)的訓(xùn)練，直到模型收斂或達(dá)到最大迭代次數(shù)，得到訓(xùn)練好的遷移學(xué)習(xí)網(wǎng)絡(luò)模型；