[發(fā)明專利]一種具有注意力機(jī)制的淺層卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)及優(yōu)化方法和電子設(shè)備

有效

• 申請?zhí)枺?/td>: 202310212151.2
• 申請日: 2023-03-07
• 公開（公告）號: CN116108403B
• 公開（公告）日: 2023-06-16
• 發(fā)明（設(shè)計(jì)）人: 黃天羽;吳思思;李弋豪;唐明湘;丁剛毅;李鵬
• 申請（專利權(quán)）人: 北京理工大學(xué)
• 主分類號: G06F18/25
• 分類號: G06F18/25;G06N3/0455;A61B5/11;G06F123/02
• 代理公司: 北京云嘉湃富知識產(chǎn)權(quán)代理有限公司 11678
• 代理人: 劉新桐

本申請涉及一種具有注意力機(jī)制的淺層卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)及優(yōu)化方法和電子設(shè)備，用于可穿戴設(shè)備的時(shí)間序列數(shù)據(jù)的實(shí)時(shí)識別。該優(yōu)化方法包括：構(gòu)建卷積神經(jīng)網(wǎng)絡(luò)；設(shè)置混合分塊層的連接位置，所述混合分塊層包括分塊分割模塊、編碼器、傳遞與融合模塊、解碼器、分塊合并模塊；基于所述混合分塊層的連接位置，優(yōu)化所述神經(jīng)網(wǎng)絡(luò)模型；調(diào)整所述分塊的大小，進(jìn)一步優(yōu)化所述神經(jīng)網(wǎng)絡(luò)模型。本申請的方案使用二維樂高卷積來替代傳統(tǒng)的卷積層，并在輕量化網(wǎng)絡(luò)中加入混合分塊層，使用自注意力機(jī)制來提高特征表達(dá)性，提高識別精確度。

技術(shù)領(lǐng)域

本申請涉及人工智能領(lǐng)域，特別涉及一種具有注意力機(jī)制的淺層卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)及優(yōu)化方法和電子設(shè)備。

背景技術(shù)

近年來，由于深度學(xué)習(xí)不斷的發(fā)展，人體活動識別領(lǐng)域的成果產(chǎn)生了不少進(jìn)展，比如有基于視覺的自動人體活動識別，有基于傳感器的人體活動識別，在健康監(jiān)測和智能醫(yī)療系統(tǒng)領(lǐng)域的人體活動識別研究也是熱點(diǎn)之一。根據(jù)傳感器的部署方式，存在多傳感器的人體活動識別和單傳感器的人體活動識別。多傳感器的部署可以獲得更準(zhǔn)確的數(shù)據(jù)信息，多種模態(tài)的數(shù)據(jù)特征能夠更容易獲得更好得識別效果。單傳感器的部署雖然能夠獲得的數(shù)據(jù)信息量相比而言更少，但是輕量、靈活、便攜的特性使得單傳感器在實(shí)際運(yùn)用中受到青睞。此外，因?yàn)閭鞲衅鳠o時(shí)無刻不在收集人們活動的數(shù)據(jù)，出于隱私度的考慮，大多數(shù)人對于單傳感器的接受度更高。

在基于傳感器的人體活動識別中，根據(jù)提取特征的不同，可分為兩類，一類是人工提取的特征，另一類是使用深度學(xué)習(xí)對原始數(shù)據(jù)提取深層特征。在早期的活動識別中，最常使用的人工提取特征是基本的信號統(tǒng)計(jì)和波形的特征，比如時(shí)間序列信號的均值和方差，然后使用機(jī)器學(xué)習(xí)方法來進(jìn)行分類。后來，一些研究人員仍舊使用這些人工特征，在后續(xù)的活動識別中使用了深度學(xué)習(xí)技術(shù)。使用深度學(xué)習(xí)技術(shù)進(jìn)行人體活動識別的方法有卷積神經(jīng)網(wǎng)絡(luò)，循環(huán)神經(jīng)網(wǎng)絡(luò)，?卷積神經(jīng)網(wǎng)絡(luò)和循環(huán)神經(jīng)網(wǎng)絡(luò)的混合模型，生成對抗模型，自動編碼模型等等。

卷積神經(jīng)網(wǎng)絡(luò)的特點(diǎn)是可以提取數(shù)據(jù)的局部特征，并且具有空間不變性，如果想要增強(qiáng)網(wǎng)絡(luò)的擬合能力，一般的選擇是增大網(wǎng)絡(luò)卷積層的卷積核大小和卷積層的深度，代價(jià)是模型的參數(shù)和計(jì)算量會大量增加。為了能夠在實(shí)際場景中使用，如何對網(wǎng)絡(luò)結(jié)構(gòu)做出改變來提高效率是值得關(guān)注的一個(gè)方面。

在所述背景技術(shù)部分公開的上述信息僅用于加強(qiáng)對本申請的背景的理解，因此它可以包括不構(gòu)成對本領(lǐng)域普通技術(shù)人員已知的現(xiàn)有技術(shù)的信息。

發(fā)明內(nèi)容

本申請?zhí)峁┮环N具有注意力機(jī)制的淺層卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，能夠提高特征的信息量和表達(dá)能力，進(jìn)而提高網(wǎng)絡(luò)的識別精度。

一方面，本申請?zhí)峁┮环N具有注意力機(jī)制的淺層卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的優(yōu)化方法，用于可穿戴設(shè)備的時(shí)間序列數(shù)據(jù)的實(shí)時(shí)識別，其特征在于，包括：

構(gòu)建卷積神經(jīng)網(wǎng)絡(luò)，所述卷積神經(jīng)網(wǎng)絡(luò)包括二維卷積層、第一樂高卷積層、第二樂高卷積層、全連接層，所述二維卷積層對輸入的二維數(shù)據(jù)進(jìn)行特征提取，所述第一樂高卷積層及所述第二樂高卷積層分別對輸入的特征進(jìn)行特征提取；

設(shè)置混合分塊層的連接位置，所述混合分塊層包括：

分塊分割模塊，將每個(gè)通道輸入的第一特征劃分為多個(gè)分塊，所述第一特征為卷積神經(jīng)網(wǎng)絡(luò)根據(jù)來自穿戴式傳感器的至少一個(gè)通道的時(shí)序數(shù)據(jù)提取的特征；

編碼器，對每個(gè)通道的所述多個(gè)分塊進(jìn)行編碼；

傳遞與融合模塊，對于每個(gè)通道，將每個(gè)分塊表達(dá)為所述通道內(nèi)通過編碼器后的多個(gè)分塊的融合結(jié)果；

解碼器，對包括多個(gè)融合結(jié)果的每個(gè)通道進(jìn)行解碼，得到包括通道全局信息的多個(gè)解碼分塊；

分塊合并模塊，對于每個(gè)通道，將所述多個(gè)解碼分塊合并，從而得到與所述第一特征具有相同格式的第二特征；

基于所述混合分塊層的連接位置，優(yōu)化所述神經(jīng)網(wǎng)絡(luò)模型；