[發(fā)明專利]一種基于特征融合和注意力機(jī)制的腦電信號(hào)分類識(shí)別方法

有效

• 申請(qǐng)?zhí)枺?/td>: 202110184586.1
• 申請(qǐng)日: 2021-02-11
• 公開（公告）號(hào): CN113180692B
• 公開（公告）日: 2023-01-20
• 發(fā)明（設(shè)計(jì)）人: 王丹;李致遠(yuǎn)
• 申請(qǐng)（專利權(quán)）人: 北京工業(yè)大學(xué)
• 主分類號(hào): A61B5/369
• 分類號(hào): A61B5/369
• 代理公司: 北京思海天達(dá)知識(shí)產(chǎn)權(quán)代理有限公司 11203
• 代理人: 劉萍

1.一種基于注意力機(jī)制的腦電信號(hào)分類識(shí)別方法，其特征在于，包括以下步驟：

步驟1.將腦電數(shù)據(jù)進(jìn)行濾波處理：使用截止頻率為0.1Hz-20Hz的8階巴特沃斯濾波器對(duì)腦電信號(hào)進(jìn)行濾波處理；

步驟2.構(gòu)建網(wǎng)絡(luò)：使用Keras框架編寫基于注意力機(jī)制的深度學(xué)習(xí)網(wǎng)絡(luò)，其中使用了并行卷積層對(duì)腦電信號(hào)進(jìn)行處理，然后通過(guò)注意力機(jī)制對(duì)特征進(jìn)行選擇；在最后進(jìn)行可分離卷積之前，使用注意力機(jī)制進(jìn)一步增加特征的選擇；同時(shí)網(wǎng)絡(luò)中使用深度可分離卷積替換點(diǎn)普通的卷積操作；

步驟3.訓(xùn)練模型：將步驟1中處理好的數(shù)據(jù)輸入步驟2中構(gòu)建的網(wǎng)絡(luò)進(jìn)行訓(xùn)練；

步驟4.將訓(xùn)練好的模型對(duì)測(cè)試集進(jìn)行判別，得到腦電信號(hào)分類結(jié)果；

步驟2具體為：

定義T為輸入的腦電信號(hào)樣本的采樣點(diǎn)個(gè)數(shù)；K為特征融合的并行卷積結(jié)構(gòu)中最大卷積核大小；F1、F2為網(wǎng)絡(luò)中過(guò)濾器個(gè)數(shù)；D為每個(gè)輸入通道的深度方向卷積輸出通道的數(shù)量；此網(wǎng)絡(luò)分為幾個(gè)主要的網(wǎng)絡(luò)層L1～L7和Softmax層；取K＝128，F(xiàn)1＝3，F(xiàn)2＝16，D＝3；

1)L1：使用卷積核分別為(1,K)、(1,K/2)和(1,K/4)、過(guò)濾器個(gè)數(shù)為F1、卷積步長(zhǎng)為1、padding方式為same的卷積層對(duì)輸入信號(hào)進(jìn)行卷積處理，然后將卷積層的輸出經(jīng)過(guò)歸一化后輸出；

2)L2：將1)中產(chǎn)生的三類特征向量按照第一維也就是過(guò)濾器維度進(jìn)行并聯(lián)，得到一個(gè)過(guò)濾器個(gè)數(shù)為3×F1的特征向量；然后添加注意力機(jī)制對(duì)3×F1個(gè)過(guò)濾器進(jìn)行權(quán)重分配；

注意力機(jī)制的實(shí)現(xiàn)表述為：將輸入進(jìn)行全局平均池化，然后通過(guò)一個(gè)大小為3的全連接層進(jìn)行降維；在通過(guò)elu函數(shù)進(jìn)行激活后，使用大小為3×F1的全連接層升維；然后使用Sigmoid函數(shù)進(jìn)行激活，最終將計(jì)算出的特征向量加權(quán)分配到此層并聯(lián)的每一個(gè)過(guò)濾器上；

3)L3：首先將上層的輸出進(jìn)行標(biāo)準(zhǔn)化，然后使用卷積核大小為(1,64)、過(guò)濾器個(gè)數(shù)為F2×D、步長(zhǎng)為1、最大范數(shù)權(quán)值約束為1的空間卷積進(jìn)行計(jì)算；最后結(jié)果經(jīng)過(guò)標(biāo)準(zhǔn)化后輸出；

4)L4：使用注意力機(jī)制對(duì)F2×D個(gè)過(guò)濾器進(jìn)行權(quán)重分配，此處是第二次使用注意力機(jī)制，為了減少網(wǎng)絡(luò)參數(shù)和計(jì)算量，此處的注意力通過(guò)執(zhí)行卷積核大小為(1,3)、步長(zhǎng)為1、padding方式為same的快速一維卷積來(lái)生成通道權(quán)重；

5)L5：使用過(guò)濾器個(gè)數(shù)為F2、卷積核大小為(1,16)、步長(zhǎng)為1、padding方式為same的深度可分離卷積進(jìn)一步提取特征，然后經(jīng)過(guò)標(biāo)準(zhǔn)化、激活后輸出；

6)L6：使用注意力機(jī)制生成權(quán)重并對(duì)F2×D個(gè)過(guò)濾器進(jìn)行權(quán)重分配；

7)L7和Softmax：將L6得到的特征通過(guò)全連接的方式堆疊起來(lái)，整合到Softmax層進(jìn)行映射，從而得到最終的結(jié)果；

整個(gè)網(wǎng)絡(luò)中，每層之間都通過(guò)dropout的方式將對(duì)應(yīng)層中節(jié)點(diǎn)以0.25的概率進(jìn)行隨機(jī)丟棄，以減輕網(wǎng)絡(luò)的過(guò)擬合問(wèn)題；

其中，注意力機(jī)制的具體實(shí)現(xiàn)為以下過(guò)程：

將特征向量通過(guò)全局平均池化計(jì)算轉(zhuǎn)化為維度是(3×F1,1,1)的特征向量，然后通過(guò)全連接層對(duì)此向量進(jìn)行降維；對(duì)降維后的特征向量輸入激活函數(shù)進(jìn)行激活操作，其中r為降維倍數(shù)，激活函數(shù)為relu函數(shù)；最后經(jīng)過(guò)全連接層升維到(3×F1,1,1)，經(jīng)過(guò)sigmod函數(shù)激活后乘到原始向量；這樣就完成了這個(gè)注意力過(guò)程，相當(dāng)于為原始向量分配了權(quán)重；

步驟3具體為：使用交叉熵函數(shù)作為損失函數(shù)，使用Adam作為優(yōu)化器，學(xué)習(xí)率為5*10-5，批次大小為64；數(shù)據(jù)的預(yù)處理工作在Matlab中進(jìn)行，隨機(jī)過(guò)采樣和神經(jīng)網(wǎng)絡(luò)分類模型使用Keras實(shí)現(xiàn)；通過(guò)早停法優(yōu)化網(wǎng)絡(luò)，當(dāng)網(wǎng)絡(luò)在驗(yàn)證集上的損失不再下降的時(shí)候，停止訓(xùn)練，保存訓(xùn)練結(jié)果。

2.根據(jù)權(quán)利要求1所述的一種基于注意力機(jī)制的腦電信號(hào)分類識(shí)別方法，其特征在于，

步驟1具體為：首先，對(duì)信號(hào)進(jìn)行去除基線漂移的處理，然后使用0.1hz～20Hz的8階巴特沃夫帶通濾波器對(duì)EEG信號(hào)進(jìn)行濾波；使用隨機(jī)過(guò)采樣的方式增強(qiáng)訓(xùn)練數(shù)據(jù)，即通過(guò)隨機(jī)的復(fù)制少數(shù)類樣本的方式，使得正負(fù)樣本數(shù)量均衡。