[發(fā)明專利]針對EEG信號分類任務(wù)的深度學(xué)習(xí)網(wǎng)絡(luò)架構(gòu)搜索方法

在審

• 申請?zhí)枺?/td>: 202110773615.8
• 申請日: 2021-07-08
• 公開（公告）號: CN113361484A
• 公開（公告）日: 2021-09-07
• 發(fā)明（設(shè)計）人: 閆野;裴育;印二威;謝良;馬闖;閆慧炯;羅治國
• 申請（專利權(quán)）人: 中國人民解放軍軍事科學(xué)院國防科技創(chuàng)新研究院;天津（濱海）人工智能軍民融合創(chuàng)新中心
• 主分類號: G06K9/00
• 分類號: G06K9/00;G06K9/62;G06N3/04
• 代理公司: 北京豐浩知識產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11781
• 代理人: 李學(xué)康

1.一種針對EEG信號分類任務(wù)的深度學(xué)習(xí)網(wǎng)絡(luò)架構(gòu)搜索方法，其特征在于，包括如下步驟：

S1，根據(jù)具體的腦-機接口任務(wù)，采集用戶一定量的腦電信號，對采集腦電信號進行降采樣，再進行帶通濾波；

S2，利用步驟S1處理好的腦電信號，進行深度學(xué)習(xí)網(wǎng)絡(luò)架構(gòu)的搜索；設(shè)置目標(biāo)網(wǎng)絡(luò)架構(gòu)中的節(jié)點數(shù)n，候選操作集合O，初始化模型參數(shù)(α,w(α))，迭代次數(shù)M，α是模型的結(jié)構(gòu)，w(α)是模型內(nèi)部的可學(xué)習(xí)參數(shù)；節(jié)點深度學(xué)習(xí)網(wǎng)絡(luò)的中間層，即特征圖層；候選操作集合O，包括多種類型的卷積核；

S3，在訓(xùn)練集上計算最優(yōu)的模型內(nèi)部可學(xué)習(xí)參數(shù)w^*(α)；固定模型結(jié)構(gòu)不變，使用梯度下降法來學(xué)習(xí)w，直到模型收斂停止；梯度下降法采用Adam優(yōu)化器方法；

S4，在驗證集上計算損失函數(shù)L_val(w^*(α),α)和關(guān)于α的梯度損失函數(shù)L_val(w^*(α),α)是關(guān)于α的函數(shù)；

S5，使用梯度下降法更新α；通過在驗證集上計算得到的損失函數(shù)，計算模型架構(gòu)參數(shù)α的梯度，使用梯度下降法進行一次迭代計算；

S6，從步驟S2開始，直到迭代次數(shù)達到預(yù)設(shè)次數(shù)M；

S7，根據(jù)輸出最終的網(wǎng)絡(luò)結(jié)構(gòu)；所用的深度學(xué)習(xí)網(wǎng)絡(luò)架構(gòu)，其包含4個子模塊，4個子模塊具有相同的結(jié)構(gòu)；每個子模塊中有四個神經(jīng)網(wǎng)絡(luò)節(jié)點，用x^(j)表示神經(jīng)網(wǎng)絡(luò)節(jié)點的中間輸出；節(jié)點之間由有向邊鏈接，一對節(jié)點之間存在多個有向邊，每個有向邊代表一種特征圖變換，用o^(i,j)表示有向邊，o(·)是有向邊函數(shù)，節(jié)點x^(j)的計算方法為：x⁽ⁱ⁾是x^(j)的全部前繼；

從第二個子模塊開始，節(jié)點間的操作權(quán)重互不相等，節(jié)點間變換為：

o^(i,j)為事先定義的候選操作變量；每個操作的權(quán)重為向量其維度是|O|；經(jīng)過若干步搜索達到收斂后，取最優(yōu)操作變量為從而得到最終網(wǎng)絡(luò)結(jié)構(gòu)。

2.一種如權(quán)利要求1所述的針對EEG信號分類任務(wù)的深度學(xué)習(xí)網(wǎng)絡(luò)架構(gòu)搜索方法，其特征在于，所述的步驟S1，其對采集腦電信號進行降采樣的頻率為250Hz，進行帶通濾波的頻率范圍為8～40Hz。

3.一種如權(quán)利要求1所述的針對EEG信號分類任務(wù)的深度學(xué)習(xí)網(wǎng)絡(luò)架構(gòu)搜索方法，其特征在于，

對于操作權(quán)重向量的確定，使用L_train和L_val分別表示訓(xùn)練集損失函數(shù)和驗證集損失函數(shù)，這兩個損失函數(shù)由結(jié)構(gòu)α和網(wǎng)絡(luò)的參數(shù)w決定；網(wǎng)絡(luò)結(jié)構(gòu)搜索的目標(biāo)就是找到一個結(jié)構(gòu)α^*，使得L_val(α^*,w^*)達到最小值，w^*根據(jù)最小化訓(xùn)練集損失確定，即w^*＝argmin_wL(w,α^*)，通過求解二層優(yōu)化問題來確定操作權(quán)重向量

s.t.w^*(α)＝arg min_wL_train(w,α), (3)

對于由式(2)和式(3)構(gòu)成的二層優(yōu)化問題的求解，先在訓(xùn)練集上使用梯度下降法，計算出最優(yōu)的w*，從而完成網(wǎng)絡(luò)內(nèi)層結(jié)構(gòu)優(yōu)化，將在驗證集上的損失函數(shù)作為結(jié)構(gòu)優(yōu)化的評價標(biāo)準，采用梯度下降法進行網(wǎng)絡(luò)外層結(jié)構(gòu)優(yōu)化。