[發明專利]一種基于注意力的卷積神經網絡分頻特征提取方法

在審

• 申請號: 202010029057.X
• 申請日: 2020-01-12
• 公開（公告）號: CN111199237A
• 公開（公告）日: 2020-05-26
• 發明（設計）人: 彭紹亮;劉云浩;舒文杰;李肯立;陳東;王小奇;張磊;楊亮;蔣洪波;黃浩;崔勇輝
• 申請（專利權）人: 湖南大學
• 主分類號: G06K9/46
• 分類號: G06K9/46;G06N3/04;G06N3/08
• 代理公司: 國防科技大學專利服務中心 43202
• 代理人: 王文惠

1.一種基于注意力的卷積神經網絡分頻特征提取方法，其特征在于，包括以下步驟：

第一步：根據輸入信息利用深度學習模型對訓練用數據進行預處理，得到輸入向量X，X∈R^c×h×w，即構造得到的張量通道數為c、高為h、寬為w；

第二步：將編碼后的輸入信息X沿著給定的網絡通道數c顯式分解為X＝{X^H,X^L}，其中X^H表示高頻特征映射張量，X^H∈R^{(1-α)c×h×w}；相應的X^L表示低頻特征映射張量，α∈[0，1]表示劃分給低頻部分的信道比例；其中W^H表示提取高頻特征X^H對應的參數矩陣，X表示輸入矩陣，relu(·)表示對·使用激活函數；其中W^L表示提取低頻特征X^L對應的參數矩陣，表示對·進行池化操作；

第三步：利用輸入信息X＝{X^H,X^L}相應的得到分頻特征映射輸出Y＝{Y^H,Y^L}，其中Y^H由Y^H＝Y^H→H+Y^L→H計算所得，Y^L由Y^L＝Y^L→L+Y^H→L計算所得，Y^i→j表示特征映射組i至特征映射組j的信息更新，并且在同頻信息組內選擇注意力機制的計算機制更新信息，在異頻信息組間使用卷積計算機制更新信息；

第四步：對于復雜任務選擇重復第三步n次，其中，n＝0,1,2…；

第五步：利用步驟四得到的最終高頻信息輸出Y^H以及低頻特征輸出Y^L加權融合得到特征矩陣O，O＝Y^H+Y^L；

第六步：利用步驟五處理得到的特征矩陣O經全連接網絡處理后映射至概率輸出Y，輸出概率Y用于預測任務分類結果。

2.如權利要求1所述的一種基于注意力的卷積神經網絡分頻特征提取方法，其特征在于，所述步驟二中劃分給低頻部分的信道比例α的取值低于0.5。

3.如權利要求1所述的一種基于注意力的卷積神經網絡分頻特征提取方法，其特征在于，所述步驟二中高頻特征映射張量捕獲精細特征，低頻特征映射張量捕獲變化緩慢的共性特征。