[發明專利]基于注意力的CNN類別激活圖生成方法

有效

• 申請號: 201911241048.0
• 申請日: 2019-12-06
• 公開（公告）號: CN111046939B
• 公開（公告）日: 2023-08-04
• 發明（設計）人: 張文林;司念文;屈丹;羅向陽;閆紅剛;陳琦;張連海;牛銅;楊緒魁;李真;李喜坤
• 申請（專利權）人: 中國人民解放軍戰略支援部隊信息工程大學;鄭州信大先進技術研究院
• 主分類號: G06V10/764
• 分類號: G06V10/764;G06V10/82;G06N3/0464;G06N3/084
• 代理公司: 鄭州大通專利商標代理有限公司 41111
• 代理人: 張立強

1.一種基于注意力的CNN類別激活圖生成方法，其特征在于，包括：

步驟1：計算特征圖M＝(M₀,M₁,...,M_K-1)每個像素點的梯度值作為神經元類別相關的空間注意力權重；

步驟2：獲取各類別神經元對應的連接權重作為通道注意力權重；

步驟3：根據空間注意力權重及通道注意力權重生成CNN類別激活圖；

在所述步驟1之前還包括：

在含有GAP層或不含有GAP層的CNN中，對輸入特征圖M＝(M₀,M₁,...,M_K-1)進行特征提取與分類層神經元分類；

計算第一類別激活權重及第二類別激活權重的關系，將第一類別激活權重作為通道注意力權重，將第二類別激活權重作為空間注意力權重；所述第一類別激活權重為各類別神經元的連接權重，所述第二類別激活權重為關于神經元類別c的梯度值；第一類別激活權重及第二類別激活權重的關系如下：

其中，為一端與m_l相連接且另一端與分類層第c類神經元相連接的權重，m_l表示通道M_l平均池化后的值，表示l通道內位置(i,j)處的梯度值，l表示通道號，K表示通道數目；

所述步驟3包括：

按照如下公式根據空間注意力權重及通道注意力權重生成CNN類別激活圖

其中，表示梯度矩陣的l通道每個元素值對應像素點的梯度值，H和W分別表示高和寬；

根據第一類別激活權重及第二類別激活權重的關系對式(10)進一步變形，得到空間-通道注意力權重調節的類別激活圖生成公式：

2.根據權利要求1所述的基于注意力的CNN類別激活圖生成方法，其特征在于，所述步驟1包括：

對CNN輸出的分值反向傳播，計算特征圖中每個像素點關于得分的梯度作為類別相關的空間注意力權重，得到空間注意力權重矩陣，即像素級梯度矩陣g^c：

其中，表示梯度矩陣的l通道每個元素值對應像素點的梯度值。

3.根據權利要求2所述的基于注意力的CNN類別激活圖生成方法，其特征在于，所述步驟2包括：

獲取分類層各類別神經元的連接權重作為各類別神經元對應的通道注意力權重，得到通道注意力權重矩陣，即連接權重矩陣w^c：