[發明專利]一種基于三條帶注意機制的特征圖加權方法和裝置在審

申請號：	202210579586.6	申請日：	2022-05-25
公開（公告）號：	CN114863131A	公開（公告）日：	2022-08-05
發明（設計）人：	馬志豪;袁夢軻;孟維亮;郭建偉;毛瑞琛;徐士彪;張曉鵬	申請（專利權）人：	之江實驗室;中國科學院自動化研究所
主分類號：	G06V10/44	分類號：	G06V10/44;G06N3/04;G06N3/08;G06V10/774;G06V10/82
代理公司：	杭州求是專利事務所有限公司 33200	代理人：	邱啟旺
地址：	310023 浙江省杭州市余***	國省代碼：	浙江;33
權利要求書：	查看更多	說明書：	查看更多
摘要：
搜索關鍵詞：	一種基于條帶注意機制特征加權方法裝置
鉆瓜網技術展會專利詞庫專利權人專利榜在售專利公布日期熱門專利

【說明書】：

本發明涉及計算機視覺和人工智能領域，具體涉及一種基于三條帶注意機制的特征圖加權方法和裝置，旨在提高深度學習網絡特征提取的有效性。本發明提出了一種新的注意力加權機制，它通過加權操作增加特征圖的表現力，關注重要特征而抑制非重要特征。首先，采取全局池化操作將原始特征圖分離成列條帶、行條帶和通道條帶；其次，對每個條帶都采取壓縮和擴張的一系列加權操作；然后，將所有的加權后的三個條帶分別擴充到原始的特征圖尺寸大小，并將這三個加權后的特征圖進行相加，隨后進行非線性處理。最后，將所得到的加權特征圖和原特征圖相乘，并將結果作為后續的輸入。本發明提出的基于三條帶注意機制的特征圖加權方法提高了特征圖的有效性。

技術領域

本發明涉及計算機視覺和人工智能領域，尤其涉及一種基于三條帶注意機制的特征圖加權方法和裝置。

背景技術

注意力機制是人類視覺所特有的大腦信號處理機制。人類視覺通過快速掃描全局圖像，獲得需要重點關注的目標區域，而后對這一區域投入更多注意力資源，以獲得更多所需要的關注目標的細節信息，而抑制其他無用信息。隨著深度學習的發展和普及，注意力機制在深度學習中的應用也越來越受到關注。通過注意力機制的加權操作，可以有效的優化深度學習網絡提取特征圖的操作。

然而，近些年來提出的注意力機制有著明顯的弊端。一部分注意力機制只關注了特征的空間部分，忽略了通道；同樣有一部分注意力機制只關注了通道而忽略了空間，這使得加權操作不夠徹底。同時，大多數注意力機制都采用的卷積操作進行加權，而卷積操作很大程度上忽略了全局信息，使得加權效果不夠明顯。

發明內容

本發明的目的在于針對現有技術的不足，提供了一種基于三條帶注意機制的特征圖加權方法和裝置。

本發明的目的是通過以下技術方案來實現的：一種基于三條帶注意機制的特征圖加權方法，包括以下步驟：

(1)將原始特征圖分離成列條帶、行條帶和通道條帶；

(2)對列條帶、行條帶和通道條帶均采取壓縮、標準化處理、非線性激活、擴張處理和標準化處理，得到對應的加權后的列條帶、加權后的行條帶和加權后的通道條帶；

(3)將加權后的列條帶、加權后的行條帶和加權后的通道條帶的維度均擴充到原始特征圖的尺寸大小，得到擴充后的列特征圖、擴充后的行特征圖和擴充后的通道特征圖；隨后將三個擴充后的特征圖進行相加，并對相加結果進行非線性處理得到加權特征圖；

(4)將將加權特征圖與原始特征圖進行相乘，并將相乘結果與原始特征圖進行相加，得到輸入特征圖，并將輸入特征圖作為后續的輸入。

進一步地，所述步驟(1)包括以下子步驟：

(1.1)對原始特征圖F的行維度和通道維度進行平均池化操作，得到列條帶T_HF；所述原始特征圖F的維度為R^C×H×W，其中，C為通道維度，H為列維度，W為行維度；所述列條帶T_HF的維度為R^1×H×1；

(1.2)對原始特征圖F的列維度和通道維度進行平均池化操作，得到行條帶T_WF；所述行條帶T_WF的維度為R^1×1×W；

(1.3)對原始特征圖F的行維度和列維度進行平均池化操作，得到通道條帶T_CF；所述通道條帶T_CF的維度為R^C×1×1。