[發(fā)明專利]一種基于注意力機制的特征提取方法、裝置及電子設備

在審

• 申請?zhí)枺?/td>: 202010897554.1
• 申請日: 2020-08-31
• 公開（公告）號: CN112016571A
• 公開（公告）日: 2020-12-01
• 發(fā)明（設計）人: 任豪;王紫頤
• 申請（專利權）人: 馭勢科技（南京）有限公司
• 主分類號: G06K9/46
• 分類號: G06K9/46;G06K9/00;G06N3/04;G06N3/08
• 代理公司: 北京開陽星知識產(chǎn)權代理有限公司 11710
• 代理人: 郭鑫

本公開涉及基于注意力機制的特征提取方法、裝置和電子設備。方法包括：獲取多個不同尺度的特征圖，包括同一深度下尺度最大的第一特征圖和至少一個其他尺度的第二特征圖；對第一特征圖增加注意力；對至少一個第二特征圖執(zhí)行卷積后進行上采樣，確定至少一個第三特征圖，至少一個第三特征圖與第一特征圖的尺度相同；基于增加注意力的第一特征圖和至少一個第三特征圖，確定輸出特征圖?？梢姡ㄟ^對第一特征圖增加注意力，并與其他不同尺度的第二特征圖合并，確定輸出特征圖，使得通過反向傳播進行注意力權重參數(shù)更新的過程中，可以針對不同的應用場景，通過損失函數(shù)約束注意力向應用場景所關心的信息靠近，提升輸出特征圖在應用場景下使用的準確性。

技術領域

本公開實施例涉及圖像處理技術領域，具體涉及一種基于注意力機制的特征提取方法、裝置、電子設備和非暫態(tài)計算機可讀存儲介質(zhì)。

背景技術

隨著機器學習的發(fā)展，不同類型神經(jīng)網(wǎng)絡可用于圖像處理技術領域，例如，特征提取網(wǎng)絡提取圖像中的特征，進而基于特征可對圖像進行識別，當圖像的應用場景不同，提取的特征的后續(xù)處理也不同。

因此，亟需提供一種特征提取方案，以提高圖像識別在不同應用場景下的準確性。

發(fā)明內(nèi)容

為了解決現(xiàn)有技術存在的至少一個問題，本公開的至少一個實施例提供了一種基于注意力機制的特征提取方法、裝置、電子設備和非暫態(tài)計算機可讀存儲介質(zhì)。

第一方面，本公開實施例提出一種基于注意力機制的特征提取方法，所述方法包括：

獲取多個不同尺度的特征圖，所述多個不同尺度的特征圖包括同一深度下尺度最大的第一特征圖和至少一個其他尺度的第二特征圖；

對所述第一特征圖增加注意力；

對未增加注意力的至少一個第二特征圖執(zhí)行卷積后進行上采樣，確定至少一個第三特征圖，所述至少一個第三特征圖與所述第一特征圖的尺度相同；

基于所述增加注意力的第一特征圖和所述至少一個第三特征圖，確定輸出特征圖。

第二方面，本公開實施例提出一種基于注意力機制的特征提取方法，所述方法包括：

獲取多個不同尺度的特征圖，所述多個不同尺度的特征圖包括同一深度下尺度最大的第一特征圖和至少一個其他尺度的第二特征圖；

對所述至少一個其他尺度的第二特征圖增加注意力；

對增加注意力的至少一個第二特征圖執(zhí)行卷積后進行上采樣，確定至少一個第三特征圖，所述至少一個第三特征圖與所述第一特征圖的尺度相同；

基于所述第一特征圖和所述至少一個第三特征圖，確定輸出特征圖。

第三方面，本公開實施例提供一種基于注意力機制的特征提取裝置，所述裝置包括：

獲取模塊，用于獲取多個不同尺度的特征圖，所述多個不同尺度的特征圖包括同一深度下尺度最大的第一特征圖和至少一個其他尺度的第二特征圖；

第一注意力模塊，用于對所述第一特征圖增加注意力；

處理模塊，用于對未增加注意力的至少一個第二特征圖執(zhí)行卷積后進行上采樣，確定至少一個第三特征圖，所述至少一個第三特征圖與所述第一特征圖的尺度相同；

輸出模塊，用于基于所述增加注意力的第一特征圖和所述至少一個第三特征圖，確定輸出特征圖。

第四方面，本公開實施例提供一種基于注意力機制的特征提取裝置，所述裝置包括：

獲取模塊，用于獲取多個不同尺度的特征圖，所述多個不同尺度的特征圖包括同一深度下尺度最大的第一特征圖和至少一個其他尺度的第二特征圖；