[發明專利]通過構建全局嵌入式注意力殘差網絡對圖像分類的方法

在審

• 申請號: 202110487497.4
• 申請日: 2021-04-30
• 公開（公告）號: CN113111970A
• 公開（公告）日: 2021-07-13
• 發明（設計）人: 裴炤;萬志楊;張艷寧;馬苗
• 申請（專利權）人: 陜西師范大學
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08
• 代理公司: 北京前審知識產權代理有限公司 11760
• 代理人: 張靜;李亮誼

1.一種通過構建全局嵌入式注意力殘差網絡對圖像分類的方法，包括如下步驟：

S100：將待分類的圖像數據進行預處理；

S200：構建含有全局嵌入式注意力模塊的全局嵌入式注意力殘差網絡，所述全局嵌入式注意力殘差網絡包括1個輸入層、1個卷積核大小為7×7的卷積層、1個最大池化層、全局嵌入式注意力模塊、2個全連接層和1個輸出層，其中，所述全局嵌入式注意力模塊包括基于全局上下文的空間注意力子模塊和基于坐標的通道注意力子模塊；

S300：將預處理后的待分類圖像數據輸入全局嵌入式注意力殘差網絡進行分類。

2.根據權利要求1所述的方法，其中，優選的，在完成全局嵌入式注意力殘差網絡構建后，需要選取訓練樣本并進行預處理以對該網絡進行網絡訓練，需要選取驗證樣本并進行預處理以對訓練后的網絡的參數進行調整，需要選取測試樣本對訓練后的網絡進行性能測試。

3.根據權利要求2所述的方法，其中，步驟S200中，所述基于全局上下文的空間注意力子模塊包括：

第一子單元，用于將預處理后的訓練樣本、驗證樣本和測試樣本輸入卷積層和池化層處理后進行全局平均池化操作，以獲得包含全局信息的特征矩陣；

第二子單元，通過采用卷積核大小為1×1的卷積和reshape函數對包含全局信息的特征矩陣進行線性變換，以獲得經過維度變換處理的特征矩陣；

第三子單元，通過使用softmax函數對經過維度變換處理的特征矩陣進行自適應選擇，獲得該特征矩陣上每個不同元素的對應權重，將每個不同元素的對應權重與包含全局信息的特征矩陣相乘，以獲得包含全局上下文特征信息的特征矩陣；

第四子單元，用于對包含全局上下文特征信息的特征矩陣利用批歸一化和ReLU激活函數進行非線性變換及利用1×1的卷積進行維度變換。

4.根據權利要求3所述的方法，其中，所述基于全局上下文的空間注意力子模塊表示為：

其中，x表示為全局平均池化的輸出，y表示全局上下文特征的輸出，H和W分別表示輸入圖像的高度和寬度，X表示輸入圖像，K表示1×1卷積，ReLU表示ReLU激活函數，BN表示批歸一化函數，N表示特征矩陣中元素的數量，e表示自然對數函數的底數，i、j、m分別表示特征矩陣中所有元素可能的位置，x_j、x_m分別表示特征矩陣中元素信息的值，t表示x矩陣的權重，tx_j和tx_m表示經過全局平均池化操作后的特征矩陣進行計算處理得到的輸出值。

5.根據權利要求3所述的方法，其中，步驟S200中，所述基于坐標的通道注意力子模塊包括：

第五子單元，用于對完成非線性變換及維度變換后的包含全局上下文特征信息的特征矩陣分別沿W’和H’方向采用平均池化進行分解，獲得沿W’方向的一維特征矩陣和沿H’方向的一維特征矩陣，其中，沿W’方向的一維特征矩陣包含通道的局部位置信息，沿H’方向的一維特征矩陣包含長期依賴信息；

第六子單元，用于將沿W’方向的一維特征矩陣和沿H’方向的一維特征矩陣進行級聯并用1×1的卷積進行特征變換，獲得經過維度變換的特征矩陣；

第七子單元，通過利用softmax函數對經過維度變換的特征矩陣進行權重分配獲得具有不同權重的特征矩陣，對具有不同權重的特征矩陣分別利用1×1的卷積進行特征變換，獲得全局嵌入式注意力模塊的輸出。

6.根據權利要求5所述的方法，其中，對完成非線性變換及維度變換后的包含全局上下文特征信息的特征矩陣分別沿W’和H’方向采用平均池化進行分解，獲得的沿W’方向的一維特征矩陣和沿H’方向的一維特征矩陣分別表示為：

其中，H’和W’表示全局上下文的空間注意力子模塊輸出圖像的高度和寬度，Z_H和Z_W分別表示沿H’方向和沿著W’方向的一維特征矩陣，i和j分別表示第i行的H’和第j行的W’。