[發明專利]一種基于深度Transformer的高光譜影像分類方法

有效

• 申請號: 202110056787.3
• 申請日: 2021-01-15
• 公開（公告）號: CN112749752B
• 公開（公告）日: 2023-02-03
• 發明（設計）人: 劉冰;余岸竹;張鵬強;薛志祥;左溪冰;高奎亮;孫一帆
• 申請（專利權）人: 中國人民解放軍戰略支援部隊信息工程大學
• 主分類號: G06V10/764
• 分類號: G06V10/764;G06V10/82;G06N3/04;G06N3/08
• 代理公司: 鄭州睿信知識產權代理有限公司 41119
• 代理人: 史萌楊

本發明屬于遙感影像技術領域，具體涉及一種基于深度Transformer的高光譜影像分類方法。該方法將待分類的高光譜影像分別輸入至訓練好的深度空?譜Transformer模型中，便可實現對高光譜影像的分類。該深度空?譜Transformer模型包括光譜維度注意力模型、空間維度注意力模型和分類器，且光譜維度注意力模型和空間維度注意力模型均包括相應的位置編碼層和Transformer層，利用Transformer結構代替傳統的卷積層，并分別在光譜和空間維度應用注意力機制來提取高光譜影像的空?譜特征以更好地利用高光譜影像豐富的空間和光譜信息，同時使得分類模型更加靈活、高效，分類結果更加精準。

技術領域

本發明屬于遙感影像技術領域，具體涉及一種基于深度Transformer的高光譜影像分類方法。

背景技術

高光譜影像具有光譜分辨率高、圖譜合一的獨特優點，已被廣泛應用于目標追蹤、環境保護、農業監測及氣象預報等領域。高光譜影像分類就是對影像中的像素點進行分類，是對未標記的像素進行標號的過程，是一種重要的信息獲取手段。如何更好地進行高光譜影像分類一直是遙感圖像處理領域中的研究熱點之一。

目前深度學習方法已經被廣泛地用于高光譜影像分類，現有的深度學習方法(例如一維卷積神經網絡、二維卷積神經網絡、三維卷積神經網絡)大多數以卷積神經網絡為基礎，這些方法所使用的分類模型靈活性較差，分類精度有待進一步提升。

發明內容

本發明提供了一種基于深度Transformer的高光譜影像分類方法，用以解決現有技術中的深度學習方法造成分類精度低的問題。

為解決上述技術問題，本發明所包括的技術方案以及技術方案對應的有益效果如下：

本發明提供了一種基于深度Transformer的高光譜影像分類方法，包括如下步驟：

1)獲取待分類的高光譜影像；

2)將待分類的高光譜影像分別輸入至訓練好的深度空-譜Transformer模型中，以對高光譜影像進行分類；

其中，所述訓練好的深度空-譜Transformer模型利用已標記的高光譜影像和對應的標記結果進行訓練得到；且所述深度空-譜Transformer模型包括光譜維度注意力模型、空間維度注意力模型和分類器；

所述光譜維度注意力模型包括順次連接的光譜輸入層、光譜卷積層、光譜深度學習層和光譜輸出層；所述光譜輸入層用于將待分類的高光譜影像沿著光譜維度劃分為b個光譜圖像塊，b為波段數；所述光譜卷積層用于將所述光譜圖像塊轉換成光譜特征向量；所述光譜深度學習層包括光譜位置編碼層和順次連接的至少兩層光譜Transformer層，所述光譜位置編碼層用于對所述光譜特征向量進行位置編碼，并與所述光譜特征向量相加，相加的結果作為第一層光譜Transformer層的輸入，其余的光譜Transformer層的輸入均為前一層光譜Transformer層的輸出；所述光譜輸出層用于對最后一層光譜Transformer層的輸出進行處理得到光譜維度輸出特征；

所述空間維度注意力模型包括順次連接的空間輸入層、空間卷積層、空間深度學習層和空間輸出層；所述空間輸入層用于將待分類的高光譜影像進行降維處理并沿著空間維度劃分為k個空間圖像塊；所述空間卷積層用于將所述空間圖像塊轉換成空間特征向量；所述空間深度學習層包括空間位置編碼層和順次連接的至少兩層空間Transformer層，所述空間位置編碼層用于對所述空間特征向量進行位置編碼，并與所述空間特征向量相加，相加的結果作為第一層空間Transformer層的輸入，其余的空間Transformer層的輸入均為前一層空間Transformer層的輸出；所述空間輸出層用于對最后一層空間Transformer層的輸出進行處理得到空間維度輸出特征；

所述分類器用于根據拼接在一起的所述光譜維度輸出特征和所述空間維度輸出特征進行高光譜影像分類。