[發(fā)明專利]基于注意力機(jī)制的圖像識(shí)別方法、系統(tǒng)、設(shè)備和存儲(chǔ)介質(zhì)

有效

• 申請(qǐng)?zhí)枺?/td>: 202111158628.0
• 申請(qǐng)日: 2021-09-30
• 公開（公告）號(hào): CN113591883B
• 公開（公告）日: 2021-12-03
• 發(fā)明（設(shè)計(jì)）人: 蔣杰;楊君燕;康來;魏迎梅;謝毓湘;孫家豪;劉陽;何亦湘
• 申請(qǐng)（專利權(quán)）人: 中國人民解放軍國防科技大學(xué)
• 主分類號(hào): G06K9/46
• 分類號(hào): G06K9/46;G06K9/62;G06N20/00
• 代理公司: 北京風(fēng)雅頌專利代理有限公司 11403
• 代理人: 曾志鵬

1.一種基于注意力機(jī)制的圖像識(shí)別方法，其特征在于，所述方法包括：

獲取待識(shí)別圖像的小樣本數(shù)據(jù)集，將所述小樣本數(shù)據(jù)集經(jīng)過多頭注意力模型進(jìn)行圖像的特征向量處理；

將處理后得到的特征向量矩陣經(jīng)過高斯混合模型進(jìn)行預(yù)處理，使得所述特征向量矩陣具備高斯分布；

將分布一致的所述特征向量矩陣經(jīng)過最優(yōu)運(yùn)輸原理算法和距離度量算法進(jìn)行聚類計(jì)算，得到聚類特征信息，根據(jù)所述聚類特征信息獲取圖像識(shí)別結(jié)果。

2.根據(jù)權(quán)利要求1所述的基于注意力機(jī)制的圖像識(shí)別方法，其特征在于，所述獲取待識(shí)別圖像的小樣本數(shù)據(jù)集，將所述小樣本數(shù)據(jù)集經(jīng)過多頭注意力模型進(jìn)行圖像的特征向量處理，包括：

依次對(duì)所述小樣本數(shù)據(jù)集中包括的特征圖進(jìn)行分層化的卷積處理；

對(duì)包括粗放信息的所述特征圖輸入到第一注意力頭中，并加以矩陣相乘操作后進(jìn)行掩膜；

將所述特征圖進(jìn)行卷積操作后，輸入到第二注意力頭后進(jìn)行掩膜操作；

再次將所述特征圖進(jìn)行卷積后進(jìn)行隨即池化操作，并輸入到第三注意力頭后進(jìn)行掩膜操作；

對(duì)三次掩膜操作篩選后得到所述特征向量矩陣。

3.根據(jù)權(quán)利要求1所述的基于注意力機(jī)制的圖像識(shí)別方法，其特征在于，所述將處理后得到的特征向量矩陣經(jīng)過高斯混合模型進(jìn)行預(yù)處理，使得所述特征向量矩陣具備高斯分布，包括：

將所述特征向量矩陣輸入到奇異值分解函數(shù)中進(jìn)行QR分解計(jì)算；

將經(jīng)過分解計(jì)算后的所述特征向量通過歸一化函數(shù)處理，并通過高斯子分布模型使得所述特征向量矩陣符合高斯分布；

通過所述高斯混合模型融合不同的子高斯分布模型，對(duì)所述高斯混合模型的參數(shù)進(jìn)行迭代，得到分布一致的所述特征向量矩陣。

4.根據(jù)權(quán)利要求1所述的基于注意力機(jī)制的圖像識(shí)別方法，其特征在于，所述將分布一致的所述特征向量矩陣經(jīng)過最優(yōu)運(yùn)輸原理算法和距離度量算法進(jìn)行聚類計(jì)算，得到聚類特征信息，根據(jù)所述聚類特征信息獲取圖像識(shí)別結(jié)果，包括：

利用所述最優(yōu)運(yùn)輸原理算法對(duì)所述特征向量矩陣進(jìn)行過擬合處理；

采用wasserstein距離算法作為距離度量網(wǎng)絡(luò)的基礎(chǔ)聚類算法，將分布一致的所述特征向量矩陣進(jìn)行聚類分析。

5.一種基于注意力機(jī)制的圖像識(shí)別系統(tǒng)，其特征在于，包括：

分層化注意力模塊，用于獲取待識(shí)別圖像的小樣本數(shù)據(jù)集，將所述小樣本數(shù)據(jù)集經(jīng)過多頭注意力模型進(jìn)行圖像的特征向量處理；

高斯分布模塊，用于將處理后得到的特征向量矩陣經(jīng)過高斯混合模型進(jìn)行預(yù)處理，使得所述特征向量矩陣具備高斯分布；

距離度量模塊，用于將分布一致的所述特征向量矩陣經(jīng)過最優(yōu)運(yùn)輸原理算法和距離度量算法進(jìn)行聚類計(jì)算，得到聚類特征信息，根據(jù)所述聚類特征信息獲取圖像識(shí)別結(jié)果。

6.根據(jù)權(quán)利要求5所述的基于注意力機(jī)制的圖像識(shí)別系統(tǒng)，其特征在于，所述分層化注意力模塊包括多頭注意力單元，所述多頭注意力單元用于：

依次對(duì)所述小樣本數(shù)據(jù)集中包括的特征圖進(jìn)行分層化的卷積處理；

對(duì)包括粗放信息的所述特征圖輸入到第一注意力頭中，并加以矩陣相乘操作后進(jìn)行掩膜；

將所述特征圖進(jìn)行卷積操作后，輸入到第二注意力頭后進(jìn)行掩膜操作；

再次將所述特征圖進(jìn)行卷積后進(jìn)行隨即池化操作，并輸入到第三注意力頭后進(jìn)行掩膜操作；

對(duì)三次掩膜操作篩選后得到所述特征向量矩陣。

7.根據(jù)權(quán)利要求5所述的基于注意力機(jī)制的圖像識(shí)別系統(tǒng)，其特征在于，所述高斯分布模塊包括分布計(jì)算單元，所述分布計(jì)算單元用于：

將所述特征向量矩陣輸入到奇異值分解函數(shù)中進(jìn)行QR分解計(jì)算；

將經(jīng)過分解計(jì)算后的所述特征向量通過歸一化函數(shù)處理，并通過高斯子分布模型使得所述特征向量矩陣符合高斯分布；

通過所述高斯混合模型融合不同的子高斯分布模型，對(duì)所述高斯混合模型的參數(shù)進(jìn)行迭代，得到分布一致的所述特征向量矩陣。