[發(fā)明專利]一種利用多層卷積層信息的注意力機(jī)制方法

在審

• 申請(qǐng)?zhí)枺?/td>: 202110768002.5
• 申請(qǐng)日: 2021-07-07
• 公開（公告）號(hào): CN113570035A
• 公開（公告）日: 2021-10-29
• 發(fā)明（設(shè)計(jì)）人: 李章維;胡安順;王曉飛
• 申請(qǐng)（專利權(quán)）人: 浙江工業(yè)大學(xué)
• 主分類號(hào): G06N3/04
• 分類號(hào): G06N3/04;G06K9/62
• 代理公司: 杭州斯可睿專利事務(wù)所有限公司 33241
• 代理人: 王利強(qiáng)

1.一種利用多層卷積層信息的注意力機(jī)制方法，其特征在于，所述方法包括以下步驟：

1)輸入當(dāng)前卷積層與在它之前兩層的卷積層的輸出A、A'，利用全局平均池化分別獲得A和A'的通道信息X、X'；

2)利用1×1的卷積將X、X'進(jìn)行壓縮以進(jìn)一步減少計(jì)算量，得到和θ(X′)；

3)將θ(X′)做轉(zhuǎn)置，在和θ^T(X′)之間做矩陣乘法得到與θ^T(X′)的點(diǎn)乘關(guān)系，生成的權(quán)值矩陣M；

4)使用RELU函數(shù)，濾除M中小于0的元素；

5)利用1×1卷積，將A映射到M的維度，得到A的映射特征g(A)；

6)M與g(A)做矩陣乘法進(jìn)行特征更新生成新特征圖y，y中的每個(gè)元素是g(A)中每個(gè)通道對(duì)應(yīng)位置元素的加權(quán)和，權(quán)值是中每個(gè)元素與θ^T(X′)中每個(gè)元素的關(guān)系；

7)用1×1的卷積將y映射到A的維度，得到新特征圖映射后的特征W(y)；

8)將W(y)與A做殘差連接，保證該注意力模塊嵌入已經(jīng)預(yù)訓(xùn)練好的模型時(shí)不會(huì)破壞它的初始參數(shù)。