[發明專利]一種基于注意力機制的空洞卷積空間金字塔池化上下文學習方法

在審

• 申請號: 201910351669.8
• 申請日: 2019-04-28
• 公開（公告）號: CN110378484A
• 公開（公告）日: 2019-10-25
• 發明（設計）人: 王吳凡;朱紀洪;匡敏馳;陳呂劼;閆星輝
• 申請（專利權）人: 清華大學
• 主分類號: G06N20/00
• 分類號: G06N20/00;G06F17/15
• 代理公司: 北京三聚陽光知識產權代理有限公司 11250
• 代理人: 張建綱

1.一種基于注意力機制的空洞卷積空間金字塔池化上下文學習方法，其特征在于包含：空洞卷積空間金字塔池化模型和注意力模型，所述空洞卷積空間金字塔池化模型由多條帶有不同擴張率的空洞卷積通路并聯組成，用于提取多尺度上下文信息，所述注意力模型通過非線性函數表征不同通道上下文信息之間的關系，進而對多尺度上下文信息分配權重，增加空洞卷積空間金字塔池化模型的多尺度上下文信息學習能力。

2.根據權利要求1中所述空洞卷積空間金字塔池化模型，其特征在于所述空洞卷積空間金字塔池化模型的單條通路可形式化為：

其中p是卷積核中心對應的像素點的位置索引，c是輸入的通道索引，d是所述擴張率，w_e，(i，j)是指定通道與位置的卷積核權重，x_{c，p+d·(i，j)}是指定通道與位置的像素值，G是采樣網格，b是偏差項。輸入特征圖x經過所述空洞卷積空間金字塔池化模型處理形成多尺度特征圖其中為所述擴張率為d_n的通路所對應的輸出，所述多尺度特征圖通過拼接形成注意力模型的輸入x_ASPP

所述注意力模型的輸入經過全局池化以及兩次全連接和激活函數后得到不同通道的權重z

z＝δ₂(W₂δ₁(W₁y))

其中是注意力模型輸入x_ASPP在通道c，位置(h，w)所對應的值，y_c為通道c對應的全局池化值，y為各通道池化值拼接后得到的張量，δ₁和δ₂為激活函數，W₁和W₂為全連接層的權重。所述注意力模型的輸入x_ASPP通過與所述權重z相乘得到多尺度上下文特征圖X