[發明專利]基于上下文記憶和細粒度校準的小樣本學習方法和裝置

在審

• 申請號: 202011128422.9
• 申請日: 2020-10-20
• 公開（公告）號: CN112308123A
• 公開（公告）日: 2021-02-02
• 發明（設計）人: 劉祥龍;馬宇晴;劉衛;白世豪
• 申請（專利權）人: 北京航空航天大學
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06N3/04;G06N3/08
• 代理公司: 北京汲智翼成知識產權代理事務所(普通合伙) 11381
• 代理人: 陳曦;賈興昌

1.一種基于上下文記憶和細粒度校準的小樣本學習方法，其特征在于包括如下步驟：

S1，從數據集中隨機采樣預定的任務；

S2，加載多層卷積神經網絡和類敏感的上下文記憶網絡的參數，利用特征提取網絡提取該任務中每個樣本的局部特征和全局特征；

S3，通過循環神經網絡的狀態更新機制進行隱狀態更新；

S4，使用雙向更新機制獲得最終的關系嵌入；

S5，通過類敏感的上下文記憶網絡從全局特征的角度學習具有判別性的關系嵌入，然后預測全局query-to-class相似度；

S6，計算預測可靠性τ；

S7，如果τ＞τ₀，將全局query-to-class相似度最高的類別作為最終的分類結果；否則，進一步計算局部query-to-class相似度，獲得最終的分類結果。

2.如權利要求1所述的小樣本學習方法，其特征在于：

所述步驟S1中，從訓練集或測試集中采用隨機采樣的方法獲取訓練任務或測試任務；

所述訓練任務或測試任務中，包含了一個支撐集合和一個查詢集合所述支撐集合包含了N個不同的類別，每個類別包含K個已知標簽的樣本；所述查詢集合中包含了T個未知標簽的樣本；其中，K、N、T均為正整數。

3.如權利要求1所述的小樣本學習方法，其特征在于：

所述步驟S2中，利用多層卷積神經網絡對采樣得到的任務中的每個樣本進行特征提取，得到每個樣本的三維的局部特征，然后通過全連接層或全局池化將局部特征轉換為一維的全局特征。

4.如權利要求3所述的小樣本學習方法，其特征在于：

所述多層卷積神經網絡是WideResNet或者ResNet。

5.如權利要求1所述的小樣本學習方法，其特征在于所述步驟S3包括如下子步驟：

S31，對循環神經網絡的信息流進行修改，增加殘差連接；

S32，考慮前兩次迭代的歷史信息，將二者進行線性疊加之后作為循環神經網絡更新前的隱狀態變量，通過循環神經網絡的狀態更新機制進行隱狀態更新。

6.如權利要求1所述的小樣本學習方法，其特征在于所述步驟S4包括如下子步驟：

使用雙向更新機制進一步學習上下文信息，將從兩個相反的方向輸出的隱藏狀態進行拼接，作為最終的關系嵌入。

7.如權利要求1所述的小樣本學習方法，其特征在于：

所述步驟S5中，所述全局query-to-class相似度的計算公式為：

其中為根據每個關系嵌入學習得到的相似度評分。

8.如權利要求1所述的小樣本學習方法，其特征在于：

所述步驟S6中，從全局query-to-class相似度的計算結果中選出相似度最高的兩個類別和通過下式計算二者的預測可靠性τ：

9.如權利要求1所述的小樣本學習方法，其特征在于：

所述步驟S7中，將τ和預先設置的可靠性閾值τ₀進行比較，若τ的值大于設定的可靠性閾值τ₀，則將預測概率最高的類別視為最后結果，否則將類別和判定為難以區分類別，進行細粒度校準，獲得更精確的局部query-to-class的相似性。

10.一種基于上下文記憶和細粒度校準的小樣本學習裝置，其特征在于包括處理器和存儲器，所述處理器讀取所述存儲器中的計算機程序，用于執行以下操作：

S1，從數據集中隨機采樣預定的任務；

S2，加載多層卷積神經網絡和類敏感的上下文記憶網絡的參數，利用特征提取網絡提取該任務中每個樣本的局部特征和全局特征；

S3，通過循環神經網絡的狀態更新機制進行隱狀態更新；

S4，使用雙向更新機制獲得最終的關系嵌入；

S5，通過類敏感的上下文記憶網絡從全局特征的角度學習具有判別性的關系嵌入，然后預測全局query-to-class相似度；

S6，計算預測可靠性τ；

S7，如果τ＞τ₀，將全局query-to-class相似度最高的類別作為最終的分類結果；否則，進一步計算局部query-to-class相似度，獲得最終的分類結果。