[發明專利]一種基于非局部鄰關系學習的深度神經網絡層次分析方法

在審

• 申請號: 202011515028.0
• 申請日: 2020-12-21
• 公開（公告）號: CN112598115A
• 公開（公告）日: 2021-04-02
• 發明（設計）人: 蔣雯;肖陶;黃凱;耿杰;鄧鑫洋
• 申請（專利權）人: 西北工業大學
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06N3/08
• 代理公司: 暫無信息
• 代理人: 暫無信息

1.一種基于非局部鄰關系學習的深度神經網絡層次分析方法，其特征在于，包括以下步驟：

步驟一、構建待分析的深度神經網絡：

步驟101、構建待分析的某一深度神經網絡的模型架構；

步驟102、利用某一數據集對構建的深度神經網絡模型進行訓練，獲得訓練好的網絡權重；

步驟二、輸入數據集樣本,獲取深度網絡相鄰兩層的特征圖樣本對：

步驟201、將數據集樣本依次輸入到待分析的深度神經網絡,獲得樣本在待分析網絡各中間隱藏層所對應的特征圖；

步驟202、同一輸入樣本在待分析網絡相鄰兩層輸出的特征圖組成一個相鄰層特征圖樣本對，若輸入樣本為n個，待分析網絡共選定l個中間層，則最終獲取共n×(l-1)個相鄰層特征圖樣本對；

步驟三、利用空間金字塔池化網絡對相鄰層特征圖樣本對進行變換組合：

步驟301、將相鄰層特征圖樣本對(X_i-1,X_i)依次輸入k個不同尺度的自適應池化層進行特征變換，得到k個不同尺度池化后輸出的樣本對同一輸出樣本對中的兩個樣本的數據尺寸相同。這k個輸出樣本對的樣本，在數據的通道維度上尺寸相同，尺寸記為c，在數據的高、寬兩個維度上尺寸不同，尺寸分別記為h₁,h₂,…,h_k、w₁,w₂,…,w_k；

步驟302、將數據在各自的高、寬兩個維度上展平為一維，即將c×h₁×w₁,c×h₂×w₂,…,c×h_k×w_k尺寸的三維數據展平為c×(h₁w₁),c×(h₂w₂),…,c×(h_kw_k)尺寸的二維數據；

步驟303、將k個展平為二維數據的樣本對在高、寬合并后的維度上進行拼接，再將拼接后的數據展平為一維向量對(X_i-1′,X_i′)，X_i-1′、X_i′為同尺寸的向量，兩者的長度均為

步驟四、將變換后的相鄰層特征圖樣本對輸入孿生變分自編碼器，訓練非局部鄰關系學習模型：

步驟401、將樣本對(X_i-1′,X_i′)輸入孿生變分自編碼器，計算孿生變分自編碼器的總損失函數L_T；

步驟402、利用孿生變分自編碼器的總損失函數L_T進行反向傳遞，調整優化孿生變分自編碼器的參數，從而對由空間金字塔池化網絡和孿生變分自編碼器共同組成的非局部鄰關系學習模型進行訓練；

步驟五、利用訓練好的非局部鄰關系學習模型獲得相鄰層特征圖樣本對的隱空間向量對：

步驟501、將相鄰層特征圖樣本對(X_i-1,X_i)輸入已訓練的非局部鄰關系學習模型，通過其中的空間金字塔池化網絡得到特征變化并展平后的一維向量對(X_i-1′,X_i′)；

步驟502、將一維向量對(X_i-1′,X_i′)輸入已訓練的孿生變分自編碼，得到編碼后對應的隱空間向量對(V_i1,V_i2)；

步驟六、利用同一樣本的所有隱空間向量對計算深度網絡在該樣本識別時的各層級貢獻度，進而計算所有樣本的平均層級貢獻度：

步驟601、利用隱空間向量對(V_i1,V_i2)來度量對應的相鄰層特征圖樣本對(X_i-1,X_i)之間的信息增量R_i：

其中，n為向量V_i1、V_i2的長度，v_i1j∈V_i1,j＝1,2,…,n，v_i2j∈V_i2,j＝1,2,…,n；

步驟602、根據同一輸入樣本在待分析網絡中所有相鄰層特征圖樣本對之間的信息增量，計算得到待分析網絡對該輸入樣本各層級貢獻度，第i層網絡的層級貢獻度C_i為：

其中，l為待分析網絡選定的中間層級數，R_i為第i層網絡的特征圖相比于前一層網絡特征圖的信息增量；

步驟603、將待分析網絡第i層在數據集所有樣本上的層級貢獻度取平均值，便得到第i層的平均層級貢獻度，進而可以獲得待分析深度網絡各層的平均層級貢獻度。

2.按照權利要求1所述的一種基于非局部鄰關系學習的深度神經網絡層次分析方法，其特征在于：步驟401中孿生變分自編碼器總損失函數L_T的計算公式為其中，L_TVAE為變分自編碼器的基本損失，β表示KL散度項的權重系數；為孿生變分自編碼器的跨層對齊損失，L_TCA＝|X_i-1′-D₂(E₁(X_i-1′))|+|X_i′-D₁(E₂(X_i′))|，E和D分別表示變分自編碼器中的編碼器和解碼器；L_TDA為兩個變分自編碼器潛在多元高斯分布的Wasserstein距離，