[發明專利]類激活圖生成方法、神經網絡可解釋方法及相關裝置

在審

• 申請號: 202111468069.3
• 申請日: 2021-12-03
• 公開（公告）號: CN114359588A
• 公開（公告）日: 2022-04-15
• 發明（設計）人: 李巖山;梁華杰
• 申請（專利權）人: 深圳大學
• 主分類號: G06V10/74
• 分類號: G06V10/74;G06K9/62;G06V10/40;G06N3/04;G06N3/08;G06V10/764
• 代理公司: 廣州嘉權專利商標事務所有限公司 44205
• 代理人: 洪銘福

1.一種類激活圖生成方法，其特征在于，包括：

獲取原始圖像；

將所述原始圖像通過神經網絡的卷積層進行處理，得到第一特征圖集，其中，所述第一特征圖集為多個特征圖的集合；

根據所述第一特征圖集中所述特征圖對于預測類別的重要性，對所述第一特征圖集進行重新排序，得到第二特征圖集，其中，所述預測類別為預定的類別；

計算所述第二特征圖集對應的殘差區域集和殘差分數集；

將所述殘差區域集和所述殘差分數集通過激活函數激活，得到類激活圖。

2.根據權利要求1所述的類激活圖生成方法，其特征在于，

所述根據所述第一特征圖集中所述特征圖對于預測類別的重要性，對所述第一特征圖集進行重新排序，得到第二特征圖集，包括：

將所述第一特征圖集進行反轉，得到第三特征圖集；

根據所述第一特征圖集、所述第三特征圖集和所述預測類別，得到第一目標殘差得分集，其中，所述第一目標殘差得分集包括多個目標殘差得分，且所述目標殘差得分的數量與所述第一特征圖集中的特征圖的數量相等；

將所述第一目標殘差得分集中的目標殘差得分進行降序排序，得到第二目標殘差得分集；

根據所述第二目標殘差得分集中所述目標殘差的序列對所述第一特征圖集中的特征圖排序，得到第二特征圖集。

3.根據權利要求2所述的類激活圖生成方法，其特征在于，

所述根據所述第一特征圖集、所述第三特征圖集和預測類別，得到第一目標殘差得分集，包括：

獲取所述第一特征圖集中的特征圖，作為第一特征圖；

獲取所述第三特征圖集中的特征圖，作為第二特征圖，其中，所述第二特征圖在所述第三特征圖集中的位置與所述第一特征圖在所述第一特征圖集中的位置相同；

將所述原始圖像與所述預測類別通過所述卷積層和所述神經網絡中的全連接層，得到第一概率，其中，所述第一概率為所述第一特征圖被判決為所述預測類別的概率；

將所述第二特征圖與所述原始圖像進行哈達瑪積運算，得到第三特征圖；

將所述第三特征圖與所述預測類別通過所述卷積層和所述全連接層，得到第二概率，其中，所述第二概率為所述第三特征圖被判決為所述預測類別的概率；

計算所述第一概率與所述第二概率的差值，得到目標殘差得分；

重復獲取所述第一特征圖集和所述第三特征圖集中的特征圖，計算相應的目標殘差得分直至在所述第一特征圖集和所述第三特征圖集檢測不到新的特征圖為止，并將計算得到的多個所述目標殘差得分的集合作為第一目標殘差得分集。

4.根據權利要求3所述的類激活圖生成方法，其特征在于，

所述計算所述第二特征圖集對應的殘差區域集和殘差分數集，包括：

獲取所述第二特征圖集中的特征圖，作為第四特征圖；

對所述第四特征圖以及位于所述第四特征圖之前的特征圖求取最大值，得到第一顯著圖；

計算所述第一顯著圖對應的殘差區域和殘差分數；

重復獲取所述第二特征圖集中的特征圖，計算相應的殘差區域和殘差分數直至在所述第二特征圖集中檢測不到新的特征圖為止，并將計算得到的多個所述殘差區域作為殘差區域集以及多個殘差分數作為殘差分數集。

5.根據權利要求4所述的類激活圖生成方法，其特征在于，

所述計算所述第一顯著圖對應的殘差區域和殘差分數，包括：

獲取所述第一顯著圖的上一級特征圖，作為第二顯著圖；

計算所述第一顯著圖與所述第二顯著圖的差值，并將得到的計算結果作為殘差區域；

將所述第一顯著圖反轉，得到第三顯著圖；

將所述第三顯著圖與所述原始圖像進行哈達瑪積運算，得到第四顯著圖；

將所述第四顯著圖與所述預測類別通過所述卷積層和所述全連接層，得到第三概率，其中，所述第三概率為所述第四顯著圖被判決為所述預測類別的概率；

計算所述第一概率與所述第三概率的差值，得到第一區域得分；

計算所述第二顯著圖對應的區域得分，作為第二區域得分；

計算所述第一區域得分與所述第二區域得分的差值，得到殘差分數。