[發明專利]數據處理方法及裝置、計算機系統以及可讀存儲介質

有效

• 申請號: 201911111661.0
• 申請日: 2019-11-13
• 公開（公告）號: CN110852394B
• 公開（公告）日: 2022-03-25
• 發明（設計）人: 李聰;閆東偉;杜楊洲;師忠超;徐飛玉
• 申請（專利權）人: 聯想（北京）有限公司
• 主分類號: G06K9/62
• 分類號: G06K9/62;G06V10/764;G06N3/04
• 代理公司: 中科專利商標代理有限責任公司 11021
• 代理人: 鄢功軍

本公開提供了一種數據處理方法，包括：將獲取到的圖像數據輸入卷積神經網絡中，其中，卷積神經網絡包括一個或多個卷積層；獲取卷積神經網絡中的目標卷積層的輸出結果，其中，輸出結果包括多個特征區域；獲取每個特征區域與目標卷積層中的神經元的對應關系；通過分類模型對輸出結果中的每個特征區域進行分類，確定每個特征區域對應的類別；以及根據每個特征區域對應的類別，以及每個特征區域與目標卷積層中的神經元的對應關系，確定目標卷積層中的神經元與類別的對應關系。本公開還提供了一種數據處理裝置、一種計算機系統以及一種計算機可讀存儲介質。

技術領域

本公開涉及一種數據處理方法、一種數據處理裝置、一種計算機系統以及一種計算機可讀存儲介質。

背景技術

近年來，人工智能領域的深度學習方法取得重大進展。與傳統的機器學習方法相比較，例如決策樹、支持向量機等，深度學習極大地提升了預測準確性。然而，神經網絡在推理過程和決策結果的可解釋性方面非常薄弱。實際上，無論對用戶還是對開發人員，深度神經網絡都是一個黑盒系統，即內部工作機制不容易被人們理解。在許多實際應用中，例如業務決策和流程優化、醫學診斷和治療方案，使用人工智能系統的可解釋性和透明性都顯得特別重要，無論對使用者還是受影響者、以及對研究人員和開發人員都是如此。

發明內容

本公開的一個方面提供了一種數據處理方法，包括：將獲取到的圖像數據輸入卷積神經網絡中，其中，上述卷積神經網絡包括一個或多個卷積層；獲取上述卷積神經網絡中的目標卷積層的輸出結果，其中，上述輸出結果包括多個特征區域；獲取每個特征區域與上述目標卷積層中的神經元的對應關系；通過分類模型對上述輸出結果中的每個特征區域進行分類，確定上述每個特征區域對應的類別；以及根據上述每個特征區域對應的類別，以及上述每個特征區域與上述目標卷積層中的神經元的對應關系，確定上述目標卷積層中的神經元與類別的對應關系。

可選地，上述圖像數據為人體圖像數據，上述類別包括人體的各個部位，上述方法還包括，在確定上述目標卷積層中的神經元與類別的對應關系之后：輸出上述人體的各個部位各自對應的神經元的激活值；以及將上述人體的各個部位以及上述各個部位各自對應的神經元的激活值進行關聯展示。

可選地，將上述人體的各個部位以及上述各個部位各自對應的神經元的激活值進行關聯展示包括：展示上述人體的人體模型圖；以及在上述人體模型圖的各個部位展示各自對應的神經元的激活值。

可選地，上述方法還包括預先訓練得到上述分類模型，包括：獲取用于訓練上述卷積神經網絡的圖像數據；將上述用于訓練上述卷積神經網絡的圖像數據輸入上述卷積神經網絡，并獲取上述卷積神經網絡中的目標卷積層的輸出結果；以及根據上述目標卷積層的輸出結果對待訓練分類模型進行訓練。

可選地，上述方法還包括在將獲取到的圖像數據輸入卷積神經網絡中之前，對上述獲取到的圖像數據進行識別，以確定上述獲取到的圖像數據中的人體區域數據；以及將上述人體區域數據輸入上述卷積神經網絡中。

本公開的另一個方面提供了一種數據處理裝置，包括：輸入模塊，用于將獲取到的圖像數據輸入卷積神經網絡中，其中，上述卷積神經網絡包括一個或多個卷積層；第一獲取模塊，用于獲取上述卷積神經網絡中的目標卷積層的輸出結果，其中，上述輸出結果包括多個特征區域；第二獲取模塊，用于獲取每個特征區域與上述目標卷積層中的神經元的對應關系；第一確定模塊，用于通過分類模型對上述輸出結果中的每個特征區域進行分類，確定上述每個特征區域對應的類別；以及第二確定模塊，用于根據上述每個特征區域對應的類別，以及上述每個特征區域與上述目標卷積層中的神經元的對應關系，確定上述目標卷積層中的神經元與類別的對應關系。

可選地，上述圖像數據為人體圖像數據，上述類別包括人體的各個部位，上述裝置還包括：輸出模塊，用于在確定上述目標卷積層中的神經元與類別的對應關系之后，輸出上述人體的各個部位各自對應的神經元的激活值；以及展示模塊，用于將上述人體的各個部位以及上述各個部位各自對應的神經元的激活值進行關聯展示；