[發明專利]一種神經網絡算法的評估方法、裝置及電子設備

有效

• 申請號: 201911307859.6
• 申請日: 2019-12-18
• 公開（公告）號: CN111047017B
• 公開（公告）日: 2023-06-23
• 發明（設計）人: 郝心
• 申請（專利權）人: 北京安兔兔科技有限公司
• 主分類號: G06N3/0475
• 分類號: G06N3/0475
• 代理公司: 北京柏杉松知識產權代理事務所(普通合伙) 11413
• 代理人: 李欣;馬敬

本發明實施例提供了一種神經網絡算法的評估方法、裝置及電子設備，包括：生成對應該神經網絡矩陣的大小的映射矩陣，并且調用預設運算單元對各映射矩陣進行矩陣運算，以及統計運算時長，以及基于運算時長，確定待評估神經網絡算法在預設運算單元上的運算效率，由于通過在預設運算單元對待評估神經網絡算法包含的每個神經網絡層對應的映射矩陣進行矩陣運算，模擬待評估神經網絡算法在預設運算單元中的運行，并通過運算時長來確定待評估神經網絡算法在預設運算單元上的運算效率，而運算時長可以直觀的反映待評估神經網絡算法在預設運算單元上的運算表現，因此，通過運算時長確定的運算效率，具有較高的準確性。

技術領域

本發明涉及神經網絡算法技術領域，特別是涉及一種神經網絡算法的評估方法、裝置及電子設備。

背景技術

神經網絡算法在開發的過程中，往往需要結合硬件的性能對開發中的神經網絡算法進行測試，以判斷當前開發的神經網絡算法在硬件上的運算表現是否滿足預期，避免出現神經網絡算法開發完成后無法在硬件上運行，和/或在硬件上需要花費大量時間運行，因此，在神經網絡開發的過程中需要階段性的評估開發中的神經網絡算法在特定硬件上的運算效率，以根據評估結果對開發中的神經網絡算法進行調試和優化。

發明人在實現本發明的過程中發現，現有技術至少存在如下問題：

現有神經網絡算法都是以神經網絡的運算量來衡定，但神經網絡算法的運算量只能反映神經網絡算法的復雜程度，在不同硬件上相同運算量的神經網絡算法其運算效率表現差異較大，因此，通過神經網絡運算量評估神經網絡運算效率并不準確。

發明內容

本發明實施例的目的在于提供一種神經網絡算法的評估方法，以準確評估神經網絡算法在硬件上的運算效率。具體技術方案如下：

本發明實施例提供一種神經網絡算法的評估方法，包括：

針對待評估神經網絡算法包含的每個神經網絡層對應的神經網絡矩陣的大小，生成對應該神經網絡矩陣的大小的映射矩陣；

調用預設運算單元按照指定的矩陣運算算法對各映射矩陣進行矩陣運算；

統計所述預設運算單元完成對所述各映射矩陣進行矩陣運算所消耗的運算時長；

基于所述運算時長，確定所述待評估神經網絡算法在所述預設運算單元上的運算效率，作為所述待評估神經網絡算法的評估結果。

進一步的，在所述針對待評估神經網絡算法包含的每個神經網絡層對應的神經網絡矩陣的大小，生成對應該神經網絡矩陣的大小的映射矩陣之前，所述方法包括：

基于所述待評估神經網絡算法包含的每個神經網絡層所包含的神經元數量，以及所述待評估神經網絡算法的輸入數量和輸出數量，確定每個所述神經網絡層對應的神經網絡矩陣的大小。

進一步的，所述針對待評估神經網絡算法包含的每個神經網絡層對應的神經網絡矩陣的大小，生成對應該神經網絡矩陣的大小的映射矩陣，包括：

按照待評估神經網絡算法包含的每個神經網絡層對應的神經網絡矩陣的大小，隨機生成對應該神經網絡矩陣的大小的矩陣，作為與該神經網絡矩陣的大小對應的映射矩陣。

進一步的，在所述調用預設運算單元按照指定的矩陣運算算法對各映射矩陣進行矩陣運算之前，所述方法還包括：

獲取所述待評估神經網絡算法包含的各神經網絡層之間的層間算法，作為所述矩陣運算算法。

進一步的，在所述基于所述運算時長，確定所述待評估神經網絡算法在所述預設運算單元上的運算效率之前，所述方法還包括：

計算所述待評估神經網絡算法的運算量；

所述基于所述運算時長，確定所述待評估神經網絡算法在所述預設運算單元上的運算效率，包括：