[發明專利]效能瓶頸分析方法

在審

• 申請號: 202210102839.0
• 申請日: 2022-01-27
• 公開（公告）號: CN114490295A
• 公開（公告）日: 2022-05-13
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 上海壁仞智能科技有限公司
• 主分類號: G06F11/34
• 分類號: G06F11/34;G06N3/04
• 代理公司: 北京市柳沈律師事務所 11105
• 代理人: 彭久云

本公開提供一種效能瓶頸分析方法；用以分析目標系統的效能瓶頸。所述效能瓶頸分析方法包括：通過從子樹到根的方式遍歷(traversing)軟件的調度樹(schedule tree)，計算適于運行于所述目標系統的所述軟件的多個運算操作的每一個的數據流量(traffic)和執行次數；以及基于所述數據流量和所述執行次數，計算所述目標系統的多個硬件模塊的每一個的等效周期(equivalent cycles)，以查找所述目標系統的硬件瓶頸。

技術領域

本公開涉及一種電子系統的分析，且特別涉及一種效能瓶頸分析方法。

背景技術

在電子系統的開發過程中，效能分析是重要的步驟。效能分析可以幫助設計者了解目標系統有無達到額定效率。若設計者能夠知道目標系統的哪個(或哪些)硬件模塊是效能瓶頸(performance bottleneck)，設計者便可以依據效能瓶頸的分析結果去優化目標系統和/或調整硬件參數。

發明內容

本公開提供一種效能瓶頸分析方法，以查找目標系統的硬件瓶頸(hardwarebottleneck)。

在根據本公開的實施例中，所述效能瓶頸分析方法用以分析目標系統的效能瓶頸。所述效能瓶頸分析方法包括：通過從子樹到根的方式遍歷(traversing)軟件的調度樹(schedule tree)，計算適于運行于所述目標系統的所述軟件的多個運算操作的每一個的數據流量(traffic)和執行次數；以及基于所述數據流量和所述執行次數，計算所述目標系統的多個硬件模塊的每一個的等效周期(equivalent cycles)，以查找所述目標系統的硬件瓶頸。

基于上述，待測軟件可以被運行在目標系統。在一些實際應用范例中，所述目標系統可以是多加速器系統(multi-accelerator system)或是其他硬件系統，而所述待測軟件可以包括處理張量的計算軟件。在根據本公開的實施例中，所述效能瓶頸分析方法先遍歷待測軟件的調度樹，以計算出調度樹的每個任務節點(運算操作)的執行次數，以及計算出每個任務節點(運算操作)的數據流量(讀入和寫出的數據流量)。不同任務節點(運算操作)會使用目標系統的對應硬件模塊。基于某一個目標任務節點(運算操作)的數據流量和執行次數，所述效能瓶頸分析方法可以計算所述目標任務節點的對應硬件模塊的等效周期。例如，將數據流量除以數據傳輸帶寬可以得到所述目標任務節點(運算操作)的“載存周期(load store cycles)”作為等效周期。周期越多的硬件模塊越容易成為效能瓶頸。在計算出每一個硬件模塊的等效周期后，所述目標系統的硬件瓶頸可以容易被找出。

附圖說明

圖1是依照本公開的一實施例的一種效能瓶頸分析方法的流程示意圖。

圖2是依照本公開的一實施例所繪示，卷積神經網絡計算軟件的調度樹示意圖。

圖3是依照本公開的另一實施例的一種效能瓶頸分析方法的流程示意圖。

圖4是依照本公開的一實施例所繪示，帶有同步信道的任務級管道示意圖。

附圖標記說明

S110、S120、S210、S220、S230：步驟

S205、S210、S220、S225、S245：循環節點

S215、S230、S235、S240、S250：任務節點

bn_relu、conv、load_activation、load_weight、reduce：任務

具體實施方式

現將詳細地參考本公開的示范性實施例，示范性實施例的實例說明于附圖中。只要有可能，相同組件符號在附圖和描述中用來表示相同或相似部分。