[發明專利]多徑神經網絡、資源分配的方法及多徑神經網絡分析器

在審

• 申請號: 202010070764.3
• 申請日: 2020-01-21
• 公開（公告）號: CN111476344A
• 公開（公告）日: 2020-07-31
• 發明（設計）人: 貝赫納姆·普格哈希米;李周桓;奇亮奭
• 申請（專利權）人: 三星電子株式會社
• 主分類號: G06N3/04
• 分類號: G06N3/04;G06T1/20;G06T1/60;G06F9/50
• 代理公司: 北京匯知杰知識產權代理有限公司 11587
• 代理人: 李潔;董江虹

1.一種多徑神經網絡，包括：

通過所述多徑神經網絡的兩個或大于兩個路徑，第一路徑包括一個或多個層，所述第一路徑包括通過所述多徑神經網絡的關鍵路徑，所述關鍵路徑限制所述多徑神經網絡的吞吐量，所述關鍵路徑的第一層分配有能夠執行所述多徑神經網絡的第一計算資源分配，所述第一計算資源分配將所述多徑神經網絡的執行時間減少到小于用于所述多徑神經網絡的第二計算資源分配的基線執行時間，用于所述第一層的所述第一計算資源分配不同于用于所述第一層的所述第二計算資源分配。

2.根據權利要求1所述的多徑神經網絡，其中在執行所述多徑神經網絡之前分配用于所述第一層的所述第一計算資源分配。

3.根據權利要求1所述的多徑神經網絡，其中在所述多徑神經網絡的執行期間分配用于所述第一層的所述第一計算資源分配。

4.根據權利要求1所述的多徑神經網絡，其中能夠執行所述多徑神經網絡的計算資源包括多個計算單元核心、存儲器大小以及存儲器帶寬。

5.根據權利要求1所述的多徑神經網絡，其中所述關鍵路徑包含提供卷積函數的層。

6.一種用以將資源分配到多徑神經網絡的層的方法，所述方法包括：

基于將能夠執行所述多徑神經網絡的計算資源分配到所述多徑神經網絡的第一計算資源分配確定用于多徑神經網絡的基線執行時間，所述多徑神經網絡包括通過所述多徑神經網絡的兩個或大于兩個路徑；

迭代地確定通過用于所述兩個或大于兩個路徑的一個或多個第二計算資源分配的所述多徑神經網絡的所述兩個或大于兩個路徑的執行時間，每一第二計算資源分配不同于所述第一計算資源分配；以及

識別第一路徑中的用于第一層的第二計算資源分配，用于所述第一層的所述第二計算資源分配提供用于所述多徑神經網絡的小于用于所述多徑神經網絡的總體基線執行時間的總體執行時間。

7.根據權利要求6所述的方法，其中用于所述多徑神經網絡的所述總體基線執行時間對應于通過所述多徑神經網絡的限制所述多徑神經網絡的吞吐量的關鍵路徑的執行時間。

8.根據權利要求6所述的方法，還包括分配所識別的所述第一路徑中的用于所述第一層的所述第二計算資源分配，以提供用于所述多徑神經網絡的小于用于所述多徑神經網絡的所述總體基線執行時間的所述總體執行時間。

9.根據權利要求8所述的方法，還包括在執行所述多徑神經網絡之前，分配所識別的所述第一路徑中的用于所述第一層的所述第二計算資源分配。

10.根據權利要求8所述的方法，還包括在執行所述多徑神經網絡期間，分配所識別的所述第一路徑中的用于所述第一層的所述第二計算資源分配。

11.根據權利要求6所述的方法，其中識別所述第二計算資源分配還包括從用戶接收所述第二計算資源分配的選擇。

12.根據權利要求6所述的方法，其中能夠執行所述多徑神經網絡的計算資源包括多個計算單元核心、存儲器大小以及存儲器帶寬。

13.根據權利要求6所述的方法，其中所述兩個或大于兩個路徑中的至少一者包含提供卷積函數的層。