[發明專利]用于神經網絡的編譯方法、編譯器及相關產品

在審

• 申請號: 202110668264.4
• 申請日: 2021-06-16
• 公開（公告）號: CN115480743A
• 公開（公告）日: 2022-12-16
• 發明（設計）人: 不公告發明人
• 申請（專利權）人: 中科寒武紀科技股份有限公司
• 主分類號: G06F8/30
• 分類號: G06F8/30;G06F8/41;G06N3/063;G06N20/00
• 代理公司: 北京維昊知識產權代理事務所(普通合伙) 11804
• 代理人: 孫新國

1.一種用于神經網絡的編譯方法，包括：

獲取神經網絡的計算圖，其中所述計算圖包括計算節點和數據節點及其各自的標簽數據，其中所述標簽數據包括用于描述張量形狀的形狀參數；

對所述數據節點的標簽數據中的所述形狀參數進行賦值；以及

根據賦值后的所述形狀參數和算子輸出形狀公式庫來生成所述計算節點中對應算子的算子代碼。

2.根據權利要求1所述的方法，其中所述數據節點包括輸入數據節點和輸出數據節點，所述方法還包括：

在對所述標簽數據中的所述形狀參數進行賦值之前，根據所述輸入數據節點、輸出數據節點和所述標簽數據來生成前置代碼。

3.根據權利要求2所述的方法，其中所述前置代碼包括定義常量代碼和函數頭代碼。

4.根據權利要求3所述的方法，其中根據所述標簽數據中的常量數據來生成所述定義常量代碼。

5.根據權利要求3所述的方法，其中根據所述輸入數據節點、輸出數據節點和所述標簽數據中的變量數據來生成函數頭代碼。

6.根據權利要求1所述的方法，其中所述計算圖中數據節點的標簽數據還包括用于指示神經網絡數據類別的類別數據，其中所述類別數據用于指示輸入神經元、常量權重、常量神經元、隱藏神經元和輸出神經元中的一項或多項。

7.根據權利要求4所述的方法，其中根據所述標簽數據中的常量數據來生成定義常量代碼包括：

讀取至少一個輸入數據節點的標簽數據中的第一常量以及對應算子的標簽數據的第二常量；

對所述第一常量和所述第二常量進行命名；以及

生成用于定義命名后的所述第一常量和所述第二常量的代碼，以獲得所述定義常量代碼。

8.根據權利要求7所述的方法，其中對所述第一常量和所述第二常量進行命名還包括：

響應于檢測到所述第一常量和/或第二常量中存在重復的常量元素，對所述重復的常量元素合并命名。

9.根據權利要求5所述的方法，其中所述函數頭代碼包括函數名和參數代碼，其中根據所述輸入數據節點、輸出數據節點和所述標簽數據中的變量數據來生成函數頭代碼包括：

根據至少一個輸入數據節點、至少一個輸出數據節點的標簽數據中的數據，生成函數名與參數代碼。

10.根據權利要求9所述的方法，其中所述函數頭代碼還包括申請形狀區代碼，其中根據所述輸入數據節點、輸出數據節點和所述標簽數據中的變量數據來生成函數頭代碼包括：

根據所述計算圖中包含變量數據的數據節點的數量以及每個數據節點對應的數據確定的張量形狀存儲區大小，生成申請形狀區代碼。

11.根據權利要求1所述的方法，其中所述算子代碼還包括隱藏神經元空間申請代碼和/或算子模板代碼，其中通過搜索與所述計算節點相連的隱藏神經元來生成隱藏神經元空間申請代碼，根據所述計算節點中的算子的屬性來生成算子模板代碼。

12.一種用于神經網絡的編譯器，包括：

獲取單元，其用于獲取神經網絡的計算圖，其中所述計算圖包括計算節點和數據節點及其各自的標簽數據，其中所述標簽數據包括用于描述張量形狀的形狀參數；

賦值單元，其用于對所述數據節點的標簽數據中的所述形狀參數進行賦值；以及

算子生成單元，其用于根據賦值后的所述形狀參數和算子輸出形狀公式庫來生成所述計算節點中對應算子的算子代碼。

13.一種電子設備，包括：

至少一個處理器；以及

與所述至少一個處理器通信連接的存儲器；其中，

所述存儲器存儲有可被所述至少一個處理器執行的指令，所述指令被

所述至少一個處理器執行，以使所述至少一個處理器能夠執行權利要求1-11中任一項所述的方法。