[發明專利]算子生成方法和裝置

有效

• 申請號: 202111503431.6
• 申請日: 2021-12-10
• 公開（公告）號: CN114201154B
• 公開（公告）日: 2023-01-31
• 發明（設計）人: 邢馮;藍翔;牛麗玲;劉賢冬;馬艷軍;于佃海;王海峰
• 申請（專利權）人: 北京百度網訊科技有限公司
• 主分類號: G06F8/30
• 分類號: G06F8/30;G06F9/448;G06N3/0475
• 代理公司: 北京英賽嘉華知識產權代理有限責任公司 11204
• 代理人: 王達佐;馬曉亞

1.一種算子生成方法，包括：

基于待生成目標內核算子的硬件架構的類別，構建一組基礎應用程序接口，所述基礎應用程序接口用于提供以下基礎功能中的一項：訪問功能、存儲功能和運算功能，所述一組基礎應用程序接口包括提供運算功能的基礎應用程序接口和提供訪問功能的基礎應用程序接口，所述基礎應用程序接口對應模塊級設備函數；

構建內核應用程序接口，所述內核應用程序接口用于調用所述基礎應用程序接口以實現算子邏輯，所述內核應用程序接口對應內核級函數，每個內核算子對應一個內核應用程序接口，所述內核應用程序接口應用于不同的硬件設備；

基于所述一組基礎應用程序接口和所述內核應用程序接口，生成目標內核算子。

2.根據權利要求1所述的方法，其中，所述基于所述一組基礎應用程序接口和所述內核應用程序接口，生成目標內核算子，包括：

基于所述一組基礎應用程序接口中的三種基礎應用程序接口和內核應用程序接口，生成目標內核算子，所述三種基礎應用程序接口分別為輸入輸出應用程序接口、計算應用程序接口和計算規則應用程序接口，其中，所述輸入輸出應用程序接口用于完成全局內存與寄存器間的讀寫，所述計算應用程序接口為通用計算函數，所述計算規則應用程序接口用于定義計算應用程序接口中的計算規則，供所述計算應用程序接口調用。

3.根據權利要求1所述的方法，其中，所述基于一組基礎應用程序接口和內核應用程序接口，生成目標內核算子，包括：

響應于檢測到對基礎應用程序接口的更新操作，根據更新操作生成更新后的一組基礎應用程序接口；

基于所述更新后的一組基礎應用程序接口和內核應用程序接口，生成目標內核算子。

4.根據權利要求2所述的方法，其中，所述計算規則應用程序接口根據用戶需求設定。

5.一種算子生成裝置，包括：

第一構建模塊，被配置成基于待生成目標內核算子的硬件架構的類別，構建一組基礎應用程序接口，所述基礎應用程序接口用于提供以下基礎功能中的一項：訪問功能、存儲功能和運算功能，所述一組基礎應用程序接口包括提供運算功能的基礎應用程序接口和提供訪問功能的基礎應用程序接口，所述基礎應用程序接口對應模塊級設備函數；

第二構建模塊，被配置成構建內核應用程序接口，所述內核應用程序接口用于調用所述基礎應用程序接口以實現算子邏輯，所述內核應用程序接口對應內核級函數，每個內核算子對應一個內核應用程序接口，所述內核應用程序接口應用于不同的硬件設備；

生成目標模塊，被配置成基于所述一組基礎應用程序接口和所述內核應用程序接口，生成目標內核算子。

6.根據權利要求5所述的裝置，其中，所述生成目標模塊進一步被配置成：

基于所述一組基礎應用程序接口中的三種基礎應用程序接口和內核應用程序接口，生成目標內核算子，所述三種基礎應用程序接口分別為輸入輸出應用程序接口、計算應用程序接口和計算規則應用程序接口，其中，所述輸入輸出應用程序接口用于完成全局內存與寄存器間的讀寫，所述計算應用程序接口為通用計算函數，所述計算規則應用程序接口用于定義計算應用程序接口中的計算規則，供所述計算應用程序接口調用。

7.根據權利要求5所述的裝置，其中，所述生成目標模塊進一步被配置成：

響應于檢測到對基礎應用程序接口的更新操作，根據更新操作生成更新后的一組基礎應用程序接口；

基于所述更新后的一組基礎應用程序接口和內核應用程序接口，生成目標內核算子。

8.根據權利要求6所述的裝置，其中，所述計算規則應用程序接口根據用戶需求設定。

9.一種電子設備，其特征在于，包括：

至少一個處理器；以及

與所述至少一個處理器通信連接的存儲器；其中，

所述存儲器存儲有可被所述至少一個處理器執行，以使所述至少一個處理器能夠執行權利要求1-4中任一項所述的方法。

10.一種存儲有計算機指令的非瞬時計算機可讀存儲介質，其特征在于，所述計算機指令用于使所述計算機執行權利要求1-4中任一項所述的方法。