[發明專利]接入方法、裝置、電子設備及計算機存儲介質

有效

• 申請號: 202111506921.1
• 申請日: 2021-12-10
• 公開（公告）號: CN114201156B
• 公開（公告）日: 2022-08-05
• 發明（設計）人: 馬艷軍;王海峰;胡曉光;于佃海;吳甜;李琦
• 申請（專利權）人: 北京百度網訊科技有限公司
• 主分類號: G06F8/30
• 分類號: G06F8/30;G06F9/448;G06N3/04;G06N3/08
• 代理公司: 北京市鑄成律師事務所 11313
• 代理人: 皇甫韻嘯;王云紅

1.一種接入方法，包括：

根據目標模型中的算子表達，確定調用接入設備的計算圖；

根據所述接入設備的信息，對所述計算圖進行優化；

根據所述接入設備接入目標模型的模型框架的接口和所述計算圖，對所述接入設備執行所述目標模型的運行相關操作，所述接入設備接入所述目標模型的模型框架的接口，是根據所述接入設備的工具包數據確定的；

所述根據所述接入設備接入目標模型的模型框架的接口和所述計算圖，對所述接入設備執行所述目標模型的運行相關操作，包括：

根據所述接口，確定所述接入設備的接入方式；

根據所述接入方式和所述計算圖，生成用于調用所述接入設備的指令數據；

運行所述指令數據，實現所述運行相關操作；

在所述接入方式為算子接入的情況下，所述計算圖包括所述目標模型的模型框架的第一計算圖；所述根據所述接入方式和所述計算圖，生成用于調用所述接入設備的指令數據，包括：

將所述第一計算圖映射為框架算子；

根據所述框架算子和所述接入設備的設備算子，生成所述接入設備的指令數據；

在所述接入方式為計算圖接入的情況下，所述計算圖包括所述目標模型的模型框架的第一計算圖，以及所述接入設備的第二計算圖；所述根據所述接入方式和所述計算圖，生成用于調用所述接入設備的指令數據，包括：

根據所述第一計算圖和預設的算子中間表示定義，生成圖中間表示；

根據所述圖中間表示和所述第二計算圖，生成所述指令數據。

2.根據權利要求1所述的方法，其中，所述方法還包括：

根據所述工具包數據，確定所述接入設備的類型；

根據所述接入設備的類型，確定所述接入設備在模型框架中的接口。

3.根據權利要求2所述的方法，其中，所述接口為根據所述接入設備的共性，將所述接入設備在所述模型框架中對應的驅動和運行時接口經過抽象和封裝生成的。

4.根據權利要求1-3中任意一項所述的方法，其中，所述根據所述接入設備的信息，對所述計算圖進行優化，包括：

根據接入設備的信息，確定對所述計算圖執行的優化操作以及被優化的計算圖單元；

對所述被優化的計算圖單元執行所述優化的操作。

5.根據權利要求1-3中任意一項所述的方法，其中，所述方法還包括：

接入所述目標模型的模型部分；

根據所述模型部分和模型框架，生成所述目標模型。

6.一種接入裝置，包括：

計算圖確定模塊，用于根據目標模型中的算子表達，確定調用接入設備的計算圖；

圖優化模塊，用于根據所述接入設備的信息，對所述計算圖進行優化；

運行模塊，用于根據所述接入設備接入目標模型的模型框架的接口和所述計算圖，對所述接入設備執行所述目標模型的運行相關操作，所述接入設備接入所述目標模型的模型框架的接口，是根據所述接入設備的工具包數據確定的；

所述運行模塊包括：

接入方式單元，用于根據所述接口，確定所述接入設備的接入方式；

指令數據單元，用于根據所述接入方式和所述計算圖，生成用于調用所述接入設備的指令數據；

運行實現單元，用于運行所述指令數據，實現所述運行相關操作；

在所述接入方式為算子接入的情況下，所述計算圖包括所述目標模型的模型框架的第一計算圖；所述指令數據單元還用于：

將所述第一計算圖映射為框架算子；

根據所述框架算子和所述接入設備的設備算子，生成所述接入設備的指令數據；

在所述接入方式為計算圖接入的情況下，所述計算圖包括所述目標模型的模型框架的第一計算圖，以及所述接入設備的第二計算圖；所述指令數據單元還用于：

根據所述第一計算圖和預設的算子中間表示定義，生成圖中間表示；

根據所述圖中間表示和所述第二計算圖，生成所述指令數據。