[發明專利]一種模型部署的方法、裝置、存儲介質及電子設備

在審

• 申請號: 202310111355.7
• 申請日: 2023-02-07
• 公開（公告）號: CN116028069A
• 公開（公告）日: 2023-04-28
• 發明（設計）人: 李海燕;王婭靜;俞再亮;李鵬飛;靖偉;吳方聞
• 申請（專利權）人: 之江實驗室
• 主分類號: G06F8/61
• 分類號: G06F8/61;G06F8/71;G06N20/00
• 代理公司: 北京博思佳知識產權代理有限公司 11415
• 代理人: 林祥

1.一種模型部署的方法，其特征在于，包括：

獲取目標模型以及目標模型對應的配置文件，所述配置文件中包含有所述目標模型所需運行環境的環境信息，所述環境信息包括：所述目標模型對應計算框架的計算框架標識、運行環境標識以及所述運行環境對應環境版本的版本標識中的至少一種；

確定用于部署所述目標模型的目標設備，并在所述目標設備中創建用于部署所述目標模型的目標系統；

根據所述配置文件，從指定的環境信息庫中獲取所述目標模型所需運行環境的數據包；

基于所述數據包，在所述目標系統中創建所述目標模型所需的運行環境；

根據所述目標系統中創建所述目標模型所需的運行環境，在所述目標系統中部署所述目標模型，以通過部署后的目標模型執行業務。

2.如權利要求1所述的方法，其特征在于，所述配置文件包含有所述目標模型所需依賴項的依賴信息，所述依賴信息包括：所述依賴項對應的依賴項標識以及依賴項版本標識中的至少一種；

所述方法還包括：

從所述配置文件中讀取所述依賴信息；

根據所述依賴信息，獲取所述目標模型所需依賴項的依賴包。

3.如權利要求2所述的方法，其特征在于，基于所述數據包，在所述目標系統中創建所述目標模型所需的運行環境，具體包括：

基于所述數據包以及所述依賴包，在所述目標系統中創建所述目標模型所需的運行環境。

4.如權利要求2所述的方法，其特征在于，所述方法還包括：

若所述配置文件中未存儲有所述依賴信息，則通過指定命令，從所述目標模型的模型文件中導出所述依賴信息。

5.如權利要求2所述的方法，其特征在于，基于所述數據包，在所述目標系統中創建所述目標模型所需的運行環境，具體包括：

構建所述目標系統對應的容器實例；

將所述依賴包以及所述運行環境的數據包安裝在所述容器實例中，得到更新后容器實例；

根據所述更新后容器實例，在所述目標系統中創建所述目標模型所需的運行環境。

6.如權利要求1所述的方法，其特征在于，基于所述數據包，在所述目標系統中創建所述目標模型所需的運行環境，具體包括：

根據所述配置文件，確定所述環境版本的版本標識；

基于所述版本標識對應運行環境的數據包，在所述目標系統中創建所述目標模型所需的運行環境。

7.如權利要求1所述的方法，其特征在于，根據所述目標系統中創建所述目標模型所需的運行環境，在所述目標系統中部署所述目標模型，具體包括：

對所述目標模型進行評估，得到評估結果；

根據所述評估結果，對所述目標模型進行優化，得到優化后模型；

根據所述目標系統中創建所述目標模型所需的運行環境，在所述目標系統中部署所述目標模型。

8.如權利要求1所述的方法，其特征在于，根據所述目標系統中創建所述目標模型所需的運行環境，在所述目標系統中部署所述目標模型，具體包括：

確定部署所述目標模型時所需的配置參數；

根據所述目標系統中創建所述目標模型所需的運行環境以及所述配置參數，在所述目標系統中部署所述目標模型。

9.如權利要求8所述的方法，其特征在于，根據所述目標系統中創建所述目標模型所需的運行環境以及所述配置參數，在所述目標系統中部署所述目標模型，具體包括：

將所述配置參數發送到容器編排引擎，以通過所述容器編排引擎，根據所述目標系統中創建所述目標模型所需的運行環境以及所述配置參數，在所述目標系統中部署所述目標模型。