[發明專利]一種模型部署方法、裝置、設備及介質

在審

• 申請號: 202210498334.0
• 申請日: 2022-05-09
• 公開（公告）號: CN114879953A
• 公開（公告）日: 2022-08-09
• 發明（設計）人: 盧凌云;張晨;王全禮;李昱
• 申請（專利權）人: 中國建設銀行股份有限公司;建信金融科技有限責任公司
• 主分類號: G06F8/35
• 分類號: G06F8/35;G06F8/61;G06F8/71;G06N20/00
• 代理公司: 北京同達信恒知識產權代理有限公司 11291
• 代理人: 王娜

1.一種模型部署方法，其特征在于，所述方法包括：

接收訓練完成的模型以及所述模型的第一標識；

根據預先保存的模型的標識與算法的對應關系，確定所述第一標識對應的第一配置算法，通過所述第一配置算法部署所述模型；

生成部署完成的所述模型對應的第一模型服務，保存所述第一標識與所述第一模型服務的對應關系。

2.根據權利要求1所述的方法，其特征在于，所述方法還包括：

接收應用設備發送的應用請求，其中，所述應用請求中攜帶待使用的模型的第二標識；

根據保存的模型的標識與模型服務的對應關系，確定所述第二標識對應的第二模型服務，將所述第二模型服務發送至所述應用設備。

3.根據權利要求1所述的方法，其特征在于，所述方法還包括：

若接收到組合服務生成請求，則獲取所述組合服務生成請求中攜帶的推理圖、所述推理圖中每個節點中記錄待組合的模型的第三標識及組合服務對應的第四標識；

根據保存的模型的標識與模型服務的對應關系，確定所述第三標識對應的第三模型服務；

按照所述推理圖中節點之間的連接關系，將所述推理圖中每個節點對應的第三模型服務進行組合得到組合服務；

在保存的模型的標識與模型服務的對應關系中添加所述第四標識與所述組合服務的對應關系。

4.根據權利要求1所述的方法，其特征在于，所述確定所述第一標識對應的第一配置算法之后，所述通過所述第一配置算法部署所述模型之前，所述方法還包括：

構建所述第一配置算法的鏡像；

所述通過所述第一配置算法部署所述模型包括：

運行所述鏡像生成對應的容器，在所述容器中通過所述第一配置算法部署所述模型。

5.根據權利要求1所述的方法，其特征在于，所述方法還包括：

若第五標識對應的第四模型服務當前滿足預設的停用條件，則停用所述第四模型服務，釋放所述第四模型服務占用的資源。

6.根據權利要求5所述的方法，其特征在于，所述第五標識對應的第四模型服務當前滿足預設的停用條件包括：

接收到的攜帶的待使用的模型為所述第五標識的應用請求達到設定數量；或

當前時刻為所述第五標識對應的第四模型服務的預設停用時刻；或

所述第五標識對應的第四模型服務被部署的時長達到第一預設時長。

7.根據權利要求5或6所述的方法，其特征在于，所述方法還包括：

若被停用的第五標識對應的第四模型服務當前滿足預設的部署條件，則根據預先保存的模型的標識與算法的對應關系，確定所述第五標識對應的第二配置算法，通過所述第二配置算法部署第五標識的模型；

生成部署完成的所述第五標識的模型對應的第四模型服務。

8.根據權利要求7所述的方法，其特征在于，所述被停用的第五標識對應的第四模型服務當前滿足預設的部署條件包括：

當前時刻為所述第五標識對應的第四模型服務的預設部署時刻；或

所述被停用的第五標識對應的第四模型服務被停用的時長達到第二預設時長。

9.根據權利要求1所述的方法，其特征在于，所述生成部署完成的所述模型對應的第一模型服務之后，所述保存所述第一標識與所述第一模型服務的對應關系之前，所述方法還包括：

判斷保存的模型的標識與模型服務的對應關系中是否包含所述第一標識；

所述保存所述第一標識與所述第一模型服務的對應關系包括：

若保存的模型的標識與模型服務的對應關系中包含所述第一標識，則采用所述第一標識與對應的第一模型服務對保存的所述第一標識對應的模型服務進行更新；

若保存的模型的標識與模型服務的對應關系中不包含所述第一標識，則將所述第一標識與所述第一模型服務的對應關系添加到保存的模型的標識與模型服務的對應關系中。