[發明專利]模型部署方法、裝置、電子設備及存儲介質

在審

• 申請號: 202210089696.4
• 申請日: 2022-01-25
• 公開（公告）號: CN114546425A
• 公開（公告）日: 2022-05-27
• 發明（設計）人: 林建明;廖立普;杜亞威;易小華;徐磊
• 申請（專利權）人: 深圳無域科技技術有限公司
• 主分類號: G06F8/61
• 分類號: G06F8/61;G06K9/62;G06N20/00;G06F16/11
• 代理公司: 深圳智匯遠見知識產權代理有限公司 44481
• 代理人: 聶磊

本發明實施例提供了一種模型部署方法、裝置、電子設備及存儲介質，所述方法包括：確定待部署模型，獲取所述待部署模型對應的源代碼文件，以及確定所述待部署模型所需的資源及運行環境；根據所述源代碼文件、所述資源以及所述運行環境，生成待部署模型對應的模型數據，所述模型數據包括模型文件、輸入格式、預測代碼；將所述模型文件進行格式轉換，并基于格式轉換后的所述模型文件、所述輸入格式、所述預測代碼構建模型鏡像；基于Kubernetes將所述模型鏡像部署為服務。如此自動化進行模型部署，使得模型上線比較簡單，可以滿足工程要求，保證業務落地和業務進度。

技術領域

本發明實施例涉及數據處理技術領域，尤其涉及一種模型部署方法、裝置、電子設備及存儲介質。

背景技術

模型部署是模型上線不可或缺的一部分，且是一件比較費時費力的工資。在企業的智能化應用中，經常會遇到如下問題：用了復雜的機器學習模型或者改進機器學習模型可以大大提升模型效果，但是在模型上線時卻無法滿足工程要求。這里主要是因為算法工程師和業務開發工程師掌握的技術集和工具是不同的，算法工程師一般使用python，R等計算機編程語言，而業務開發工程師則一般使用java等計算機編程語言。算法工程師負責模型的訓練和導出，而業務開發工程師負責導入模型和基于模型進行預測。因此當算法工程師和業務開發工程師掌握的技術集和工具不同時，導致算法工程師訓練的模型，業務開發工程師無法使用，影響業務落地和業務進度。

發明內容

為了解決上述當算法工程師和業務開發工程師掌握的技術集和工具不同時，導致算法工程師訓練的模型，業務開發工程師無法使用，影響業務落地和業務進度。的技術問題，本發明實施例提供了一種模型部署方法、裝置、電子設備及存儲介質。

在本發明實施例的第一方面，首先提供了一種模型部署方法，所述方法包括：

確定待部署模型，獲取所述待部署模型對應的源代碼文件，以及確定所述待部署模型所需的資源及運行環境；

根據所述源代碼文件、所述資源以及所述運行環境，生成待部署模型對應的模型數據，所述模型數據包括模型文件、輸入格式、預測代碼；

將所述模型文件進行格式轉換，并基于格式轉換后的所述模型文件、所述輸入格式、所述預測代碼構建模型鏡像；

基于Kubernetes將所述模型鏡像部署為服務。

在一個可選的實施方式中，所述確定待部署模型，包括：

在監測到用戶針對notebook創建按鈕的預設操作觸發的情況下，創建notebook，以及確定相應的資源；

在監測到用戶針對所述notebook的預設操作觸發的情況下，記錄所述用戶在所述notebook中輸入的AI模型對應的源代碼文件；

確定所述AI模型為待部署模型。

在一個可選的實施方式中，所述獲取所述待部署模型對應的源代碼文件，包括：

獲取所述待部署模型對應的第一格式的源代碼文件，或者，獲取所述待部署模型對應的第二格式的源代碼文件。

在一個可選的實施方式中，所述根據所述源代碼文件、所述資源以及所述運行環境，生成待部署模型對應的模型數據，包括：

在監測到用戶針對部署按鈕的預設操作觸發的情況下，調用所述資源解析所述源代碼文件以及所述運行環境，生成待部署模型對應的模型數據。

在一個可選的實施方式中，所述基于Kubernetes將所述模型鏡像部署為服務之后，所述方法還包括：

獲取測試數據，并將所述測試數據輸入至所述服務，獲取所述服務的預測結果；

將所述預測結果與所述測試數據對應的預期結果進行比較，若所述預測結果與所述預期結果一致，則確定所述服務正常。