[發明專利]模型部署方法、裝置、計算機設備和存儲介質

在審

• 申請號: 202011030909.3
• 申請日: 2020-09-27
• 公開（公告）號: CN112230911A
• 公開（公告）日: 2021-01-15
• 發明（設計）人: 朱旭光;汪德嘉;楊博雅
• 申請（專利權）人: 北京通付盾人工智能技術有限公司;江蘇通付盾科技有限公司
• 主分類號: G06F8/35
• 分類號: G06F8/35;G06F9/455;G06K9/62
• 代理公司: 廣州華進聯合專利商標代理有限公司 44224
• 代理人: 黃麗霞

本申請涉及一種模型部署方法、裝置、計算機設備和存儲介質。所述方法通過服務器獲取已完成訓練的模型計算組件以及與模型計算組件對應的配置參數，并根據模型計算組件以及與模型計算組件對應的配置參數確定模型計算組件的數據傳輸協議，進而根據模型計算組件、模型計算組件對應的配置參數以及模型計算組件的數據傳輸協議生成模型配置文件，從而完成相應模型的部署，其通過配置參數實現對模型的定制化部署，且由于整個部署過程在服務器中完成，因此不依賴于本地的部署環境，極大的提高了模型部署的便捷性。

技術領域

本申請涉及計算機技術領域，特別是涉及一種模型部署方法、裝置、計算機設備和存儲介質。

背景技術

隨著計算機技術的發展，模型的應用越來越廣泛。而模型的開發與部署一般依賴于某種通用模型標注語言，如通過PMML(Predictive Model Markup Language，預言模型標記語言)等通用模型標注語言實現跨平臺(或跨開發語言)的部署。

而常用的跨平臺部署手段對模型開發有著諸多的限制，如PMML對用戶的自定義操作缺乏有效的支持，還缺乏對深度學習模型的支持，即深度學習模型無法通過標準的PMML實現；而對于由R、Python等語言開發的模型，若需要部署到其他開發語言環境(如java)中則較為困難。

目前，對于用戶的自定義操作部分只能通過編碼的方式將其固化到模型的配置中實現，而針對部署的語言和環境，需要手動編寫轉換代碼進行轉換，從而導致模型的部署過程較為繁瑣，需要耗費大量的人力物力。

發明內容

基于此，有必要針對上述傳統的模型部署過程較為繁瑣的技術問題，提供一種模型部署方法、裝置、計算機設備和存儲介質。

一種模型部署方法，所述方法包括：

獲取已完成訓練的模型計算組件以及與所述模型計算組件對應的配置參數；

根據所述模型計算組件以及與所述模型計算組件對應的配置參數確定所述模型計算組件的數據傳輸協議；

根據所述模型計算組件、所述模型計算組件對應的配置參數以及所述模型計算組件的數據傳輸協議生成模型配置文件，所述模型配置文件為對所述模型計算組件進行模型部署的配置。

在其中一個實施例中，所述配置參數包括所述模型計算組件的運行環境參數，所述方法還包括：根據所述模型計算組件的運行環境參數建立所述模型計算組件與所述運行環境參數匹配的docker容器之間的關聯關系，并存儲所述關聯關系，所述關聯關系用于指示所述模型計算組件在對應的docker容器中運行。

在其中一個實施例中，所述配置參數還包括所述模型計算組件的處理方式，所述模型計算組件的處理方式包括預處理方式和后處理方式中的至少一種；所述根據所述模型計算組件以及與所述模型計算組件對應的配置參數確定所述模型計算組件的數據傳輸協議，包括：若所述模型計算組件的處理方式中包括預處理方式，則根據所述模型計算組件以及對應的預處理方式確定向所述模型計算組件輸入數據的數據傳輸協議；若所述模型計算組件的處理方式中包括后處理方式，則根據所述模型計算組件以及對應的后處理方式確定從所述模型計算組件輸出數據的數據傳輸協議。

在其中一個實施例中，所述方法還包括：接收目標賬戶的模型調用請求，所述模型調用請求中包括請求調用的模型計算組件的模型配置文件以及請求模型計算組件處理業務的業務數據，所述模型配置文件中包括與請求調用的模型計算組件對應的配置參數，所述配置參數包括請求調用的模型計算組件的運行環境參數；根據請求調用的模型計算組件的運行環境參數將所述模型計算組件加載到與所述運行環境參數匹配的docker容器中，形成模型服務框架；基于所述模型配置文件確定所述模型服務框架對所述業務數據的處理方式以及對應的數據傳輸協議；根據所述模型服務框架、所述處理方式和對應的數據傳輸協議對所述業務數據進行處理，得到處理結果；向所述目標賬戶返回所述處理結果。