[發明專利]模型部署方法、裝置、計算機設備和存儲介質

在審

• 申請號: 202011030909.3
• 申請日: 2020-09-27
• 公開（公告）號: CN112230911A
• 公開（公告）日: 2021-01-15
• 發明（設計）人: 朱旭光;汪德嘉;楊博雅
• 申請（專利權）人: 北京通付盾人工智能技術有限公司;江蘇通付盾科技有限公司
• 主分類號: G06F8/35
• 分類號: G06F8/35;G06F9/455;G06K9/62
• 代理公司: 廣州華進聯合專利商標代理有限公司 44224
• 代理人: 黃麗霞

1.一種模型部署方法，其特征在于，所述方法包括：

獲取已完成訓練的模型計算組件以及與所述模型計算組件對應的配置參數；

根據所述模型計算組件以及與所述模型計算組件對應的配置參數確定所述模型計算組件的數據傳輸協議；

根據所述模型計算組件、所述模型計算組件對應的配置參數以及所述模型計算組件的數據傳輸協議生成模型配置文件，所述模型配置文件為對所述模型計算組件進行模型部署的配置。

2.根據權利要求1所述的方法，其特征在于，所述配置參數包括所述模型計算組件的運行環境參數，所述方法還包括：

根據所述模型計算組件的運行環境參數建立所述模型計算組件與所述運行環境參數匹配的docker容器之間的關聯關系，并存儲所述關聯關系，所述關聯關系用于指示所述模型計算組件在對應的docker容器中運行。

3.根據權利要求1所述的方法，其特征在于，所述配置參數還包括所述模型計算組件的處理方式，所述模型計算組件的處理方式包括預處理方式和后處理方式中的至少一種；所述根據所述模型計算組件以及與所述模型計算組件對應的配置參數確定所述模型計算組件的數據傳輸協議，包括：

若所述模型計算組件的處理方式中包括預處理方式，則根據所述模型計算組件以及對應的預處理方式確定向所述模型計算組件輸入數據的數據傳輸協議；

若所述模型計算組件的處理方式中包括后處理方式，則根據所述模型計算組件以及對應的后處理方式確定從所述模型計算組件輸出數據的數據傳輸協議。

4.根據權利要求1所述的方法，其特征在于，所述方法還包括：

接收目標賬戶的模型調用請求，所述模型調用請求中包括請求調用的模型計算組件的模型配置文件以及請求處理業務的業務數據，所述模型配置文件中包括與請求調用的模型計算組件對應的配置參數，所述配置參數包括請求調用的模型計算組件的運行環境參數；

根據請求調用的模型計算組件的運行環境參數將所述模型計算組件加載到與所述運行環境參數匹配的docker容器中，形成模型服務框架；

基于所述模型配置文件確定所述模型服務框架對所述業務數據的處理方式以及對應的數據傳輸協議；

根據所述模型服務框架、所述處理方式和對應的數據傳輸協議對所述業務數據進行處理，得到處理結果；

向所述目標賬戶返回所述處理結果。

5.根據權利要求4所述的方法，其特征在于，所述模型配置文件中包括請求調用的模型計算組件的處理方式，所述處理方式包括預處理方式和后處理方式中的至少一種；所述根據所述模型服務框架、所述處理方式和對應的數據傳輸協議對所述業務數據進行處理，包括：

若所述處理方式中包括預處理方式，則根據所述預處理方式對所述業務數據進行預處理，得到預處理后的數據；

采用與所述預處理方式對應的數據傳輸協議向所述模型服務框架輸入所述預處理后的數據，以指示所述模型服務框架根據設定的算法對所述預處理后的數據進行計算。

6.根據權利要求5所述的方法，其特征在于，所述根據所述模型服務框架、所述處理方式和對應的數據傳輸協議對所述業務數據進行處理，還包括：

若所述處理方式中包括后處理方式，則根據與所述后處理方式對應的數據傳輸協議獲取所述模型服務框架輸出的計算結果；

根據所述后處理方式對所述計算結果進行可視化處理，得到處理結果。

7.一種模型部署裝置，其特征在于，所述裝置包括：

獲取模塊，用于獲取已完成訓練的模型計算組件以及與所述模型計算組件對應的配置參數；

數據傳輸協議確定模塊，用于根據所述模型計算組件以及與所述模型計算組件對應的配置參數確定所述模型計算組件的數據傳輸協議；

模型配置文件生成模塊，用于根據所述模型計算組件、所述模型計算組件對應的配置參數以及所述模型計算組件的數據傳輸協議生成模型配置文件，所述模型配置文件為對所述模型計算組件進行模型部署的配置。