[發明專利]一種機器學習模型的部署與監控裝置和方法

在審

• 申請號: 201910072556.4
• 申請日: 2019-01-25
• 公開（公告）號: CN111488254A
• 公開（公告）日: 2020-08-04
• 發明（設計）人: 陳東沂;姚小龍;鐘萍;郭林東;周江
• 申請（專利權）人: 順豐科技有限公司
• 主分類號: G06F11/30
• 分類號: G06F11/30
• 代理公司: 北京志霖恒遠知識產權代理事務所(普通合伙) 11435
• 代理人: 趙奕

1.一種機器學習模型的部署與監控裝置，其特征在于，包括：

一個或多個容器應用模塊，所述容器應用模塊里部署有WEB應用服務接口、機器學習模型代碼、python運行環境，配置用于將python應用程序的運行環境部署到容器應用中，通過基于flask的web應用框架向用戶端提供web接口服務，以Restful API的方式向用戶端提供web訪問服務；

數據庫模塊，配置用于接收并存儲機器學習模型運行過程中的日志輸出；

其中，所述容器應用模塊預配置有Python應用程序的運行環境。

2.根據權利要求1所述的機器學習模型的部署與監控裝置，其特征在于，還包括反向代理服務器，配置用于根據預設策略將用戶的web請求分發至不同容器應用模塊所提供的web接口服務，以實現用戶端對機器學習模型服務的請求訪問進行負載均衡。

3.根據權利要求2所述的機器學習模型的部署與監控裝置，其特征在于，所述數據庫模塊，還配置用于將所述日志輸出發送至第三方監控終端對機器學習模型的運行狀態進行分析和監控。

4.根據權利要求1所述的機器學習模型的部署與監控裝置，其特征在于，Python應用程序的運行環境基于Anaconda構建，用于引入和管理機器學習模型所需要軟件包及其依賴項。

5.根據權利要求1所述的機器學習模型的部署與監控裝置，其特征在于，容器應用模塊，還配置用于通過基于flask的web應用框架將機器學習模型代碼封裝成具有Http協議的Restful接口函數，提供給外部通過URL方式訪問所述web接口服務。

6.一種機器學習模型的部署與監控方法，其特征在于，包括：

將python應用程序的運行環境部署到容器應用中，通過基于flask的web應用框架向用戶端提供web接口服務，以Restful API的方式向用戶端提供web訪問服務，并將機器學習模型運行過程中的日志輸出發送至數據庫模塊，進行存儲；

其中，所述容器應用模塊預配置有Python應用程序的運行環境。

7.根據權利要求6所述的機器學習模型的部署與監控方法，其特征在于，還包括：通過用戶訪問模塊根據預設策略將用戶的web請求分發到不同容器應用模塊所提供的web接口服務，以實現用戶端對機器學習模型服務的請求訪問進行負載均衡。

8.根據權利要求7所述的機器學習模型的部署與監控方法，其特征在于，還包括：通過數據庫模塊將所述日志輸出發送至第三方監控終端，對機器學習模型的運行狀態進行分析和監控。

9.根據權利要求6所述的機器學習模型的部署與監控方法，其特征在于，Python應用程序的運行環境基于Anaconda構建，用于引入和管理機器學習模型所需要軟件包及其依賴項。

10.根據權利要求6所述的機器學習模型的部署與監控方法，其特征在于，還包括，基于flask搭建的web服務將機器學習模型代碼封裝成Http協議的Restful風格的接口函數，提供給外部通過URL方式訪問所述web接口服務。