[發明專利]機器學習模型預測在線服務的部署方法和裝置

在審

• 申請號: 202110370662.8
• 申請日: 2021-04-06
• 公開（公告）號: CN113064599A
• 公開（公告）日: 2021-07-02
• 發明（設計）人: 蔡鵬;蔡石林;管勝
• 申請（專利權）人: 頂象科技有限公司
• 主分類號: G06F8/60
• 分類號: G06F8/60;G06N20/00
• 代理公司: 北京超凡宏宇專利代理事務所(特殊普通合伙) 11463
• 代理人: 張萌

1.一種機器學習模型預測在線服務的部署方法，其特征在于，包括：

利用特征處理的算子將預先獲取的離線數據進行特征處理，生成模型訓練集；所述特征處理的算子包括第一在線計算接口和第二在線計算接口；

利用所述模型訓練集對機器學習算法的算子進行訓練，生成訓練好的機器學習模型；所述訓練好的機器學習模型的算法的算子包括第一在線計算接口；

根據所述特征處理的算子和所述訓練好的機器學習模型，確定算子鏈路；所述算子鏈路包括所述特征處理的算子和所述訓練好的機器學習模型的算子；

基于所述算子鏈路中的所述第一在線計算接口和所述第二在線計算接口，生成模型在線服務；所述模型在線服務用于處理實時請求的數據，生成模型計算結果。

2.根據權利要求1所述的機器學習模型預測在線服務的部署方法，其特征在于，在將預先獲取的離線數據進行特征處理，生成模型訓練集的步驟之前，還包括：

確定特征處理的算子和機器學習算法的算子；

獲取建模場景的離線數據，確定離線建模訓練集。

3.根據權利要求2所述的機器學習模型預測在線服務的部署方法，其特征在于，所述特征處理的算子包括第一算子和第二算子，所述機器學習算法的算子包括第一算子；所述第一算子包括第一在線計算接口和第一離線計算接口，所述第二算子包括第二在線計算接口和第二離線計算接口。

4.根據權利要求3所述的機器學習模型預測在線服務的部署方法，其特征在于，所述第一算子在進行離線計算時，生成配置文件，所述配置文件用于計算所述第一算子的計算邏輯。

5.根據權利要求4所述的機器學習模型預測在線服務的部署方法，其特征在于，所述特征處理包括：數據清洗、數據填充和特征衍生中的一種或多種；

如果所述特征處理為所述數據清洗或所述數據填充，所述特征處理的算子為第二算子；

如果所述特征處理為特征衍生，所述特征處理的算子為第一算子，或者第一算子和第二算子。

6.根據權利要求2所述的機器學習模型預測在線服務的部署方法，其特征在于，所述算子鏈路包括多個第一算子和多個第二算子；基于所述算子鏈路中的所述第一在線計算接口和所述第二在線計算接口，生成模型在線服務的步驟，包括：

調用所述算子鏈路中的所有所述第一算子和所述第二算子；

基于所述第一算子的第一在線計算接口和所述第二算子的第二在線計算接口，生成模型在線服務。

7.根據權利要求3至6任意一項所述的機器學習模型預測在線服務的部署方法，其特征在于，所述第一算子為Estimator型算子，所述第二算子為Transformer型算子。

8.一種機器學習模型預測在線服務的部署裝置，其特征在于，包括：

特征處理模塊，用于利用特征處理的算子將預先獲取的離線數據進行特征處理，生成模型訓練集；所述特征處理的算子包括第一在線計算接口和第二在線計算接口；

訓練模塊，用于利用所述模型訓練集對機器學習算法的算子進行訓練，生成訓練好的機器學習模型；所述訓練好的機器學習模型的算子包括第一在線計算接口；

確定模塊，用于根據所述特征處理的算子和所述訓練好的機器學習模型，確定算子鏈路；所述算子鏈路包括所述特征處理的算子和所述訓練好的機器學習模型的算子；

在線服務生成模塊，用于基于所述算子鏈路中的所述第一在線計算接口和所述第二在線計算接口，生成模型在線服務；所述模型在線服務用于處理實時請求的數據，生成模型計算結果。

9.一種電子設備，包括存儲器、處理器，所述存儲器中存儲有可在所述處理器上運行的計算機程序，其特征在于，所述處理器執行所述計算機程序時實現上述權利要求1至7任一項所述的方法的步驟。

10.一種計算機可讀存儲介質，其特征在于，所述計算機可讀存儲介質存儲有機器可運行指令，所述計算機可運行指令在被處理器調用和運行時，所述計算機可運行指令促使所述處理器運行所述權利要求1至7任一項所述的方法。