[發(fā)明專利]機器學習模型的在線部署方法、裝置及相關設備

在審

• 申請?zhí)枺?/td>: 202010888528.2
• 申請日: 2020-08-28
• 公開（公告）號: CN111966382A
• 公開（公告）日: 2020-11-20
• 發(fā)明（設計）人: 韋家強;王國印;鄭德鵬
• 申請（專利權）人: 上海尋夢信息技術有限公司
• 主分類號: G06F8/65
• 分類號: G06F8/65;G06F8/71;G06N20/00
• 代理公司: 上海隆天律師事務所 31282
• 代理人: 潘一諾

1.一種機器學習模型的在線部署方法，其特征在于，包括：

自一模型儲存系統(tǒng)中匹配模型版本號符合一第一加載規(guī)則的模型文件；

加載所匹配的模型文件；

接收預測服務的調用請求；

根據所述調用請求，讀取特征數據；

將所述特征數據輸入所加載的模型文件進行預測。

2.如權利要求1所述的機器學習模型的在線部署方法，其特征在于，所述模型文件經由離線訓練產出，并關聯一模型版本號以儲存至所述模型儲存系統(tǒng)中。

3.如權利要求1所述的機器學習模型的在線部署方法，其特征在于，所述模型儲存系統(tǒng)中的模型文件關聯一寫入標識，當所述模型文件經由離線訓練產出，并寫入所述模型儲存系統(tǒng)后，設置所述寫入標識以指示該模型文件已寫入完成。

4.如權利要求3所述的機器學習模型的在線部署方法，其特征在于，所述第一加載規(guī)則包括如下加載規(guī)則中的一項或多項：

模型版本號最新；

寫入標識指示該模型文件已寫入完成；

模型版本號符合指定模型版本號。

5.如權利要求3所述的機器學習模型的在線部署方法，其特征在于，所述加載所匹配的模型文件之后，且所述接收預測服務的調用請求之前還包括：

檢查所述模型儲存系統(tǒng)中的模型文件是否存在更新；

若存在，則判斷更新的模型文件是否符合第二加載規(guī)則；

若符合，則加載該更新的模型文件。

6.如權利要求5所述的機器學習模型的在線部署方法，其特征在于，所述第二加載規(guī)則包括如下加載規(guī)則中的一項或多項：

模型版本號晚于當前所加載的模型文件的版模型本號；

寫入標識指示該模型文件已寫入完成；

未指定模型版本號。

7.如權利要求1所述的機器學習模型的在線部署方法，其特征在于，所述加載所匹配的模型文件之后，且所述根據所述調用請求，讀取特征數據之前還包括：

判斷待讀取的特征數據是否包括模型文件在離線訓練時產出的特征數據，模型文件在離線訓練時產出的特征數據儲存至一緩存系統(tǒng)中；

若是，則根據一讀取規(guī)則自所述緩存系統(tǒng)中讀取特征數據。

8.如權利要求7所述的機器學習模型的在線部署方法，其特征在于，該模型文件在離線訓練時產出的特征數據以第一鍵值對的形式儲存至所述緩存系統(tǒng)中，其中，所述第一鍵值對的鍵儲存特征數據的特征名以及特征版本號，所述第一鍵值對的值儲存特征數據的特征信息。

9.如權利要求8所述的機器學習模型的在線部署方法，其特征在于，該模型文件在離線訓練時產出的特征數據關聯一失效時間地儲存至一緩存系統(tǒng)，使得所述緩存系統(tǒng)中的同一特征名的特征數據，至少同時存在兩個特征版本號。

10.如權利要求8所述的機器學習模型的在線部署方法，其特征在于，該模型文件在離線訓練時產出的設定特征數據儲存至一緩存系統(tǒng)后，使該模型文件在離線訓練時產出的設定特征數據于所述緩存系統(tǒng)中關聯一第二鍵值對，所述第二鍵值對的鍵儲存特征版本標識，所述第二鍵值對的值儲存特征版本號，所述第二鍵值對先于所述第一鍵值對被獲取。

11.如權利要求8所述的機器學習模型的在線部署方法，其特征在于，所述特征數據的特征版本號與產出該特征數據的模型文件的模型版本號一致。

12.如權利要求8所述的機器學習模型的在線部署方法，其特征在于，所述讀取規(guī)則包括如下任一項讀取規(guī)則：

特征版本號與當前加載的模型文件的模型版本號一致；

特征版本號最新；

特征版本號符合指定特征版本號。

13.如權利要求1至12任一項所述的機器學習模型的在線部署方法，其特征在于，所述模型儲存系統(tǒng)中保存設定歷史時間段內的模型文件。