[發明專利]機器學習模型的在線部署方法、裝置及相關設備

在審

• 申請號: 202010888528.2
• 申請日: 2020-08-28
• 公開（公告）號: CN111966382A
• 公開（公告）日: 2020-11-20
• 發明（設計）人: 韋家強;王國印;鄭德鵬
• 申請（專利權）人: 上海尋夢信息技術有限公司
• 主分類號: G06F8/65
• 分類號: G06F8/65;G06F8/71;G06N20/00
• 代理公司: 上海隆天律師事務所 31282
• 代理人: 潘一諾

本發明提供一種機器學習模型的在線部署方法、裝置及相關設備，機器學習模型的在線部署方法包括：自一模型儲存系統中匹配模型版本號符合一第一加載規則的模型文件；加載所匹配的模型文件；接收預測服務的調用請求；根據所述調用請求，讀取特征數據；將所述特征數據輸入所加載的模型文件進行預測。本發明提供的方法及裝置實現完整的在線模塊的部署，以提高在線模塊的執行效率和穩定性。

技術領域

本發明涉及計算機應用領域，尤其涉及一種機器學習模型的在線部署方法、裝置及相關設備。

背景技術

目前主流互聯網企業，通常每天會產生數億級的業務數據，基于這些業務數據的分析和決策已成為企業生存和發展的關鍵。由于業務數據生成的速度和量級已大大超出人工處理的極限，因此，大規模機器學習算法已成為日常數據分析的重要手段。企業在實現大規模機器學習算法時，相應的工程架構通常分為離線模塊和在線模塊兩個部分。離線模塊主要完成決策模型的學習過程，具體包括模型訓練和模型評估兩個模塊，并輸出決策模型文件。在線模塊主要完成決策模型的推理過程，具體是指將在線請求轉換為決策模型對應的輸入格式，并通過決策模型中的計算邏輯獲取到推理結果。

目前，大規模機器學習算法中的離線模塊，已得到學術界和工業界的深入探索和研究，發展較為成熟；然而，針對大規模機器學習算法的在線模塊，尚無有效、統一的實現方案

由此，如何實現完整的在線模塊的部署，以提高在線模塊的執行效率和穩定性，是本領域技術人員亟待解決的技術問題。

發明內容

本發明為了克服上述相關技術存在的缺陷，提供一種機器學習模型的在線部署方法、裝置、電子設備及存儲介質，進而實現完整的在線模塊的部署，以提高在線模塊的執行效率和穩定性。

根據本發明的一個方面，提供一種機器學習模型的在線部署方法，包括：

自一模型儲存系統中匹配模型版本號符合一第一加載規則的模型文件；

加載所匹配的模型文件；

接收預測服務的調用請求；

根據所述調用請求，讀取特征數據；

將所述特征數據輸入所加載的模型文件進行預測。

在本發明的一些實施例中，所述模型文件經由離線訓練產出，并關聯一模型版本號以儲存至所述模型儲存系統中。

在本發明的一些實施例中，所述模型儲存系統中的模型文件關聯一寫入標識，當所述模型文件經由離線訓練產出，并寫入所述模型儲存系統后，設置所述寫入標識以指示該模型文件已寫入完成。

在本發明的一些實施例中，所述第一加載規則包括如下加載規則中的一項或多項：

模型版本號最新；

寫入標識指示該模型文件已寫入完成；

模型版本號符合指定模型版本號。

在本發明的一些實施例中，所述加載所匹配的模型文件之后，且所述接收預測服務的調用請求之前還包括：

檢查所述模型儲存系統中的模型文件是否存在更新；

若存在，則判斷更新的模型文件是否符合第二加載規則；

若符合，則加載該更新的模型文件。

在本發明的一些實施例中，所述第二加載規則包括如下加載規則中的一項或多項：

模型版本號晚于當前所加載的模型文件的版模型本號；

寫入標識指示該模型文件已寫入完成；

未指定模型版本號。