[發明專利]多模型的管理方法、系統、介質及服務器

有效

• 申請號: 202010840382.4
• 申請日: 2020-08-20
• 公開（公告）號: CN111708564B
• 公開（公告）日: 2020-11-20
• 發明（設計）人: 殷嘉珩;蔡俊杰;李鵬飛
• 申請（專利權）人: 上海森億醫療科技有限公司
• 主分類號: G06F8/65
• 分類號: G06F8/65;G06F8/71
• 代理公司: 上海光華專利事務所(普通合伙) 31219
• 代理人: 徐秋平

本發明提供一種多模型的管理方法、系統、介質及服務器，所述多模型的管理方法包括：根據模型的依賴庫的依賴關系確定所述模型適用的運行環境；比較所述模型的依賴庫與所述運行環境的依賴庫之間版本信息的差異；判斷差異的程度，并根據所述差異的程度對所述運行環境進行更新。本發明提供了一種自動化升級管理模型運行環境的管理策略，最大化減少多模型所需的運行環境數量。同時，降低模型過程的硬件資源消耗，以及提升運行環境維護效率。

技術領域

本發明屬于模型部署的技術領域，涉及一種模型管理方法，特別是涉及一種多模型的管理方法、系統、介質及服務器。

背景技術

在諸多模型的生產過程中，例如機器學習模型，為了讓模型能夠順利的運行，需要運行環境能夠提供和模型所匹配的依賴環境。然而，不同模型所需要的依賴環境并不一致。如何正確的管理運行環境和模型，使得它們能夠匹配，是模型部署階段的一個難點。

盡管存在Docker等容器化技術，能夠可靠對特定的模型創建匹配的運行環境，但是這會導致每個模型都需要一個獨立的Docker容器包，造成大量硬件資源的浪費。例如，如果存在100個模型，那么服務器上要運行100個獨立的服務，如果這些模型需要用到TensorFlow， Pandas等常見的第三方庫，那么每個環境都可能需要占用超過1G的硬盤空間。其中，TensorFlow是一個基于數據流編程的符號數學系統，被廣泛應用于各類機器學習算法的編程實現，Pandas是python的一個數據分析包，為了解決數據分析任務而創建。

與此同時，依賴庫的升級也會變得困難。例如，如果發現有個依賴庫存在bug，需要升級修復，那么需要對所有模型的依賴庫進行替換和升級。

因此，如何提供一種多模型的管理方法、系統、介質及服務器，以解決現有技術無法簡化依賴庫的升級過程并通過優化運行環境數量進行硬件資源的有效利用等缺陷，成為本領域技術人員亟待解決的技術問題。

發明內容

鑒于以上所述現有技術的缺點，本發明的目的在于提供一種多模型的管理方法、系統、介質及服務器，用于解決現有技術無法簡化依賴庫的升級過程并通過優化運行環境數量進行硬件資源的有效利用的問題。

為實現上述目的及其他相關目的，本發明一方面提供一種多模型的管理方法，所述多模型的管理方法包括：根據模型的依賴庫的依賴關系確定所述模型適用的運行環境；比較所述模型的依賴庫與所述運行環境的依賴庫之間版本信息的差異；判斷差異的程度，并根據所述差異的程度對所述運行環境進行更新。

于本發明的一實施例中，根據模型的依賴庫的依賴關系確定所述模型適用的運行環境的步驟包括：遍歷所有的運行環境的依賴關系，在所有的運行環境中查找與所述模型匹配的運行環境。

于本發明的一實施例中，判斷差異的程度，并根據所述差異的程度對所述運行環境進行更新的步驟包括：根據是否需要向后兼容的升級，將所述差異的程度分為次版本號升級和主版本號升級；若為次版本號升級，則對所述運行環境進行升級；若為主版本號升級，則在所述運行環境的基礎上創建新的運行環境。

于本發明的一實施例中，若為次版本號升級，則對所述運行環境進行升級的步驟包括：逐一確定所述模型依賴的多個依賴庫的版本；在所述運行環境中確定待升級的依賴庫和/或待補充的依賴庫；將所述運行環境中待升級的依賴庫替換為所述模型依賴的依賴庫和/或在所述運行環境中補入待補充的依賴庫。

于本發明的一實施例中，若為主版本號升級，則在所述運行環境的基礎上創建新的運行環境的步驟包括：逐一確定所述模型依賴的多個依賴庫的版本；按照所述模型的依賴庫版本與依賴關系，創建新的運行環境。

于本發明的一實施例中，根據模型的依賴庫的依賴關系確定所述模型適用的運行環境的步驟之前，所述多模型的管理方法還包括：在所述模型的訓練過程中，記錄所述模型需要調用的各個依賴庫之間的依賴關系。