[發明專利]一種基于K8s的多租戶深度學習模型研發系統及方法

有效

• 申請號: 202210291793.1
• 申請日: 2022-03-24
• 公開（公告）號: CN114385126B
• 公開（公告）日: 2022-06-21
• 發明（設計）人: 王英龍;楊美紅;王春曉;張儉;吳曉明;趙志剛;郭瑩;李傳濤
• 申請（專利權）人: 山東省計算中心（國家超級計算濟南中心）
• 主分類號: G06F8/20
• 分類號: G06F8/20;G06F9/50;G06F16/28;G06F16/25
• 代理公司: 濟南圣達知識產權代理有限公司 37221
• 代理人: 閆偉姣

1.一種基于K8s的多租戶深度學習模型研發系統，其特征在于，包括：資源層、業務層以及應用層；

所述業務層包括微服務總線、消息路由、微服務控制器以及資源服務組件；

所述微服務總線用于通過消息路由將應用層的命令信息發送至微服務控制器，所述微服務控制器根據消息路由發送的命令信息進行數據庫服務組件和資源服務組件的調度；

所述資源層包括NFS存儲服務器、K8s集群以及Mysql數據庫服務器；

所述數據庫服務組件和Mysql數據庫服務器連接，所述數據庫服務組件用于對Mysql數據庫服務器的中存儲的數據進行增刪改查操作；

所述資源服務組件包括多個微服務模塊，各個微服務模塊分別和K8s集群中各個用戶自定義資源交互，用于K8s大規模容器集群深度學習模型的計算資源和存儲資源的調度；

所述微服務總線還用于根據應用層的命令信息提供對應的服務，具體包括：

所述微服務總線接收應用層的模型訓練表單，適配來自多個應用系統的表單信息，根據表單參數信息進行消息分類，根據消息分類結果提供對應的服務，具體包括：

若消息分類結果為第一類，將模型訓練的表單基本信息標準化為模板類，包括用戶ID、模型訓練名稱、鏡像配置信息、環境配置信息以及模型訓練時間，提交到數據庫服務組件，在數據庫中保存用戶本次深度學習模型訓練模板；

若消息分類結果為第二類，將模型訓練的表單容器配置信息標準化為yaml格式，包括鏡像配置信息和環境配置信息，提交到資源服務組件，調用kubernetes的Job控制器，運行模型訓練任務。

2.根據權利要求1所述的一種基于K8s的多租戶深度學習模型研發系統，其特征在于，所述應用層用于為AI模型研發人員使用，包括租戶模塊和管理員模塊，所述租戶模塊用于為租戶提供資源監控、項目管理、數據管理以及模型全流程研發工作；所述管理員模塊用于為管理員對用戶、項目、數據、模型以及K8s集群資源進行監管。

3.根據權利要求1所述的一種基于K8s的多租戶深度學習模型研發系統，其特征在于，所述各個微服務模塊分別和K8s集群中各個用戶自定義資源交互，包括：基于K8sNamesapce的軟隔離，為每個注冊用戶系統為每個注冊用戶分配Namespace和初始化數據存儲空間，并配置資源規模和安全策略。

4.根據權利要求3所述的一種基于K8s的多租戶深度學習模型研發系統，其特征在于，所述為每個注冊用戶系統為每個注冊用戶分配Namespace和初始化數據存儲空間，并配置資源規模和安全策略包括：

微服務總線收到用戶注冊信息后，用于將用戶注冊信息進行分類標準化后通過消息路由分發至微服務控制器，所述微服務控制器用于將任務提交至對應的服務模塊，所述服務模塊包括Namespace服務模塊以及Persistent Volume Claim模塊;

所述Namespace服務模塊用于將命令提交至于K8s中創建Namesapce用于配置資源規模和安全策略；

所述Persistent Volume Claim模塊用于將命令提交至K8s中創建Namesapce下的PVC和PV,為每個注冊用戶分配Namespace和初始化數據存儲空間。

5.根據權利要求1所述的一種基于K8s的多租戶深度學習模型研發系統，其特征在于，所述資源服務組件包括多個微服務模塊，具體劃分為Cluster、Namespace、PersistentVolumeClaim、PersistentVolume、Deployment、Job、StatefulSet微服務模塊。