[發明專利]一種基于K8s的多租戶深度學習模型研發系統及方法

有效

• 申請號: 202210291793.1
• 申請日: 2022-03-24
• 公開（公告）號: CN114385126B
• 公開（公告）日: 2022-06-21
• 發明（設計）人: 王英龍;楊美紅;王春曉;張儉;吳曉明;趙志剛;郭瑩;李傳濤
• 申請（專利權）人: 山東省計算中心（國家超級計算濟南中心）
• 主分類號: G06F8/20
• 分類號: G06F8/20;G06F9/50;G06F16/28;G06F16/25
• 代理公司: 濟南圣達知識產權代理有限公司 37221
• 代理人: 閆偉姣

本發明屬于資源調度技術領域，提供了一種基于K8s的多租戶深度學習模型研發系統及方法，基于Docker、K8s等主流技術，針對不同租戶的深度學習模型研發需求，通過微服務總線、微服務控制器和資源服務組件等統一數據、接口、資源標準，建立基于K8s的隔離空間，實現數據存儲、模型設計、模型訓練、模型評估、模型發布的自動化容器集群環境搭建和參數配置，支持資源管理、用戶管理、權限管理、項目管理、數據管理、模型管理等操作，幫助用戶快速高效地進行深度學習模型研發，解決了資源監控、自定義模型構建等方面不完善的問題，極大地提高AI應用開發的效率和資源利用率，滿足多種業務場景的需求。

技術領域

本發明屬于資源調度技術領域，尤其涉及一種基于K8s的多租戶深度學習模型研發系統及方法。

背景技術

本部分的陳述僅僅是提供了與本發明相關的背景技術信息，不必然構成在先技術。

隨著行業大數據的開放，人工智能發展突飛猛進，越來越多的工程師涌入人工智能算法研究中來，但這些工程師將大量的時間用在了搭建研發測試平臺，調試數據加工環境上面，同時由于深度學習訓練的神經網絡模型和數據越來越大，單個設備的GPU和內存已經不能滿足模型訓練的需要，GPU集群服務器、分布式訓練技術等要求更是嚴重制約了人工智能領域的深度發展，給科研工作者們造成了巨大的負擔。

同時，現有的深度學習模型研發系統存在以下技術問題：

（1）傳統的平臺技術架構數據格式不統一、接口標準不統一，系統模塊間耦合度較高，不利于應用、模塊橫向擴展；

（2）目前公開的AI開發平臺大多是通過內置模型提供給無算法基礎的用戶使用，對用戶自定義的模型訓練支持不夠，不能滿足多種業務場景的需求。

發明內容

為了解決上述背景技術中存在的至少一項技術問題，本發明提供一種基于K8s的多租戶深度學習模型研發方法及系統，其具備完整的架構設計，支持多租，通過微服務總線進行信息收發、標準化數據/接口/資源格式、定義模板等，通過消息路由、微服務控制器、數據庫服務組件和資源服務組件調度Mysql數據庫和Kubernetes資源，實現深度學習模型研發的全生命周期管理，并對超大規模容器集群進行監控，能夠極大地提高AI應用開發的效率和資源利用率，滿足多種業務場景的需求。

為了實現上述目的，本發明采用如下技術方案：

本發明的第一個方面提供一種基于K8s的多租戶深度學習模型研發系統，包括：資源層、業務層以及應用層；

所述業務層包括微服務總線、消息路由、微控制服務器以及資源服務組件；

所述微服務總線用于通過消息路由將應用層的命令信息發送至微服務控制器，所述微服務控制器根據消息路由發送的命令信息進行數據庫服務組件和資源服務組件的調度；

所述資源層包括NFS存儲服務器、Kubernetes集群以及Mysql數據庫服務器；

所述數據庫服務組件和Mysql數據庫服務器連接，所述數據庫服務組件用于對Mysql數據庫服務器的中存儲的數據進行增刪改查操作；

所述資源服務組件包括多個微服務模塊，各個微服務模塊分別和K8s集群中各個用戶自定義資源交互，用于K8s大規模容器集群計算資源和存儲資源的調度。

本發明的第二個方面提供一種基于K8s的多租戶深度學習模型研發方法，包括：

獲取多租戶的命令信息；

根據命令信息進行數據庫服務組件和資源服務組件的調度；

所述數據庫服務組件和Mysql數據庫服務器連接，所述數據庫服務組件對Mysql數據庫服務器的中存儲的數據進行增刪改查操作；