[發(fā)明專利]一種支持多類集群后端的深度學(xué)習(xí)調(diào)度系統(tǒng)及調(diào)度方法

在審

• 申請(qǐng)?zhí)枺?/td>: 202110360064.2
• 申請(qǐng)日: 2021-04-02
• 公開(kāi)（公告）號(hào): CN113065848A
• 公開(kāi)（公告）日: 2021-07-02
• 發(fā)明（設(shè)計(jì)）人: 黃進(jìn)軍;謝冬鳴;林健
• 申請(qǐng)（專利權(quán)）人: 東云睿連（武漢）計(jì)算技術(shù)有限公司
• 主分類號(hào): G06Q10/10
• 分類號(hào): G06Q10/10;G06F9/50;G06N3/04
• 代理公司: 武漢智正誠(chéng)專利代理事務(wù)所(普通合伙) 42278
• 代理人: 熊遠(yuǎn)

1.一種支持多類集群后端的深度學(xué)習(xí)調(diào)度系統(tǒng)，其特征在于，所述系統(tǒng)包括作業(yè)管理組件、集群管理組件和至少一個(gè)后端集群；

所述作業(yè)管理組件，用于接收終端用戶通過(guò)預(yù)設(shè)接口提交的符合統(tǒng)一抽象數(shù)據(jù)格式的深度學(xué)習(xí)作業(yè)請(qǐng)求；按照深度學(xué)習(xí)作業(yè)的統(tǒng)一抽象數(shù)據(jù)格式進(jìn)行作業(yè)信息解析；

所述作業(yè)管理組件，還用于根據(jù)解析出的深度學(xué)習(xí)作業(yè)信息，從所述集群管理組件中獲取與所述深度學(xué)習(xí)作業(yè)信息的運(yùn)行條件相匹配的目標(biāo)后端集群；

所述作業(yè)管理組件，還用于根據(jù)匹配到的目標(biāo)后端集群的作業(yè)集群信息對(duì)統(tǒng)一的作業(yè)格式數(shù)據(jù)進(jìn)行轉(zhuǎn)換，轉(zhuǎn)換為目標(biāo)作業(yè)格式，所述目標(biāo)作業(yè)格式為符合匹配到的所述目標(biāo)后端集群的作業(yè)集群信息可接收的數(shù)據(jù)格式；

所述作業(yè)管理組件，還用于調(diào)用所述目標(biāo)后端集群的對(duì)應(yīng)驅(qū)動(dòng)側(cè)程序?qū)⑺瞿繕?biāo)作業(yè)格式提交至所述目標(biāo)后端集群，以從所述目標(biāo)后端集群中獲取目標(biāo)作業(yè)響應(yīng)結(jié)果；

所述作業(yè)管理組件，還用于將所述目標(biāo)作業(yè)響應(yīng)結(jié)果轉(zhuǎn)換至統(tǒng)一抽象數(shù)據(jù)格式；

所述作業(yè)管理組件，還用于將所述統(tǒng)一抽象數(shù)據(jù)格式返回至所述終端用戶。

2.如權(quán)利要求1所述的調(diào)度系統(tǒng)，其特征在于，所述后端集群的類型包括高性能集群、容器化集群和大數(shù)據(jù)集群中的至少一種。

3.如權(quán)利要求2所述的調(diào)度系統(tǒng)，其特征在于，所述高性能集群為Slurm集群；所述容器化集群為Kubernetes集群；其中，所述Kubernetes集群使用REST API接口與后端集群進(jìn)行交互；所述Slurm集群使用Slurm提供的命令行工具與后端集群進(jìn)行交互。

4.如權(quán)利要求1所述的調(diào)度系統(tǒng)，其特征在于

所述作業(yè)管理組件用于以統(tǒng)一的抽象數(shù)據(jù)格式提供了提交深度學(xué)習(xí)作業(yè)的REST API；

所述作業(yè)管理組件用于以統(tǒng)一的抽象數(shù)據(jù)格式提供了獲取深度學(xué)習(xí)作業(yè)的狀態(tài)的REST API；

所述作業(yè)管理組件用于以統(tǒng)一的抽象數(shù)據(jù)格式提供了停止深度學(xué)習(xí)作業(yè)的REST API；

所述作業(yè)管理組件還用于內(nèi)部處理外部統(tǒng)一抽象作業(yè)格式到集群側(cè)驅(qū)動(dòng)的具體格式轉(zhuǎn)換；

所述作業(yè)管理組件還用于將統(tǒng)一作業(yè)請(qǐng)求發(fā)送至后端作業(yè)集群。

5.如權(quán)利要求1-4任一項(xiàng)所述的調(diào)度系統(tǒng)，其特征在于，

所述集群管理組件，用于添加后端作業(yè)集群；

所述集群管理組件，還用于查詢后端作業(yè)集群的元數(shù)據(jù)信息。

6.如權(quán)利要求5所述的調(diào)度系統(tǒng)，其特征在于，所述集群管理組件用于同時(shí)接入一個(gè)或多個(gè)后端集群，所述后端集群的種類與組件提供的適配支持相關(guān)。

所述集群管理組件，還用于提供對(duì)多類后端集群的統(tǒng)一抽象描述，描述內(nèi)容至少包括：集群名稱、集群類型、集群接入地址、和集群認(rèn)證信息；

所述集群管理組件，還用于提供查詢所有后端集群的信息的方法；

所述集群管理組件，還用于提供監(jiān)聽(tīng)后端集群的狀態(tài)和取消后端集群監(jiān)聽(tīng)的方法，其中，所述集群管理組件通過(guò)監(jiān)聽(tīng)集群來(lái)獲取所述深度學(xué)習(xí)作業(yè)的最新?tīng)顟B(tài)信息和相關(guān)運(yùn)行時(shí)信息；

所述集群管理組件，還用于提供供客戶端進(jìn)行集群管理和查詢集群信息的API接口。

7.如權(quán)利要求5所述的調(diào)度系統(tǒng)，其特征在于，所述集群管理組件用于為多類集群提供統(tǒng)一的作業(yè)創(chuàng)建、停止、及刪除操作入口；

所述集群管理組件還用于對(duì)統(tǒng)一抽象的作業(yè)數(shù)據(jù)接口的編程實(shí)現(xiàn)；

所述集群管理組件還用于對(duì)統(tǒng)一抽象作業(yè)的生命周期管理的編程實(shí)現(xiàn)；

所述集群管理組件還用于提供了對(duì)終端用戶統(tǒng)一的訪問(wèn)接口；

所述集群管理組件還用于支持多種運(yùn)行模式的深度學(xué)習(xí)作業(yè)的調(diào)度，其運(yùn)行模式包括但不限于：?jiǎn)芜M(jìn)程模式、多進(jìn)程模式、PS-Worker分布式模式、Master-Worker分布式模式、以及MPI分布式模式；

所述集群管理組件還用于為各類型集群環(huán)境分別提供集群側(cè)驅(qū)動(dòng)的適配支持，包括但不限于：提交作業(yè)的支持、停止作業(yè)的支持、以及獲取作業(yè)狀態(tài)的支持；

所述集群管理組件還用于為多類集群提供統(tǒng)一的查詢作業(yè)狀態(tài)、作業(yè)日志、作業(yè)資源使用情況的方法。