[發明專利]一種支持多類集群后端的深度學習調度系統及調度方法

在審

• 申請號: 202110360064.2
• 申請日: 2021-04-02
• 公開（公告）號: CN113065848A
• 公開（公告）日: 2021-07-02
• 發明（設計）人: 黃進軍;謝冬鳴;林健
• 申請（專利權）人: 東云睿連（武漢）計算技術有限公司
• 主分類號: G06Q10/10
• 分類號: G06Q10/10;G06F9/50;G06N3/04
• 代理公司: 武漢智正誠專利代理事務所(普通合伙) 42278
• 代理人: 熊遠

本申請提供一種支持多類集群后端的深度學習調度系統及調度方法，所述系統包括作業管理組件、集群管理組件和至少一個后端集群；每個后端集群對應有一個作業調度組件和多個計算節點，其中集群管理組件負責多類集群后端的接入，作業管理組件負責根據用戶需求，將深度學習作業分配到合適的集群，然后作業調度組件將作業分派到計算節點執行，同時作業管理組件會監聽和記錄作業的執行情況和資源使用情況，提供用戶后續查詢分析。本發明可以為企業平臺的架構演進和轉型提供一個平滑過渡方案，也可以充分利用各種類型集群的計算資源，提高分布式深度學習的效率。

技術領域

本申請涉及深度學習技術領域，尤其涉及一種支持多類集群后端的深度學習調度系統及調度方法。

背景技術

21世紀以來，人工智能和云計算技術取得了蓬勃發展。深度學習是人工智能研究的基石，它是通過建立可以模擬人腦進行分析學習的神經網絡，模仿人腦機制來解釋圖像、聲音和文本等數據，主要分為兩個層面的業務，一個層面是面向人工智能開發者，為他們提供算法開發、模型訓練、訓練可視化、模型驗證、服務發布、數據推理所需的硬件、軟件、算法、算力等基礎設施服務；另一個層面是面向大眾消費者或特定行業技術人員等最終用戶，主要為他們提供以數據推理為核心的應用層服務。深度學習業務根據運行模式可以分為微服務模式和批處理作業模式，微服務模式天然是支持服務化的；批處理作業根據不同的場景，有很多不同的服務化模式，下表給出了深度學習批處理作業的常見服務化模式所使用的調度框架及其主要適用場景。

深度學習批處理作業的常見服務化模式

·大數據調度框架：其特點在于生態成熟，與大數據組件的交互性好，易于構建以數據為中心的工作流；可伸縮性和容錯性設計較為完善，適合于在已有的大數據集群上部署。

·高性能調度框架：它們與高性能計算、通信及存儲組件的交互性好，貼合深度學習訓練對大規模矩陣運算及分布式通信的需求，特別適合基于MPI優化的深度學習引擎；其穩定性和可擴展性在大規模超算環境下得以驗證，適合在已有的超算基礎設施上部署。

·容器化調度框架：這類框架專門針對云服務的需求和特點設計，與云服務基礎設施的交互性好，為業務上云帶來很大便利；資源彈性與容錯性是其主要優勢，適合在已有的云計算環境中部署。

傳統的調度框架針對各自的領域和運行環境的特征而設計，雖然能處理各自的業務，但其運行原理和使用方式差別非常大，不利于環境的遷移、資源的整合、應用領域的擴展。如何充分利用多類集群(容器化、高性能與大數據集群)各自特有的能力，整合它們各自的優勢，從而拓展深度學習平臺的應用領域，提高集群資源的利用效率，成為迫切需要解決的問題。

發明內容

針對現有技術中存在的缺陷，我們提出一種支持多類集群后端的深度學習調度系統和調度方法，它可以為企業平臺的架構演進和轉型提供一個平滑過渡方案，也可以充分利用各種類型集群的計算資源，提高分布式深度學習的效率。

所述系統包括作業管理組件、集群管理組件和至少一個后端集群；

所述作業管理組件，用于接收終端用戶通過預設接口提交的符合統一抽象數據格式的深度學習作業請求；按照深度學習作業的統一抽象數據格式進行作業信息解析；

所述作業管理組件，還用于根據解析出的深度學習作業信息，從所述集群管理組件中獲取與所述深度學習作業信息的運行條件相匹配的目標后端集群；

所述作業管理組件，還用于根據匹配到的目標后端集群的作業集群信息對統一的作業格式數據進行轉換，轉換為目標作業格式，所述目標作業格式為符合匹配到的所述目標后端集群的作業集群信息可接收的數據格式；

所述作業管理組件，還用于調用所述目標后端集群的對應驅動側程序將所述目標作業格式提交至所述目標后端集群，以從所述目標后端集群中獲取目標作業響應結果；