[發明專利]基于MESOS容器化平臺的GPU資源調度方法及裝置

在審

• 申請號: 201911044273.5
• 申請日: 2019-10-30
• 公開（公告）號: CN110795249A
• 公開（公告）日: 2020-02-14
• 發明（設計）人: 王燁;陳潤聰;朱蓉鳳
• 申請（專利權）人: 亞信科技(中國)有限公司
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06F9/455
• 代理公司: 11227 北京集佳知識產權代理有限公司
• 代理人: 林哲生

本發明提供了一種基于MESOS容器化平臺的GPU資源調度方法及裝置，在圖像化界面上創建目標服務時，通過設置GPU顯存使用率，便于容器化平臺基于目標服務的GPU顯存使用率為服務分配對應的目標主機，并通過運行應用容器引擎，調用目標主機的CUDA驅動程序和GPU驅動程序，利用目標主機的GPU資源實現目標服務在容器中運行，由于目標服務不占用目標主機全部GPU顯存，一個GPU可以分配給多個服務，實現了GPU資源細粒度調度，提高了GPU資源利用率。

技術領域

本發明涉及GPU調度技術領域，更具體的，涉及一種基于MESOS容器化平臺的GPU資源調度方法及裝置。

背景技術

Mesos是Apache下的開源分布式資源管理框架，被廣泛應用于大規模集群中，MESOS通過MESOS容器來使用GPU資源。

目前，對GPU資源的分配策略是在同一時間內一塊GPU只能分配給一個任務，不能將一塊GPU分配給多個任務，無法實現GPU資源細粒度調度。

發明內容

有鑒于此，本發明提供了一種基于MESOS容器化平臺的GPU資源調度方法及裝置，實現GPU資源細粒度調度。

為了實現上述發明目的，本發明提供的具體技術方案如下：

一種基于MESOS容器化平臺的GPU資源調度方法，應用于容器化平臺，包括：

在圖形化界面上創建目標服務，并為所述目標服務設置GPU顯存使用率；

根據所述目標服務的GPU顯存使用率以及集群內GPU資源使用情況，確定所述目標服務運行的目標主機；

運行應用容器引擎，調用所述目標主機的CUDA驅動程序和GPU驅動程序。

可選的，所述根據所述目標服務的GPU顯存使用率以及集群內GPU資源使用情況，確定所述目標服務運行的目標主機，包括：

根據所述目標服務的GPU顯存使用率以及集群內GPU資源使用情況，設置所述目標服務運行的主機范圍；

依據每個MESOS節點上報的每個主機的可用資源，在所述目標服務運行的主機范圍內確定所述目標服務運行的目標主機。

可選的，CUDA驅動程序和GPU驅動程序安裝在所述目標主機上，所述目標服務運行在Docker容器中。

可選的，所述方法還包括：

在主機部署成功后，從MESOS接口獲取相應主機的GPU資源，并將相應主機的GPU資源保存在數據庫中的資源表中。

可選的，所述方法還包括：

每啟動一個容器，在所述資源表中減去相應主機已使用的GPU資源；

每關閉一個容器，在所述資源表中加上相應主機已使用的GPU資源。

一種基于MESOS容器化平臺的GPU資源調度裝置，應用于容器化平臺，包括：

服務創建單元，用于在圖形化界面上創建目標服務，并為所述目標服務設置GPU顯存使用率；

主機確定單元，用于根據所述目標服務的GPU顯存使用率以及集群內GPU資源使用情況，確定所述目標服務運行的目標主機；

主機調用單元，用于運行應用容器引擎，調用所述目標主機的CUDA驅動程序和GPU驅動程序。

可選的，所述主機確定單元，具體用于：

根據所述目標服務的GPU顯存使用率以及集群內GPU資源使用情況，設置所述目標服務運行的主機范圍；