[發明專利]機器學習平臺的GPU資源的管理方法及裝置

在審

• 申請號: 202010533979.4
• 申請日: 2020-06-12
• 公開（公告）號: CN111736992A
• 公開（公告）日: 2020-10-02
• 發明（設計）人: 丁平;楊春明;郭鑄;王欣;梁磊;許超;李小平;張海鵬;畢斕馨;陳園園;谷方方
• 申請（專利權）人: 中國銀行股份有限公司
• 主分類號: G06F9/50
• 分類號: G06F9/50
• 代理公司: 北京三友知識產權代理有限公司 11127
• 代理人: 王天堯;湯在彥

本發明提供了一種機器學習平臺的GPU資源的管理方法及裝置，該方法包括：獲取機器學習平臺中運行的滿足篩選要求的應用程序對應的用戶；對每一用戶，查詢機器學習平臺中該用戶對應的容器中GPU資源的使用情況；在確定該用戶對應的容器中GPU資源未被使用時，暫停該用戶對應的容器中的GPU資源。本發明可以對機器學習平臺的GPU資源進行管理，避免閑置的GPU資源浪費。

技術領域

本發明涉及計算機技術領域，尤其涉及一種機器學習平臺的GPU資源的管理方法及裝置。

背景技術

智能鈦機器學習平臺(Ti-One)作為一種機器學習平臺，是為AI工程師打造的一站式機器學習服務平臺，為用戶提供從數據預處理、模型構建、模型訓練、模型評估到模型服務的全流程開發及部署支持。Ti-One內置豐富的算法組件，支持多種算法框架，滿足多種AI應用場景的需求。自動化建模(AutoML)的支持與拖拽式任務流設計讓AI初學者也能輕松上手。

在騰訊TI-One平臺中，用戶申請Notebook(容器)開展機器學習模型訓練。在實際的應用過程中，出現用戶申請一個notebook后，對于申請的1個GPU資源采取獨占的策略。即申請者在不使用GPU資源的情況下，只要用戶啟動Notebook，GPU資源會一直被獨占，而不會共享給其他人進行使用，使得GPU資源無法充分發揮，閑置的GPU資源浪費大量的硬件計算資源；另外，在搭建GPU計算集群的過程中，被獨占的閑置GPU資源占用GPU服務器，導致后續申請用戶無法正常申請GPU計算資源。

發明內容

本發明實施例提出一種機器學習平臺的GPU資源的管理方法，用以對機器學習平臺的GPU資源進行管理，避免閑置的GPU資源浪費，該方法包括：

獲取機器學習平臺中運行的滿足篩選要求的應用程序對應的用戶；

對每一用戶，查詢機器學習平臺中該用戶對應的容器中GPU資源的使用情況；

在確定該用戶對應的容器中GPU資源未被使用時，暫停該用戶對應的容器中的GPU資源。

本發明實施例提出一種機器學習平臺的GPU資源的管理裝置，用以對機器學習平臺的GPU資源進行管理，避免閑置的GPU資源浪費，該裝置包括：

用戶獲取模塊，用于獲取機器學習平臺中運行的滿足篩選要求的應用程序對應的用戶；

查詢模塊，用于對每一用戶，查詢機器學習平臺中該用戶對應的容器中GPU資源的使用情況；

處理模塊，用于在確定該用戶對應的容器中GPU資源未被使用時，暫停該用戶對應的容器中的GPU資源。

本發明實施例還提出了一種計算機設備，包括存儲器、處理器及存儲在存儲器上并可在處理器上運行的計算機程序，所述處理器執行所述計算機程序時實現上述機器學習平臺的GPU資源的管理方法。

本發明實施例還提出了一種計算機可讀存儲介質，所述計算機可讀存儲介質存儲有執行上述機器學習平臺的GPU資源的管理方法的計算機程序。

在本發明實施例中，獲取機器學習平臺中運行的滿足篩選要求的應用程序對應的用戶；對每一用戶，查詢機器學習平臺中該用戶對應的容器中GPU資源的使用情況；在確定該用戶對應的容器中GPU資源未被使用時，暫停該用戶對應的容器中的GPU資源。在上述過程中，通過查詢機器學習平臺中該用戶對應的容器中GPU資源的使用情況來獲得未被使用的GPU資源，并暫停這些未被使用的GPU資源，從而有效避免了GPU資源的浪費。

附圖說明

為了更清楚地說明本發明實施例或現有技術中的技術方案，下面將對實施例或現有技術描述中所需要使用的附圖作簡單地介紹，顯而易見地，下面描述中的附圖僅僅是本發明的一些實施例，對于本領域普通技術人員來講，在不付出創造性勞動的前提下，還可以根據這些附圖獲得其他的附圖。在附圖中：