[發明專利]一種面向共享式GPU集群下的容器調度方法及裝置

在審

• 申請號: 202210535352.1
• 申請日: 2022-05-17
• 公開（公告）號: CN114968566A
• 公開（公告）日: 2022-08-30
• 發明（設計）人: 亓晉;陳孟璽;孫雁飛;許斌
• 申請（專利權）人: 南京郵電大學
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06F9/48;G06F9/455
• 代理公司: 南京縱橫知識產權代理有限公司 32224
• 代理人: 母秋松

1.一種面向共享式GPU集群下的容器調度方法，其特征在于：包括如下步驟：

獲取Pod創建請求，根據Pod創建請求中Pod創建信息對Pod進行校驗獲得Pod標記，并根據Pod創建信息獲取Pod總的所需資源信息；

根據Pod創建信息中Pod業務優先級標簽和Pod總的所需資源信息對Pod進行排序，獲得調度隊列隊頭的待調度Pod；

根據待調度Pod的Pod創建信息中Pod所需的CPU標簽、內存標簽與GPU標簽，Pod標記和集群節點狀態信息，對節點進行過濾，獲得Pod可調度節點；

根據Pod可調度節點的數量和待調度Pod的Pod標記，計算Pod對應可調度節點的得分，根據得分待調度Pod匹配最優的Pod可調度節點。

2.根據權利要求1所述的一種面向共享式GPU集群下的容器調度方法，其特征在于：所述獲取Pod創建請求，根據Pod創建請求中Pod創建信息對Pod進行校驗獲得Pod標記，并根據Pod創建信息獲取Pod總的所需資源信息，包括：

獲取Pod創建請求中Pod創建信息的GPU標簽，若Pod不包含GPU標簽，則Pod標記為非需求GPU資源Pod；若Pod包含GPU標簽，則Pod標記為需要GPU資源Pod；

根據Pod創建信息的各個容器運行所需的資源信息，對所有容器中同類資源進行累加，得出Pod總的所需資源信息。

3.根據權利要求2所述的一種面向共享式GPU集群下的容器調度方法，其特征在于：所述Pod總的所需資源信息包括：GUP資源申請量、CPU資源申請量、內存資源申請量、GPU顯存申請量。

4.根據權利要求1所述的一種面向共享式GPU集群下的容器調度方法，其特征在于：所述根據Pod創建信息中Pod業務優先級標簽和Pod總的所需資源信息對Pod進行排序，獲得調度隊列隊頭的待調度Pod，包括：

根據Pod業務優先級標簽數值對Pod進行從高到底排序；

如果n個待調度Pod中存在m個Pod之間Pod業務優先級標簽數值差小于預設閾值，mn，對m個Pod篩選GPU資源申請量，將GPU資源申請量少的Pod優先排序；

如果GPU資源申請量相同時，篩選CPU資源申請量，將CPU資源申請量少的Pod優先排序；

如果CPU資源申請量相同時，篩選內存資源申請量，將內存資源申請量少的Pod優先排序；

如果GPU、CPU、內存資源申請量都相同，不變動排序順序；

排序最高的Pod為調度隊列隊頭的待調度Pod。

5.根據權利要求1所述的一種面向共享式GPU集群下的容器調度方法，其特征在于：所述根據待調度Pod的Pod創建信息中Pod所需的CPU標簽、內存標簽與GPU標簽，Pod標記和集群節點狀態信息，對節點進行過濾，獲得Pod可調度節點，包括：

獲取待調度Pod的Pod所需的CPU標簽、內存標簽與GPU標簽；

獲取當前集群下所有節點狀態，并獲取空閑節點資源信息，空閑節點資源信息包括：節點所持有的CPU時鐘頻率、CPU使用率、可用內存、GPU核心數、GPU時鐘頻率、GPU使用率；

遍歷集群中的所有空閑節點，當節點所持有的CPU時鐘頻率大于待調度Pod的CPU時鐘頻率標簽值時，則將該節點標記為可調度節點，節點可調度標簽值標記為1，否則標記為0；

遍歷所有可調度節點標簽值為1的節點，當節點所持有的可用內存值大于待調度Pod的內存標簽值，則持續將該節點可調度標簽值標記為1，否則將其標記為0；

若待調度Pod為非需求GPU資源Pod，則將所有可調度節點標簽值為1的節點作為Pod可調度節點；

若待調度Pod為需求GPU資源Pod，則遍歷所有可調度節點標簽值為1的節點，當節點所持有的GPU核心數大于GPU數量標簽值，且節點GPU可用顯存總值大于GPU顯存標簽值時，將節點作為Pod可調度節點。

6.根據權利要求5所述的一種面向共享式GPU集群下的容器調度方法，其特征在于：還包括：

檢查所有Pod可調度節點的請求卷和節點上其他Pod使用的卷是否沖突，如果存在沖突，則過濾該Pod可調度節點。