[發明專利]基于Kubernetes智能板卡集群的資源集成監控與調度裝置

在審

• 申請號: 202210015516.8
• 申請日: 2022-01-07
• 公開（公告）號: CN114356714A
• 公開（公告）日: 2022-04-15
• 發明（設計）人: 周學海;郝天成;朱宗衛;王超;李曦
• 申請（專利權）人: 中國科學技術大學
• 主分類號: G06F11/30
• 分類號: G06F11/30;G06F11/34;G06F9/455;G06F9/48
• 代理公司: 蘇州創元專利商標事務所有限公司 32103
• 代理人: 范晴

1.一種基于Kubernetes智能板卡集群的資源集成監控與調度裝置，其特征在于，包括：

自定義調度器、智能板卡集成組件、智能板卡監控組件以及節點優先級隊列；

其中，所述自定義調度器用于根據預設的調度策略、節點優先級隊列的運行結果以及國產智能板卡集成組件的運行結果，對容器進行調度；

所述國產智能板卡集成組件用于向Kubernetes集群集成目標智能板卡，并將集成后的目標智能板卡作為第三方資源接入到Kubernetes集群中；

所述國產智能板卡監控組件用于向分布式監控組件定時上報目標智能板卡的運行參數信息，并根據接口通過多線程的方式采集目標智能板卡的運行參數信息；

所述節點優先級隊列用于動態調整其內部緩存的節點隊列，將運行結果提供給所述自定義調度器，以供自定義調度器通過遍歷的方式對調整后的節點優先級隊列進行節點打分。

2.根據權利要求1所述的裝置，其特征在于，所述國產智能板卡集成組件向Kubernetes集群集成目標智能板卡的步驟包括：

通過擴展資源的方式向Kubernetes集成目標智能板卡對象；

掃描目標目錄下的設備文件，向代理組件更新；

以控制循環方式通過代理組件向Kubernetes應用程序接口服務器匯報目標智能板卡信息，在智能板卡對象信息發生更改時變更對應的節點對象與智能板卡對象綁定關系。

3.根據權利要求1所述的裝置，其特征在于，所述智能板卡監控組件還用于通過Prometheus Exporter機制向分布式監控組件服務器匯報用戶自定義的監控數據。

4.根據權利要求1所述的裝置，其特征在于，所述節點優先級隊列的動態調整過程包括：

節點優先級隊列控制器通過控制循環方式觀測節點對象的相關事件；

根據相關事件的事件類型對本隊列中節點元素進行增刪改查，包含了對節點所綁定的智能板卡對象的資源剩余量的更新；

根據資源剩余量越少優先級越高的原則，動態調整隊列中元素的位置。

5.根據權利要求1所述的裝置，其特征在于，所述自定義調度器包括預選階段的擴展點和優選階段的擴展點；

其中，預選階段的擴展點用于根據預選策略對可運行的節點進行初篩；

優選階段的擴展點用于根據優選算法在預選結果列表中選出最優的節點進行綁定調度。

6.根據權利要求5所述的裝置，其特征在于，所述自定義調度器包括過濾模塊，用于在調度過程中過濾無法運行當前調度的Pod的節點。

7.根據權利要求5所述的裝置，其特征在于，所述自定義調度器包括打分模塊，用于對已通過過濾階段的節點進行打分排名。

8.根據權利要求5所述的裝置，其特征在于，所述自定義調度器包括歸一化模塊，用于在調度程序計算節點的最終排名之前修改節點分數。