[發明專利]一種基于資源共享自適應配置的GPU虛擬化QoS控制系統及方法

在審

• 申請號: 201810454727.5
• 申請日: 2018-05-14
• 公開（公告）號: CN108733490A
• 公開（公告）日: 2018-11-02
• 發明（設計）人: 管海兵;盧秋旻;姚建國
• 申請（專利權）人: 上海交通大學
• 主分類號: G06F9/50
• 分類號: G06F9/50
• 代理公司: 上海漢聲知識產權代理有限公司 31236
• 代理人: 莊文莉

1.一種基于資源共享自適應配置的GPU虛擬化QoS的控制系統，所述控制系統構建在基于Xen平臺的虛擬化云架構之上，其特征在于，包括：監控模塊、控制模塊和調度模塊，三個模塊分別實現并插入到Xen平臺的不同層級和組件中，所述監控模塊收集從客戶虛擬機和物理機內核上開放的接口記錄的運行時數據；所述控制模塊接收匯總數據，并根據運行時狀態計算對資源分配的調整來趨近QoS目標，所述調度模塊獲取控制模塊提交的調整指令，然后在調整后的資源容量限制下，對客戶虛擬機進行上下文切換的調度，在QoS約束下在所有虛擬化云計算工作負載之間進行GPU資源容量共享和分配。

2.根據權利要求1所述的一種基于資源共享自適應配置的GPU虛擬化QoS的控制系統，其特征在于，所述調度模塊包含在內核驅動模塊之中，直接操縱所有的虛擬GPU設備，實現時間槽分配和上下文切換。

3.根據權利要求2所述的一種基于資源共享自適應配置的GPU虛擬化QoS的控制系統，其特征在于，所述內核驅動模塊與用戶空間之間添加一個接口來接收GPU容量配置，通過該接口，內核中的調度進程響應來自控制模塊的對于GPU容量限制進行改變的請求，當接收到請求時，調度過程不需要立即響應配置變化，容量參數將每次在確定的時間間隔后進行更新，來平衡響應速度和額外開銷。

4.根據權利要求1所述的一種基于資源共享自適應配置的GPU虛擬化QoS的控制系統，其特征在于，所述監控模塊負責監視所有正在運行的虛擬機，記錄所有狀態數據并匯總作為控制模塊的數據輸入，所述數據輸入包括工作負載FPS和GPU利用率。

5.根據權利要求1所述的一種基于資源共享自適應配置的GPU虛擬化QoS的控制系統，其特征在于，所述控制模塊包括一個閉環控制結構，所述閉環控制結構建立起從監控模塊中獲得的QoS反饋數據以及向調度模塊提交的資源容量配置調整之間的聯系。

6.一種基于資源共享自適應配置的GPU虛擬化QoS的控制方法，根據權利要求1所述的控制系統實現的，其特征在于，包括如下步驟：

步驟S1：在GPU虛擬化架構的基礎上，動態配置每個虛擬機用的GPU資源容量的調度模塊，然后根對所有虛擬機之間的上下文切換調度進行操作調整；

步驟S2：配置一個閉環控制結構，所述閉環控制結構檢測并確保提供虛擬化GPU資源的云計算平臺上所有工作負載的QoS水平；

步驟S3：控制結構將根據通過監視模塊的監視功能接收到的QoS反饋，從中計算出當前QoS狀態和預先配置的QoS目標差距，并以此為參考嘗試動態調整每個包含工作負載的虛擬機相應的資源容量配置，達到調整QoS的目的。

7.根據權利要求6所述的一種基于資源共享自適應配置的GPU虛擬化QoS的控制系統，其特征在于，所述監控模塊負責監視所有正在運行的虛擬機，記錄所有狀態數據并匯總作為控制模塊的數據輸入，所述數據輸入包括工作負載FPS和GPU利用率。