[發明專利]一種基于資源共享自適應配置的GPU虛擬化QoS控制系統及方法

在審

• 申請號: 201810454727.5
• 申請日: 2018-05-14
• 公開（公告）號: CN108733490A
• 公開（公告）日: 2018-11-02
• 發明（設計）人: 管海兵;盧秋旻;姚建國
• 申請（專利權）人: 上海交通大學
• 主分類號: G06F9/50
• 分類號: G06F9/50
• 代理公司: 上海漢聲知識產權代理有限公司 31236
• 代理人: 莊文莉

本發明提供了一種基于資源共享自適應配置的GPU虛擬化QoS控制系統及方法。本發明通過監控模塊、控制模塊和調度模塊實現在QoS約束下在所有虛擬化云計算工作負載之間進行GPU資源容量共享和分配。本發明顯著提升基于虛擬化GPU資源的虛擬化云系統平臺中并發運行圖形負載的QoS穩定性，相比其余傳統QoS控制方法，負載幀率穩定程度明顯提升。同時，本發明在維持所有并發工作負載穩定流暢運行的前提下，GPU計算資源占用率明顯下降，使得系統平臺明顯能夠支持更多工作負載維持可接受的服務質量水平。

技術領域

本發明云系統架構的虛擬化技術領域，尤其涉及到一種基于資源共享自適應配置的GPU虛擬化QoS控制系統及方法。

背景技術

目前，基于虛擬化技術的云系統架構已經廣泛應用于商業，科研和教育等各個領域。這種實際應用領域中的廣泛適用性基本建立在云平臺架構的固有特性之上，這些特性包括任務處理方面的高度并發性和資源共享方面的靈活性。很明顯，上述所有特性都基于虛擬化技術中包含的資源調度，共享和隔離功能。但是，目前可以成熟地應用上述這些功能，并且避免性能下降和硬件限制的計算資源種類仍然非常有限，而大量針對特定應用程序或用途的工作負載除了它們之外往往還具有特定類型的額外資源需求。例如，對于涉及圖形計算或大規模浮點數計算的工作負載，需要將GPU資源用于其實現需求，因為GPU可以利用其高并行浮點數計算能力大大加快這些工作負載的計算速度。

然而，如果目標是對虛擬化GPU進行資源共享，那么就會出現這樣的挑戰：如果不修改設備驅動程序，大部分困難都無法解決，但大多數實用的GPU產品不提供開源驅動程序、硬件規格或通信協議，這使得在GPU操作模塊中添加或改變功能實際上是不可能的。而另一個挑戰是如何實現GPU資源共享中的服務質量(QoS)保證。當多個并發工作負載共享計算資源時，通常會出現性能振蕩，并且原生調度策略會導致不同工作負載具有不同的QoS水平，同時產生不必要的高資源占用。因此，本發明需要這樣一種策略，該策略應該能夠根據需求為每個工作負載分配準確的資源量，并且能夠流暢地調度所有資源以達到相同的預定義QoS水平。

目前，已經有一些實用的GPU虛擬化解決方案，可以通過仿真指令但直傳數據訪問來實現具有可接受性能的全虛擬化架構。但是，這樣的架構仍然存在重大問題，尤其是在資源共享和隔離之上。例如，在原生配置中，英特爾GPU虛擬化解決方案采用了一個基于定時器的調度器，負責上下文切換調度。在這種機制中，所有的虛擬GPU上下文都作為一個環形隊列鏈接在一起，并且調度信號每隔一個固定的時間間隔被觸發一次，調用相應功能。在調度過程中，環形隊列中所有掛起的上下文都以循環方式進行遍歷和選擇。也就是說，調度過程總是選擇當前上下文之后的下一個上下文對象。然后，上下文切換信號被觸發，內核驅動程序接收信號將當前上下文切換到選定對象。

在大多數原生調度器的通用設計中，存在的一個問題是：所有虛擬機，無論是繁忙還是空閑，都以相同的機會輪流轉為活動狀態，而沒有穩定的資源分配或隔離。也就是說，靜態配置虛擬機的資源份額或將冗余資源移交給重量級的工作負載是不可能的，更不用說根據不同的資源需求動態調整資源占用以保持穩定的QoS水平。因此，當同時運行多個工作負載時，總是會有輕量級的工作負載浪費資源，而較重量級的工作負載性能不佳。另外，原生系統的另一個問題是無法實現自適應。畢竟，即使調度程序可配置為適應不同的工作負載資源需求，持續監視運行時狀態并不斷手動操作修改配置也是不可能的。因此，這樣的系統無法應對資源需求變化導致的QoS波動。但在當前的系統設計中，對于應對類似問題的自適應功能，并不存在能夠實現其的系統設計。

發明內容

本發明的目的在于針對現有技術中存在的不足和缺陷，本發明提供一種基于資源共享自適應配置的GPU虛擬化QoS控制系統及方法。

本發明是根據以下技術方案實現的：