[發明專利]一種基于微架構感知的虛擬機調度多策略選擇方法

有效

• 申請號: 201410176035.0
• 申請日: 2014-04-28
• 公開（公告）號: CN103955397B
• 公開（公告）日: 2017-01-04
• 發明（設計）人: 王總輝;程雨夏;陳文智;俞新杰;金睿
• 申請（專利權）人: 浙江大學
• 主分類號: G06F9/455
• 分類號: G06F9/455;G06F9/50
• 代理公司: 杭州天勤知識產權代理有限公司33224
• 代理人: 鄭紅莉

技術領域

本發明涉及虛擬計算機技術領域，尤其涉及一種基于微架構感知的虛擬機調度多策略選擇方法。

背景技術

云計算數據中心部署的服務器普遍采用多核處理器、非一致內存訪問(Non-Uniform?Memory?Access，NUMA)架構，每臺服務器上擁有多個NUMA節點。

NUMA多核體系結構中，存在多種硬件資源的共享利用以及內存訪問的非一致性等特點。

每個NUMA節點擁有多個處理核心(core或CPU，以下稱CPU)，多個CPU共享最后一級緩存(L3共享緩存)，內存控制器等微架構。NUMA架構的引入，使得系統中硬件資源的拓撲結構相對一致內存訪問(Uniform?Memory?Access，UMA)架構更加復雜，導致不同NUMA節點上的CPU訪問內存的延遲不一致，CPU訪問非本地NUMA節點內存的延遲大于訪問本地NUMA節點的內存。同時，不同的CPU分別共享各自NUMA節點上的最后一級緩存，導致任務運行在不同CPU上時，任務運行的性能表現會因共享緩存的使用情況、內存帶寬的使用情況、以及內存訪問遠近等的不同而出現較大的性能差異。

例如在Intel的NUMA多核結構中，通過高速互聯技術(QuickPath?Interconnect，QPI)將系統中的各個NUMA節點連接成一個統一地址空間的計算機系統。每個NUMA節點上擁有自己的L3共享緩存、內存控制器、以及相應的內存單元。如圖1所示的結構中，存在的共享微架構主要包括L3共享緩存、QPI互連設備、內存控制器。這些微架構是否能夠被系統合理高效地使用，對于系統整體性能有很大的影響。

目前，在多核NUMA架構中，主要存在以下幾種微架構資源使用問題：

(1)L3共享緩存的數據共享問題；

(2)L3共享緩存的資源競爭問題；

(3)互連設備的帶寬競爭問題；

(4)內存控制器及內存帶寬的競爭問題；

(5)內存的非一致訪問問題；

其中內存的非一致訪問問題是除了以上微架構的資源使用問題之外，還存在NUMA架構最普遍的問題。

針對以上問題，現有的虛擬機傳統調度算法主要根據系統中CPU的負載情況調度相應的虛擬機，具體的解決方案主要可分為如下三種：

(1)內存感知的調度及內存分配管理等方法；

(2)共享緩存資源競爭消除調度方法；

(3)NUMA結構邏輯劃分的方法。

以上的調度算法沒有考慮共享緩存、核間互連網絡(interconnect)和內存控制器等共享物理資源微架構(micro-architecture)的在線運行使用情況。而在同一個NUMA多核系統中，以上幾個問題對總體性能互相影響，其相互之間的作用關系錯綜復雜。依靠單一的解決方案不能完全解決所有問題。

因此，在現有的虛擬化系統中，還沒有完全有效利用NUMA多核硬件結構所能提供的性能優勢，導致虛擬化系統的硬件資源、能耗資源的浪費。

發明內容

針對現有技術的不足，本發明提供了一種基于微架構感知的虛擬機調度多策略選擇方法。

一種基于微架構感知的虛擬機調度多策略選擇方法，所述的虛擬機調度多策略選擇方法應用于NUMA多核體系結構，包括：

(1)采集所述的NUMA多核體系結構中各個虛擬機性能特征信息；

所述的性能特征信息包括虛擬機緩存行共享狀態比例、虛擬機內存帶寬占用率和虛擬機緩存失效率；

(2)根據虛擬機的性能特征信息，按照設定的性能特征優先級從高至低依次為各個虛擬機設定調度算法，并根據調度算法將各個虛擬機劃分至相應的隊列中；

所述的隊列分別為緩存數據共享策略隊列、內存帶寬均衡策略隊列、資源競爭消除策略隊列和默認本地運行策略隊列；

(3)循環進行虛擬機調度，每次循環過程如下：

按照設定的隊列優先級從高至低依次檢測各個隊列中的虛擬機是否發生變化，若發生變化，則調用并執行該隊列對應的調度算法進行虛擬機調度；若不發生變化，則繼續判斷下一個隊列是否變化，直至最后一個隊列：

若最后一個隊列發生變化，則調用并執行相應的調度算法后休眠設定的時間周期后進入下一次循環；

若最后一個隊列不發生變化，則休眠設定的時間周期后進入下一次循環。

本發明中各個隊列設定的調度算法如下：

所述的緩存數據共享策略隊列對應的調度算法為緩存數據共享調度算法；