[發明專利]基于NUMA虛擬化環境下資源全局親和度網絡優化方法和系統

有效

• 申請號: 201711376179.0
• 申請日: 2017-12-19
• 公開（公告）號: CN107967180B
• 公開（公告）日: 2019-09-10
• 發明（設計）人: 管海兵;錢建民;馬汝輝;李健
• 申請（專利權）人: 上海交通大學
• 主分類號: G06F9/50
• 分類號: G06F9/50;G06F9/455
• 代理公司: 上海旭誠知識產權代理有限公司 31220
• 代理人: 鄭立

技術領域

本發明涉及計算機系統架構、虛擬機資源調度、多核和虛擬機網絡性能優化，尤其涉及一種在多核環境下，高效管理虛擬機資源調度來提升虛擬機網絡性能的優化方法與系統。

背景技術

虛擬化是云計算中的關鍵技術。虛擬化技術可以允許多個操作系統運行在一個物理服務器上，將物理機的硬件資源(CPU，內存，I/O設備等等)抽象成虛擬化的資源(虛擬CPU，內存地址映射，虛擬網卡等等)，提供給客戶使用。虛擬化技術的使用，極大的減少了小型企業對服務器購買的投入，同時也極大的提高了空閑主機的使用效率，所以虛擬化技術廣泛的存在于當今大規模云平臺中，比較有代表性的實例有亞馬遜的EC2(Amazon Elastic Compute Cloud)和阿里巴巴的阿里云。

同時，當今的云服務器基本上都配備著多個計算核心來保證高性能計算，這些計算核心被組織成非一致性內存訪問(Non-Uniform Memory Access,NUMA)架構(如圖1所示)，來提升內存訪問的帶寬。然而，NUMA架構同時也帶來了另外一個明顯的缺點：本地內存訪問和遠程內存訪問之間存在著巨大的性能差異，如果系統級的應用不感知NUMA數據訪問差異就會帶來巨大的帶寬性能下降，從而影響應用的高效運行。更重要的是這些云服務器也配備著高速的I/O設備(網卡，GPU，SSD(固態硬盤))來支持點對點的數據傳輸服務。和內存一樣，這些I/O設備通過在CPU結點附近的PCIe插槽(Peripheral Component Interconnection高速擴展插槽)鏈接到計算核心。因此，I/O設備訪問計算核心的時候同時也存在著不一致性的特點(I/O遠程和I/O本地訪問)。現在的一般應用基本都部署在云端，呈現出網絡化，分布式的特性，所以高性能的可靠的網絡傳輸對這些應用的有效運行起著關鍵性的作用，非一致性的I/O訪問對性能影響更大。

虛擬化層同時也給基于NUMA的性能優化帶來了新的挑戰。虛擬化技術中一個關鍵組件就是虛擬機監視器(Virtual Machine Management,VMM)。虛擬機監視器負責將主機硬件資源抽象給虛擬機使用，同時還負責虛擬機的管理和虛擬機之間的通信等等。傳統的硬件資源包括CPU資源，內存資源和I/O資源等，在非一致性內存訪問(NUMA)的架構下，虛擬化技術主要關注的是提升這些硬件資源虛擬化過后的性能。然而隨著當今高性能網絡技術和CPU多核技術的發展，硬件虛擬化的性能已經不是瓶頸，反而這些高性能硬件之間的高效的協同處理成為了瓶頸，特別是在多核環境下，怎樣高效的協同調度這些虛擬資源是一件非常具有挑戰性的事情。具體的挑戰包括了以下三點：

1.首先，當今基于NUMA架構的資源調度器，包括一些商業產品，他們只單一的優化兩個資源間的數據訪問親和度。例如，優化虛擬CPU和內存之間的數據訪問親和度，或者內存和網卡之間的親和度來提升系統帶寬吞吐量性能。然而這些調度機制都沒有考慮虛擬機多個資源之間的數據訪問路徑(如圖2所示)對整個系統性能的影響，導致系統的性能優化達不到最優。隨著高性能物理機的核數的不斷增加，放置物理核的節點也不斷增加，多物理核怎樣高效的訪問I/O資源變得越來越重要。

2.現有的基于NUMA架構的虛擬資源調度器也沒有考慮到底層硬件拓撲的特性。這些調度器只把硬件資源抽象成相互獨立的資源池，而沒有考慮到這些硬件資源拓撲信息。例如NUMA節點之間的相互連通性。傳統的親和性建模認為兩個節點的互相訪問帶寬是對稱的，然而隨著多核處理器的不斷發展，不對稱的NUMA節點互聯架構也變得越來越普遍，所以不考慮不對稱的NUMA互聯拓撲信息也會導致性能的優化達不到最優。

3.更重要的是，現在基于NUMA架構的虛擬資源調度模型都假設每一個用戶(虛擬機)訪問每個NUMA結點的可能性是相同的，最終他們的帶寬模型也是建立在這個假設之下。然而，這個均等NUMA結點訪問假設不符合現在不規則的應用訪問模式，所以用這個假設來建模是不準確的。

因此，本發明致力于開發在NUMA架構下，建立基于虛擬化環境下的全局資源的親和度優化建模，從而高效的利用多核資源和高性能輔助加速硬件的性能，有效的降低系統的負載，適應于當今高性能網絡環境下的應用。

發明內容

有鑒于現有技術的上述缺陷，本發明所要解決的技術問題是提供一種在NUMA架構下基于虛擬化環境的高吞吐量低延遲的虛擬資源實時調度策略，從而提高虛擬機里面運行性能。

為實現上述目的，本發明提供了一種基于NUMA虛擬化環境下資源全局親和度的網絡優化方法，所述方法包括以下步驟：

步驟1、監控虛擬機實時訪問行為觸發的硬件事件；