[發明專利]基于服務組件級的細粒度云資源管控系統和方法

有效

• 申請號: 202010168157.0
• 申請日: 2020-03-11
• 公開（公告）號: CN111625347B
• 公開（公告）日: 2022-06-17
• 發明（設計）人: 趙來平;楊亞南;張凱炫;李克秋
• 申請（專利權）人: 天津大學
• 主分類號: G06F9/50
• 分類號: G06F9/50
• 代理公司: 天津市北洋有限責任專利代理事務所 12201
• 代理人: 劉國威

本發明涉及云計算技術領域，為提高云計算數據中心延遲敏感型服務和盡力批處理服務混合部署時的資源效率問題，從而提高混合部署時的資源利用率，本發明，基于服務組件級的細粒度云資源管控系統和方法，包括請求追蹤器、貢獻分析器、協調控制器，請求追蹤器會解析出服務訪問的路徑，并且得出其在每一個組件上的運行時間；然后，貢獻分析器通過分析得出服務級別協議SLA通過控制不同組件的執行時間的均值和方差來保證采用皮爾森相關系數來衡量組件上的執行時間和總的尾延遲的相關性，基于均值、方差、皮爾森相關系數，得出每個組件對于總的尾延遲的貢獻；最后實現資源分配控制。本發明主要應用于云計算場合。

技術領域

本發明涉及云計算技術領域，特別是數據中心的任務調度與優化領域。

背景技術

云計算實現了租戶之間的資源共享，提高了云服務器的資源利用率，但也給每個租戶的用戶體驗帶來了很多挑戰。將多個應用程序部署到云服務器上，會在部署的工作負載之間產生性能干擾，顯著影響應用程序的服務質量。為了減少共享資源例如中央處理器(Center Process Unit，簡稱CPU)、末級緩存(Last Level Cache，簡稱LLC)、內存帶寬(Memory Bandwidth，簡稱MemBW)競爭導致的性能差異，2015年英特爾推出了資源管理技術(Resource Director Technology，簡稱RDT)，支持一些Xeon至強系列處理器監視和分配多個共享資源¹，但是目前尚不支持對內存帶寬的分配。PARD²支持在硬件層次上通過可編程的按需的架構來區分不同的服務，但使用它需要新的硬件支持。

在現有的云系統中，租戶通常采用資源過度分配的方法來減少干擾。但是，浪費性的過度分配導致低的資源利用率，從而增加了云服務的成本。如何在保證用戶體驗的同時提高云系統的資源利用率成為一個大挑戰。為了解決這一挑戰，最常用的方法之一是根據非競爭應用程序的資源使用特性合并它們。然而，將它們廣泛部署在大型云系統中是不實際的，首先，隨著新的云應用的不斷涌現，當今的云應用非常多，幾乎不可能對所有的云應用進行準確的描述。其次，即使對于相同的應用程序，其資源消耗也可能隨訪問負載(或數據大小、版本升級)而變化。第三，可能合并的數量將隨著工作負載的數量以指數形式進一步增長，很難有效地找到合適的合并。在不描述資源使用模式的情況下，還可以通過監控是否違反服務級別協議SLA(Service Level Agreement，簡稱SLA)的反饋響應來減輕問題，包括系統重新配置以及資源重新分配。然而，為了盡可能避免影響用戶體驗，它們的響應策略通常相當保守。對服務性能的描述表明，保守響應是非常安全的，但是可能會損害資源的利用率，并且仍然有可能通過積極的整合來提高資源的利用率。

¹Ioannis Papadakis,Konstantinos Nikas,Vasileios Karakostas,GeorgiosGoumas,and Nectarios Koziris.Improving qos and utilisation in modern multi-core servers with dynamic cache partitioning.In Proceedings of the JoinedWorkshops COSH 2017and VisorHPC 2017,2017.

²Jiuyue Ma,Xiufeng Sui,Ninghui Sun,Yupeng Li,Zihao Yu,Bowen Huang,Tianni Xu, Zhicheng Yao,Yun Chen,Haibin Wang,Lixin Zhang,and YungangBao.Supporting differentiated services in computers via programmablearchitecture for resourcing-on-demand(pard).SIGARCH Comput.Archit.News,43(1):131–143,March 2015。

發明內容