[發(fā)明專利]一種云平臺(tái)下多租戶的帶寬保障框架和成本優(yōu)化方法

有效

• 申請(qǐng)?zhí)枺?/td>: 201811285579.5
• 申請(qǐng)日: 2018-10-31
• 公開（公告）號(hào): CN109451008B
• 公開（公告）日: 2021-05-28
• 發(fā)明（設(shè)計(jì)）人: 柴云鵬;周芳;孫殿森;王傳雯;鮑寧
• 申請(qǐng)（專利權(quán)）人: 中國人民大學(xué)
• 主分類號(hào): H04L29/08
• 分類號(hào): H04L29/08;H04L12/24
• 代理公司: 北京紀(jì)凱知識(shí)產(chǎn)權(quán)代理有限公司 11245
• 代理人: 徐寧;孫楠

本發(fā)明涉及一種云平臺(tái)下多租戶的帶寬保障框架和成本優(yōu)化方法，其步驟：由預(yù)先設(shè)置的緩存框架結(jié)構(gòu)中的租戶調(diào)度器tenant scheduler根據(jù)用戶歷史訪問特征，決定用戶組合方案；對(duì)讀寫兩種操作分開管理用戶緩存，實(shí)現(xiàn)最優(yōu)緩存空間分配，并基于用戶從底層存儲(chǔ)獲得帶寬與更新緩存的帶寬的等價(jià)關(guān)系控制用戶得到的實(shí)際帶寬，將用戶得到的帶寬上限嚴(yán)格限制在目標(biāo)值以下；將存儲(chǔ)系統(tǒng)的成本分為分布式存儲(chǔ)的成本和SSD緩存的成本，通過調(diào)整用戶緩存大小，使得用戶的緩存成本與存儲(chǔ)層成本總和最低，最小化系統(tǒng)成本。本發(fā)明合理分配用戶緩存空間大小以最大化數(shù)據(jù)訪問局部性能夠帶來的收益，降低系統(tǒng)內(nèi)部成本。

技術(shù)領(lǐng)域

本發(fā)明涉及一種云存儲(chǔ)技術(shù)領(lǐng)域，特別是關(guān)于一種云平臺(tái)下多租戶的帶寬保障框架和成本優(yōu)化方法。

背景技術(shù)

云計(jì)算：云計(jì)算是基于互聯(lián)網(wǎng)的相關(guān)服務(wù)的增加、使用和交付模式。這種模式提供可用的、便捷的、按需的網(wǎng)絡(luò)訪問，進(jìn)入可配置的計(jì)算資源共享池，用戶只需投入少量的管理工作就可以快速的使用這些資源。云計(jì)算的出現(xiàn)改變了人們對(duì)固有服務(wù)器的印象，降低了服務(wù)器的搭建和維護(hù)成本，使得用戶可以按使用量進(jìn)行付費(fèi)。

資源隔離：資源隔離是指對(duì)用戶使用的CPU、內(nèi)存、網(wǎng)絡(luò)、IO帶寬等在內(nèi)的系統(tǒng)資源進(jìn)行統(tǒng)計(jì)、記錄和控制的技術(shù)。這項(xiàng)技術(shù)使得云計(jì)算場景下同一個(gè)物理節(jié)點(diǎn)的多個(gè)用戶不會(huì)互相干擾，避免了一個(gè)用戶過度占用其他用戶資源的情況。同時(shí)也便于服務(wù)提供者根據(jù)用戶對(duì)資源的使用情況進(jìn)行計(jì)費(fèi)。目前使用較為廣泛的資源隔離手段是linux內(nèi)核提供的cgroup技術(shù)，目前流行的Docker、Pouch等容器技術(shù)都是建立在cgroup的資源隔離基礎(chǔ)之上的。

容器：容器與虛擬機(jī)類似，是一個(gè)相對(duì)獨(dú)立的運(yùn)行環(huán)境，對(duì)應(yīng)用程序及其關(guān)聯(lián)性進(jìn)行隔離，從而構(gòu)建起一套能夠隨處運(yùn)行的自容納單元，但是不像虛擬機(jī)那樣徹底。容器不需要安裝主機(jī)操作系統(tǒng)，直接將容器層(如LXC)安裝在主機(jī)操作系統(tǒng)之上，安裝完容器層之后就可以分配實(shí)例了。總體而言，可以看作是更輕量級(jí)的虛擬機(jī)技術(shù)。

SLA:即Service Level Agreement，服務(wù)等級(jí)協(xié)議，其中定義了服務(wù)類型、服務(wù)質(zhì)量和用戶付款等內(nèi)容。典型的SLA包括分配給用戶的最小帶寬和帶寬極限，最小網(wǎng)絡(luò)利用性能如99.9％有效工作時(shí)間，各類用戶的流量優(yōu)先權(quán)，懲罰規(guī)定等。按照SLA要求，服務(wù)商應(yīng)當(dāng)應(yīng)用多種技術(shù)去監(jiān)控和管理服務(wù)器以滿足用戶需求并產(chǎn)生對(duì)應(yīng)的服務(wù)報(bào)告。

Cidon等提出了一個(gè)基于DRAM的KV緩存系統(tǒng)——Memshare，這個(gè)系統(tǒng)能保障各個(gè)用戶有一個(gè)最低限的cache空間，剩下的cache空間用戶由所有租戶共享。Memshare可以在保證每個(gè)用戶有一定的命中率保障，同時(shí)盡可能提高總命中率。Memshare實(shí)際是一種折中的方案，一方面能夠保障每個(gè)用戶有一定的緩存空間，另一方面盡可能提高系統(tǒng)的平均性能(提高平均命中率)。但是Memshare對(duì)這兩個(gè)優(yōu)化目標(biāo)都沒有任何保障，不能保證每個(gè)用戶的命中率，對(duì)用戶的延遲、訪問帶寬等SLA指標(biāo)也無法保證；不能保證系統(tǒng)的總命中率，也不是針對(duì)最小化系統(tǒng)成本而設(shè)計(jì)。

Stefanovici等提出了一個(gè)軟件定義的多租戶緩存框架——Moirai，這是一個(gè)為用戶提供可編程緩存的租戶和工作負(fù)載感知系統(tǒng)。用戶可以根據(jù)工作負(fù)載特性設(shè)置規(guī)則以優(yōu)化緩存性能。Moirai系統(tǒng)主要是提供一種用戶可編程的機(jī)制，定制緩存管理，但是并沒有提出一種方法來保障用戶得到的帶寬或最小化系統(tǒng)成本。

如圖1所示，在云計(jì)算場景下，一般都先將資源進(jìn)行虛擬化，以便進(jìn)行管理。每個(gè)物理節(jié)點(diǎn)上一般會(huì)有若干個(gè)容器(Docker)，每個(gè)容器配備一定的資源，然后通過云資源管理平臺(tái)(如YARN,Kubernetes等)進(jìn)行分配和管理。對(duì)于一個(gè)分布式存儲(chǔ)系統(tǒng)，每個(gè)實(shí)例實(shí)際都是運(yùn)行在容器中的。對(duì)于分布式存儲(chǔ)系統(tǒng)整體來說，上面面臨多個(gè)租戶的訪問時(shí)，會(huì)為每個(gè)租戶提供一定的SLA保障，例如保障其訪問帶寬、延遲或尾延遲的指標(biāo)。