[發(fā)明專利]一種基于熱頁遷移的虛擬機(jī)動(dòng)態(tài)緩存方法

在審

• 申請(qǐng)?zhí)枺?/td>: 201410110698.2
• 申請(qǐng)日: 2014-03-24
• 公開（公告）號(hào): CN103885815A
• 公開（公告）日: 2014-06-25
• 發(fā)明（設(shè)計(jì)）人: 汪小林;胡夏蒙;李曄晨;羅英偉;陳昊罡
• 申請(qǐng)（專利權(quán)）人: 北京大學(xué)
• 主分類號(hào): G06F9/455
• 分類號(hào): G06F9/455;G06F9/48;G06F12/08
• 代理公司: 北京君尚知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 11200
• 代理人: 余長(zhǎng)江

技術(shù)領(lǐng)域

本發(fā)明屬于計(jì)算機(jī)技術(shù)、虛擬化技術(shù)領(lǐng)域，涉及虛擬機(jī)管理器的內(nèi)存管理技術(shù)，具體涉及一種基于熱頁遷移的虛擬機(jī)動(dòng)態(tài)緩存方法。

背景技術(shù)

在現(xiàn)代計(jì)算機(jī)系統(tǒng)中，緩存扮演了一個(gè)重要的角色。在虛擬化環(huán)境中，多個(gè)虛擬機(jī)并發(fā)執(zhí)行并搶奪共享資源的情況很常見，資源競(jìng)爭(zhēng)現(xiàn)象同時(shí)存在于應(yīng)用級(jí)別與系統(tǒng)級(jí)別中，這一現(xiàn)象使得緩存競(jìng)爭(zhēng)與緩存污染的問題顯得尤為突出。在這種情況下，對(duì)共享資源競(jìng)爭(zhēng)情況的探測(cè)是十分重要的，而被用于控制競(jìng)爭(zhēng)訪問請(qǐng)求的探測(cè)技術(shù)能夠達(dá)到虛擬化系統(tǒng)性能隔離的目的同時(shí)使總性能提高。

對(duì)于現(xiàn)有的靜態(tài)緩存劃分策略，其在虛擬機(jī)啟動(dòng)時(shí)，人工控制其獨(dú)立使用的緩存的大小。通過頁面著色技術(shù)，能夠把內(nèi)存頁面的一個(gè)子集通過著色分配給目標(biāo)虛擬機(jī)使用，利用該技術(shù)可以控制在虛擬機(jī)管理器中的緩存劃分。實(shí)驗(yàn)結(jié)果顯示，通過管理最低級(jí)緩存（llc），能夠顯著提高緩存與程序的性能。但是，靜態(tài)緩存劃分存在兩個(gè)缺點(diǎn)。首先，緩存劃分的大小需要事先決定，且在虛擬機(jī)啟動(dòng)后不能改變。其次，預(yù)留給虛擬機(jī)的緩存份額受到虛擬機(jī)所占用的內(nèi)存比例的限制，因?yàn)檐浖澐植呗源嬖诰窒扌浴榱私鉀Q這些問題，本項(xiàng)專利提出了一個(gè)在虛擬化平臺(tái)上的動(dòng)態(tài)緩存劃分策略。

發(fā)明內(nèi)容

本發(fā)明的目的是建立一種基于熱頁遷移的虛擬機(jī)動(dòng)態(tài)緩存方法，能夠用來降低并行程序的緩存沖突，從而提高緩存利用率，使程序執(zhí)行效率得到提升。

本發(fā)明采用的技術(shù)方案如下：

一種基于熱頁遷移的虛擬機(jī)動(dòng)態(tài)緩存方法，其步驟包括：

1）熱頁監(jiān)控：利用頁表項(xiàng)的訪問位監(jiān)測(cè)頁面的使用，將所有頁面按訪問頻度（熱度）進(jìn)行排序；

2）頁面遷移：通過頁面遷移對(duì)虛擬機(jī)的緩存配額進(jìn)行調(diào)整，優(yōu)先將訪問頻度（熱度）高的頁面遷移到新的緩存分區(qū)內(nèi)，實(shí)現(xiàn)動(dòng)態(tài)緩存劃分。

下面具體說明本發(fā)明的技術(shù)方案：

1.頁面遷移

每個(gè)機(jī)器頁面會(huì)有固定的顏色。但是物理頁面的顏色取決于它是映射到了哪一個(gè)機(jī)器頁面上。為了動(dòng)態(tài)的改變分配給客戶機(jī)的緩存大小，必須能夠改變機(jī)器頁面所對(duì)應(yīng)的物理頁面。這一過程被稱為頁面遷移。頁面遷移是動(dòng)態(tài)緩存劃分的基礎(chǔ)。

頁面遷移有三個(gè)基本的步驟，如圖1所示。首先，移除物理頁面和與之對(duì)應(yīng)的機(jī)器頁面的映射，以保證遷移過程中頁面內(nèi)容不會(huì)發(fā)生變化，如圖1中(a)圖所示。然后把原頁面的內(nèi)容拷貝到具有被請(qǐng)求的顏色的頁面上，如圖1中(b)圖所示。最后，重新建立映射，所有對(duì)物理頁面的修改將被執(zhí)行到新的機(jī)器頁面上，如圖1中(c)圖所示。

2.熱頁檢測(cè)

頁面遷移允許在頁面這樣的細(xì)粒度對(duì)虛擬機(jī)進(jìn)行調(diào)整。當(dāng)需要對(duì)虛擬機(jī)的緩存配額進(jìn)行調(diào)整時(shí)，我們選擇一些頁面然后把它們遷移到新的緩存分區(qū)里。但問題是，如何選擇應(yīng)該遷移的頁面，即應(yīng)該遷移哪些頁面。

最簡(jiǎn)單的重新劃分方法是均勻的選擇頁面。舉例來說，如果想把虛擬機(jī)的緩存分區(qū)（顏色）從1-5調(diào)整到1-4，可以把分區(qū)5中的所有頁面以輪轉(zhuǎn)的次序遷移到分區(qū)1-4中。反之，如果要把緩存分區(qū)從1-4擴(kuò)大到1-5，就從分區(qū)1-4中隨機(jī)選擇一批頁面遷移到分區(qū)5中。這種策略保證了遷移完成后的緩存分布與直接進(jìn)行靜態(tài)緩存劃分的結(jié)果是一致的。但是這種策略的缺點(diǎn)就是耗時(shí)過長(zhǎng)，其帶來的開銷通常超過劃分緩存所帶來的性能提升，反而導(dǎo)致虛擬機(jī)整體性能下降。

一個(gè)更好的策略是只關(guān)注那些被頻繁使用的頁面，因此本發(fā)明引入了熱頁監(jiān)控機(jī)制來驅(qū)動(dòng)動(dòng)態(tài)緩存劃分。熱頁監(jiān)控機(jī)制把所有頁面按訪問頻度（熱度）進(jìn)行排序。緩存劃分模塊會(huì)首先遷移熱度最高的頁面。這種策略加速了緩存的劃分，也部分解決了由于虛擬機(jī)內(nèi)存大小所帶來的緩存分區(qū)大小的限制。

熱頁監(jiān)控機(jī)制利用了頁表項(xiàng)的訪問位來監(jiān)測(cè)頁面的使用。在分頁模式下，當(dāng)一條指令訪問某個(gè)虛擬頁面時(shí)，MMU（Memory?Management?Unit）自動(dòng)將該頁面對(duì)應(yīng)頁表項(xiàng)的Accessed位置1。在操作系統(tǒng)中，這個(gè)性質(zhì)被廣泛用于實(shí)現(xiàn)頁緩存(Page?Cache)中的頁面老化算法。在使用影子頁表的虛擬機(jī)環(huán)境中，每次內(nèi)存訪問都會(huì)通過影子頁表映射。所以也可以用類似的方法實(shí)現(xiàn)熱頁監(jiān)控。