[發(fā)明專利]一種基于訪問頻率的緩存優(yōu)化方法及系統(tǒng)

有效

• 申請?zhí)枺?/td>: 202010789579.X
• 申請日: 2020-08-07
• 公開（公告）號(hào): CN112015679B
• 公開（公告）日: 2022-07-08
• 發(fā)明（設(shè)計(jì)）人: 丁麒森;田琳
• 申請（專利權(quán)）人: 蘇州浪潮智能科技有限公司
• 主分類號(hào): G06F12/126
• 分類號(hào): G06F12/126
• 代理公司: 濟(jì)南誠智商標(biāo)專利事務(wù)所有限公司 37105
• 代理人: 王敏

本發(fā)明公開了一種基于訪問頻率的緩存優(yōu)化方法及系統(tǒng)，涉及服務(wù)器運(yùn)維管理技術(shù)領(lǐng)域。方法包括：采用頻率近似統(tǒng)計(jì)方法削減維護(hù)緩存頻次所需的空間；然后基于時(shí)間變化更新緩存的訪問頻次。本方法通過采用頻率近似統(tǒng)計(jì)方法削減維護(hù)緩存頻次所需的空間，解決了維護(hù)高頻次的訪問元數(shù)據(jù)存在的消耗大量計(jì)算和存儲(chǔ)資源的問題，然后使用一種隨訪問頻次更新的統(tǒng)計(jì)方式，基于時(shí)間變化更新緩存的訪問頻次，減少了頻率保存的空間占用，解決了現(xiàn)有LRU緩存設(shè)計(jì)中存在的高負(fù)載下的空間消耗及部分?jǐn)?shù)據(jù)不準(zhǔn)確的問題。本發(fā)明基于訪問頻率淘汰策略，采用低占用、高命中率的緩存機(jī)制，降低了資源消耗，提高了緩存命中率。

技術(shù)領(lǐng)域

本發(fā)明實(shí)施例涉及服務(wù)器運(yùn)維管理技術(shù)領(lǐng)域，具體來說涉及一種基于訪問頻率的緩存優(yōu)化方法及系統(tǒng)。

背景技術(shù)

緩存是提高系統(tǒng)性能最基本、最有效的方法之一。它是通過將一小部分?jǐn)?shù)據(jù)項(xiàng)保留在內(nèi)存中，達(dá)到快速訪問的目的。緩存工作產(chǎn)生的直觀原因是計(jì)算機(jī)科學(xué)中許多領(lǐng)域的數(shù)據(jù)訪問都表現(xiàn)出相當(dāng)程度的位置性，捕捉這種局部性的一個(gè)更正式的方法就是通過概率分布來描述所有可能的數(shù)據(jù)項(xiàng)的訪問頻率，并注意到在真實(shí)系統(tǒng)中概率分布是高度傾斜的，這意味著少數(shù)對象比其他對象的訪問頻率更高。當(dāng)訪問到來時(shí)，若請求的數(shù)據(jù)在緩存中，稱為緩存命中，命中的次數(shù)和訪問總次數(shù)的比值就是緩存命中率，顯然，命中率是緩存的重要指標(biāo)之一。通常情況下，緩存的容量有限，因此選擇將哪些數(shù)據(jù)保留在緩存中，以及在緩存滿了的情況下，如何淘汰緩存里的舊數(shù)據(jù)以提高命中率，是緩存設(shè)計(jì)中的核心問題。

現(xiàn)有技術(shù)中，一種經(jīng)典的緩存設(shè)計(jì)思路叫LFU(Least Frequency Used，最小使用頻率)，即最少被訪問到的緩存會(huì)被淘汰。這種緩存在實(shí)現(xiàn)中存在兩個(gè)問題：一是需要維護(hù)數(shù)據(jù)訪問次數(shù)，這部分?jǐn)?shù)據(jù)也會(huì)占用內(nèi)存空間，且實(shí)現(xiàn)繁瑣；二是部分場景不適用，比如說緩存的電視劇，在剛推出時(shí)點(diǎn)擊率非常高，但時(shí)間一過就明顯降低，這樣的高頻數(shù)據(jù)也不應(yīng)該留在緩存中。LFU的一種改進(jìn)形式是LRU(Least Recently Used，最近最少算法)，其在LFU的基礎(chǔ)上，維護(hù)一個(gè)時(shí)間滑動(dòng)窗口，只統(tǒng)計(jì)時(shí)間窗口內(nèi)的頻次數(shù)據(jù)，從而在應(yīng)對突發(fā)流量上獲得比LFU更好的效果。然而，在高負(fù)載下情況下，LRU依然需要很多空間才能達(dá)成和LFU一致的緩存命中率。

發(fā)明內(nèi)容

本發(fā)明實(shí)施例提供一種基于訪問頻率的緩存優(yōu)化方法及系統(tǒng)，基于訪問頻率淘汰策略，采用低占用、高命中率的緩存機(jī)制，降低了資源消耗，提高了緩存命中率。

為實(shí)現(xiàn)上述目的，本發(fā)明公開了如下技術(shù)方案：

一方面，本發(fā)明提供一種基于訪問頻率的緩存優(yōu)化方法，所述方法包括以下步驟：

首先采用頻率近似統(tǒng)計(jì)方法削減維護(hù)緩存頻次所需的空間；

然后基于時(shí)間變化更新緩存的訪問頻次。

基于上述方案，本方法做如下優(yōu)化：

進(jìn)一步的，所述采用頻率近似統(tǒng)計(jì)方法削減維護(hù)緩存頻次所需的空間，包括下述步驟：

采用n個(gè)兩兩獨(dú)立的哈希算法為緩存中的每個(gè)鍵值計(jì)算出n個(gè)哈希值h1，h2，…，hn，將這些哈希值分布在二維空間上，當(dāng)請求到來時(shí)，取min(h1，h2，…，hn)并加1，然后將上述min(h1，h2，…，hn)加1后的值作為該鍵值的近似統(tǒng)計(jì)。

進(jìn)一步的，所述基于時(shí)間變化更新緩存的訪問頻次，包括下述步驟：

使用計(jì)數(shù)器記錄緩存訪問頻次，每次訪問后將計(jì)數(shù)器的值加1，當(dāng)計(jì)數(shù)值達(dá)到訪問閾值后，所有的訪問統(tǒng)計(jì)更新統(tǒng)一做右移一位處理，將實(shí)際頻率以2為底的對數(shù)作為最終頻率統(tǒng)計(jì)。

進(jìn)一步的，所述方法還包括如下步驟：

將訪問頻次為1的數(shù)據(jù)及主緩存區(qū)淘汰的數(shù)據(jù)放置于小緩存中暫存。

另一方面，本發(fā)明提供一種基于訪問頻率的緩存優(yōu)化系統(tǒng)，所述系統(tǒng)包括：