[發(fā)明專利]一種Cache的替換方法及裝置

在審

• 申請?zhí)枺?/td>: 201210207136.0
• 申請日: 2012-06-21
• 公開（公告）號: CN103514111A
• 公開（公告）日: 2014-01-15
• 發(fā)明（設(shè)計(jì)）人: 陳立仁
• 申請（專利權(quán)）人: 華為技術(shù)有限公司
• 主分類號: G06F12/12
• 分類號: G06F12/12
• 代理公司: 深圳市深佳知識產(chǎn)權(quán)代理事務(wù)所(普通合伙) 44285
• 代理人: 唐華明

技術(shù)領(lǐng)域

本發(fā)明涉及數(shù)據(jù)處理技術(shù)，具體涉及一種高速緩沖存儲器(Cache)的替換方法及裝置。

背景技術(shù)

隨著計(jì)算機(jī)技術(shù)的飛速發(fā)展，處理器與存儲器訪問速度之間的差距越來越大，導(dǎo)致內(nèi)存墻問題也越來越嚴(yán)重，成為影響計(jì)算機(jī)系統(tǒng)性能最主要的瓶頸之一。所謂內(nèi)存墻是指，內(nèi)存性能嚴(yán)重限制CPU性能發(fā)揮的現(xiàn)象。

為了緩解CPU與內(nèi)存之間的速度差距，現(xiàn)有的計(jì)算機(jī)體系結(jié)構(gòu)廣泛采用在CPU與內(nèi)存之間設(shè)置高速緩沖存儲器Cache的方式，將一些可能會被反復(fù)調(diào)用的程序數(shù)據(jù)或者報(bào)文數(shù)據(jù)存入Cache中。在CPU訪問內(nèi)存時(shí)，首先判斷所要訪問的內(nèi)容是否在Cache中，如果在Cache中，則被稱為“命中”，此時(shí)，CPU直接從Cache中調(diào)用所要訪問的內(nèi)容；如果不在Cache中，則被稱為“缺失”，CPU需要去內(nèi)存中調(diào)用所要訪問的內(nèi)容。因?yàn)镃ache的存取速率非常快，使得CPU的利用率大大提高，進(jìn)而也使整個計(jì)算機(jī)系統(tǒng)的性能得以提升。

數(shù)據(jù)被存入Cache中，在需要時(shí)被CPU調(diào)用進(jìn)行解析和處理操作，一般情況下，數(shù)據(jù)輸入Cache的速度遠(yuǎn)小于CPU處理數(shù)據(jù)的速度，因此CPU有足夠的時(shí)間處理Cache內(nèi)的數(shù)據(jù)，因此，在有新數(shù)據(jù)輸入Cache需要進(jìn)行數(shù)據(jù)替換時(shí)，Cache可以按照CPU的指示選擇已處理過的數(shù)據(jù)作為被替換對象替換出Cache。而在出現(xiàn)數(shù)據(jù)突發(fā)流量過大的情況時(shí)，數(shù)據(jù)存入Cache的速度大于CPU的處理速度，考慮到Cache的容量問題，此時(shí)會將當(dāng)前輸入的數(shù)據(jù)視為最近需要訪問的數(shù)據(jù)存入到Cache，而替換掉Cache中先前已保存的數(shù)據(jù)。在這種突發(fā)情況下，選擇出的被替換對象可能還未被CPU處理，如果將這部分?jǐn)?shù)據(jù)從本級Cache替換到下一級Cache(某些計(jì)算機(jī)可能配置有二級、三級緩存，每級緩存比前一級緩存容量大且速度慢，此處是指將先前已保存的數(shù)據(jù)從一級緩存中替換到二級、甚至三級緩存中)或者替換到DDR(Double?Data?Rate，雙倍速率同步動態(tài)隨機(jī)存儲器)中，在CPU需要調(diào)用該部分?jǐn)?shù)據(jù)時(shí)，只能去下一級Cache或者DDR中讀取，這就降低了本級Cache的數(shù)據(jù)命中率，而數(shù)據(jù)命中率低就意味著CPU在進(jìn)行數(shù)據(jù)處理時(shí)需要去其它地方讀取數(shù)據(jù)，這勢必會增加CPU讀取數(shù)據(jù)的時(shí)間，降低CPU的處理速度，導(dǎo)致計(jì)算機(jī)性能跳水。

發(fā)明內(nèi)容

本發(fā)明實(shí)施例提供一種Cache的數(shù)據(jù)替換方法及裝置，在出現(xiàn)數(shù)據(jù)突發(fā)流量很大的情況時(shí)，通過合理替換Cache內(nèi)已保存的數(shù)據(jù)，實(shí)現(xiàn)推遲計(jì)算機(jī)發(fā)生性能跳水的時(shí)間，縮短性能跳水的持續(xù)時(shí)長，降低性能跳水程度的目的。

為此，本發(fā)明實(shí)施例提供如下技術(shù)方案：

一種Cache的數(shù)據(jù)替換方法，所述方法包括：

獲取Cache的工作狀態(tài)，判斷輸入所述Cache的數(shù)據(jù)是否出現(xiàn)突發(fā)流量過大情況；

如果出現(xiàn)數(shù)據(jù)突發(fā)流量過大情況，則確定與所述數(shù)據(jù)突發(fā)流量相適應(yīng)的數(shù)據(jù)替換周期，以使所述Cache按照所述數(shù)據(jù)替換周期將已保存在所述Cache中的數(shù)據(jù)替換為輸入的數(shù)據(jù)。

一種Cache的數(shù)據(jù)替換裝置，所述裝置包括：

工作狀態(tài)獲取單元，用于獲取Cache的工作狀態(tài)，判斷輸入所述Cache的數(shù)據(jù)是否出現(xiàn)突發(fā)流量過大情況；

數(shù)據(jù)替換周期確定單元，用于在出現(xiàn)數(shù)據(jù)突發(fā)流量過大情況時(shí)，確定與所述數(shù)據(jù)突發(fā)流量相適應(yīng)的數(shù)據(jù)替換周期，以使所述Cache按照所述數(shù)據(jù)替換周期將已保存在所述Cache中的數(shù)據(jù)替換為輸入的數(shù)據(jù)。

本發(fā)明實(shí)施例一種Cache的數(shù)據(jù)替換方法及裝置，通過獲取Cache的工作狀態(tài)判斷當(dāng)前是否出現(xiàn)數(shù)據(jù)突發(fā)流量過大情況，如果出現(xiàn)，則說明Cache當(dāng)前采用的數(shù)據(jù)替換周期不能適應(yīng)本次的數(shù)據(jù)突發(fā)流量，需要調(diào)整數(shù)據(jù)替換周期，使之與本次數(shù)據(jù)突發(fā)流量相適應(yīng)。本發(fā)明實(shí)施例通過確定合適的數(shù)據(jù)替換周期的方式，延緩Cache內(nèi)已保存的數(shù)據(jù)被替換的時(shí)間，推遲了計(jì)算機(jī)發(fā)生性能跳水的時(shí)間，縮短了性能跳水持續(xù)的時(shí)長，并且還降低了性能跳水的程度。

附圖說明

為了更清楚地說明本申請實(shí)施例或現(xiàn)有技術(shù)中的技術(shù)方案，下面將對實(shí)施例或現(xiàn)有技術(shù)描述中所需要使用的附圖作簡單地介紹，顯而易見地，下面描述中的附圖僅僅是本申請中記載的一些實(shí)施例，對于本領(lǐng)域普通技術(shù)人員來講，還可以根據(jù)這些附圖獲得其他的附圖。

圖1是本發(fā)明實(shí)施例Cache的數(shù)據(jù)替換方法的流程圖；

圖2-a為輸入Cache的數(shù)據(jù)出現(xiàn)突發(fā)流量過大情況的示意圖；

圖2-b為讀寫分配請求次數(shù)為1時(shí)性能跳水情況的曲線示意圖；